Den ökande trenden med AI-driven desinformation, som bland annat deepfakes av politiker på sociala medier, kan riskera integriteten av den demokratiska valprocessen och även minska befolkningens tillit i myndigheter. Nu agerar även den svenska regeringen med en satsning på att utbilda befolkningen i AI-driven desinformation.
Regeringen har gett Mediemyndigheten i uppdrag att under 2024 och 2025 genomföra en bred och långsiktigt hållbar nationell satsning för att stärka befolkningens medie- och informationskunnighet (MIK). Uppdraget ska genomföras i samverkan med nätverket MIK Sverige. Insatsen ska stärka individer som medvetna medieanvändare i en tid av snabb teknikutveckling som exempelvis AI. Avsikten är att öka den grundläggande förmågan att förstå och källkritiskt värdera olika budskap, samtidigt som tilliten till trovärdiga avsändare kan upprätthållas. Satsningen ska därigenom bidra till samhällets motståndskraft mot bland annat desinformation och otillbörlig informationspåverkan.
Uppdraget kan ses som ett svar på Försvarsberedningens rapport Kraftsamling som bland annat efterlyser vikten av att höja kunskapsnivån om medie- och informationskunnighet, källkritik och digital kompetens hos befolkningen. Mediemyndigheten ska vid genomförandet av insatsen samverka med nätverket MIK Sverige, och senast den 30 april 2026 lämna en slutredovisning av uppdraget.
Riskerna med AI-driven desinformation har uppmärksammats allt oftare under de senaste månaderna. Den icke statliga organisationen Center for Countering Digital Hate har nyligen publicerat en studie som visar hur populära verktyg för generativ AI kan användas för att påverka demokratiska val med hjälp av deepfakes. Vidare har en domstol i Tyskland nyligen förbjudit spridningen av en AI-genererat deepfake av förbundskansler Olaf Scholz. Även EU-kommissionen har nyligen öppnat ett konsultationsförfarande om riktlinjer om begränsning av systemrisker för valprocesser innehållandes bland annat regler om generativ AI och deepfakes.