Deepfakes utgör hot ett hot mot demokratin. Detta är en av slutsatserna som forskare har kommit fram till i en studie på uppdrag av EU-parlamentet. Deepfakes är manipulerade eller konstgjorda ljud- eller bildmedier som verkar autentiska och där personer säger eller gör något som de aldrig har sagt eller gjort. Deepfakes tas fram med hjälp av tekniker för artificiell intelligens (“AI”) som bland annat maskininlärning och neuronnät.
Studien visar att uppkomsten av deepfakes har allvarliga konsekvenser för trovärdigheten av bild- och ljudmaterial. Den ger upphov till ett brett spektrum av potentiella samhälleliga och ekonomiska skador, bland annat manipulation av demokratiska processer, finansiella, rättsliga och vetenskapliga system. Deepfakes möjliggör alla typer av bedrägerier, särskilt bedrägerier som rör identitetsstöld. Individer, särskilt kvinnor, löper en ökad risk för förtal, hot och utpressning, eftersom deepfake-tekniken för närvarande främst används för att byta ut offrens ansikten mot skådespelerskor i pornografiska videos.
I studien föreslås lagstiftningsåtgärder för att förebygga och hantera de negativa effekterna av deepfakes, till exempel genom att reglera användningen av deepfakes i EU kommissionens nya AI-förordning och Data Governance Act.
Ta del av studien, endast tillgänglig på engelska, här.