AI-genererade deepfakes uppmärksammas allt oftare i nyhetsrapporteringen. Medarbetade som luras av AI-bedragare, väljare som rings upp av robotar med fejkade AI-röster och kvinnor som utsätts för AI-skapad hämndporr är bara några få exempel på rubrikerna. Men vad är deepfakes egentligen och hur regleras de i AI-förordningen?
AI-förordningen innehåller en bestämmelse som uttryckligen reglerar vissa användningar av deepfakes. Innan vi tittar närmare på bestämmelsen behöver vi göra en kort avstickare till definitionen av begreppet deepfake som återfinns i artikel 3.60 AI-förordningen. Enligt denna bestämmelse är en deepfake ett AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll som liknar existerande personer, föremål, platser, enheter eller händelser och som för en person felaktigt kan framstå som autentiskt eller sanningsenligt.
Några exempel på innehåll som omfattas av definitionen är robotsamtal som genomförs med AI-genererade röster som liknar röster tillhörande politiker, AI-generade bilder och videor som visar hur personer som liknar existerande personer genomför olika typer av sexuella handlingar, inklusive AI-skapade porrvideor och sexuella övergrepp, samt satirfilmer som använder AI-skapade röster och bilder för att få politiker säga och göra saker som de inte har sagt eller gjort.
En viktig nyans i AI-förordningens definition av begreppet deepfake är att den endast omfattar AI-genererat eller AI-manipulerat innehåll. Omvänt innebär detta att deepfakes som inte är framtagna med hjälp av dessa metoder inte omfattas av definitionen. En människa som härmar en annan människas röst omfattas således inte av definitionen likväl som en bild eller video som manipulerats utan att använda AI-hjälpmedlen.
Vidare till bestämmelsen i AI-förordningen som uttryckligen reglerar vissa användningar av deepfakes. Denna bestämmelse återfinns i artikel 50 AI-förordningen som reglerar transparensskyldigheter för leverantörer och tillhandahållare av vissa AI-system. Enligt artikelns punkt 4 ska en tillhandahållare av ett AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll som utgör en deepfake upplysa om att innehållet har genererats artificiellt eller manipulerats. Denna skyldighet är dock inte tillämplig om användningen enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott. Om innehållet utgör en del av ett uppenbart konstnärligt, kreativt, satiriskt, skönlitterärt eller liknande verk eller program, ska de transparenskrav som anges i denna punkt begränsas till att upplysa om förekomsten av sådant genererat eller manipulerat innehåll på ett lämpligt sätt som inte hindrar visningen eller åtnjutandet av verket.
Innebörden av bestämmelsen förtydligas i skäl 134 AI-förordningen. Enligt skälet bör fullgörandet av denna transparensskyldighet inte tolkas som att användningen av AI-systemet eller dess utdata hindrar rätten till yttrandefrihet och konstens och vetenskapens frihet, särskilt när innehållet ingår i ett uppenbart kreativt, satiriskt, konstnärligt, skönlitterärt eller liknande verk eller program, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter. I dessa fall är transparensskyldigheten enligt skälet begränsad till en upplysning om förekomsten av sådant genererat eller manipulerat innehåll på ett lämpligt sätt som inte hindrar visningen eller åtnjutandet av verket, inbegripet dess normala utnyttjande och användning, samtidigt som verkets nytta och kvalitet upprätthålls. Vidare framgår av skälet att det är lämpligt att föreskriva en liknande upplysningsskyldighet när det gäller AI-genererad eller AI-manipulerad text i den mån den offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse, såvida inte det AI-genererade innehållet har genomgått en process för mänsklig granskning eller redaktionell kontroll och en fysisk eller juridisk person har redaktionellt ansvar för offentliggörandet av innehållet.
Delar i AI-förordningens transparensskyldighet för deepfakes lämnar ett betydande utrymme för tolkning, till exempel när det gäller bedömningen om innehållet utgör en del av ett uppenbart konstnärligt, kreativt, satiriskt, skönlitterärt eller liknande verk eller program. Det finns inte heller någon uppenbar gräns som kan dras mellan ordinär innehåll och innehåll som liknar existerande personer, föremål, platser, enheter eller händelser och som för en person felaktigt kan framstå som autentiskt eller sanningsenligt. Tolkningsutrymmet kommer med all sannolikhet att utfyllas av rättspraxis inför nationella domstolar och EU-domstolen.