En domstol i Berlin (Landgericht Berlin) har meddelat ett interimistiskt beslut som förbjuder spridningen av en AI-genererat deepfake av förbundskansler Olaf Scholz. Deepfaken utgörs av en fejkad video av förbundskansler Scholz i vilket en artificiell version av hans röst meddelar att den tyska regeringen kommer att ansöka om att förbjuda AfD, ett av Tysklands största partier.
Deepfaken har tagits fram av ett konstnärskollektiv (Zentrum för Politische Schönheit, ZPS) med hjälp av verktyg för generativ AI och publicerats på sociala nätverk. Deepfaken skapar stor debatt i Tyskland då många anser att även en förnuftig person skulle kunna missta den för att vara äkta.
Domstolen motiverar beslutet med att den tyska regeringens rätt till sitt namn kränkts då videon leder till en så kallad förvirring av tillskrivningar (Zuordnungsverwirrung), dvs. att tittaren kan missta deepfaken för att vara äkta och således felaktigt kan få uppfattningen att den skulle publicerats av den tyska regeringen.
Domstolen konstaterar att ”Förbundskanslerns röst och tal imiterades i en nästan skrämmande kvalitet”, varför en genomsnittlig tittare inte kan inse att den är påhittad. Enligt domstolen förstärks intrycket av ett officiellt tal genom att förbundskanslerns logotyp och den federala örnen används. Domstolen bedömer emellertid att användningen av den federala örnen inte är avgörande, utan att deepfaken sannolikt skulle uppfattas som äkta trots att örnen tagits bort.
Enligt domstolen har deepfaken utformats på ett sätt som syftar till att den ska misstas för ett officiellt regeringsuttalande. Deepfaken saknar i allmänhet en konstnärlig känsla eller satirisk överdrift som gör det tydligt att det inte rör sig om ett verkligt tal. Domstolen anser vidare att inte heller den omfattande mediadebatten av deepfaken undanröjer förvirringen av tillskrivningar.