Att övertyga någon är processen att förändra någons tro, ståndpunkt eller åsikt i en specifik fråga. Aktörer som vill övertyga andra i politiska frågor kan numera ta hjälp av AI-chattbottar som ChatGPT eller Copilot.
I en ny studie har forskare från Schweiz och Italien undersökt hur GPT-4, språkmodellen bakom AI-chattbottan ChatGPT, kan användas för att övertyga människor i olika politiska frågor. I detta syfte genomförde forskarna ett kontrollerat experiment där deltagare fick diskutera politiska frågor med debattmotståndare som antingen var en människa eller en AI-chattbot som baserades på GPT-4.
Resultaten visar att GPT-4 under vissa förutsättningar är bättre än människor på att övertyga sina motståndare att ändra sin tidigare ståndpunkt. I experimentet lyckades språkmodellen nästan dubbelt så ofta (82 procent) med att övertyga sina motståndare jämfört med debattörer som var människor. Detta krävde dock att språkmodellen tillhandahöll personuppgifter om sin mänskliga dialogpartner. Utan kompletterande personuppgifter överträffade språkmodellen sina mänskliga motparter i betydligt mindre utsträckning (32 procent oftare) som inte var statistiskt signifikant.
För att genomföra experimentet tog forskarna fram en webbportal där deltagarna tilldelades en slumpmässig dialogpartner, en annan människa eller en AI-chattbot. Deltagarna fick dock inte veta om partnern var en människa eller en chattbot. Debattörerna tilldelades även en diskussionsfråga som exempelvis ”Gör sociala medier människor dumma?” eller ”Ska aborter vara lagliga?” och en ståndpunkt i frågan. I ett första steg fick deltagarna ange om de instämde i frågan eller inte. Därutöver fick de lämna information om sin ålder, kön, utbildningsnivå, yrkesmässig situation och politisk inriktning. Debattörerna fick sedan några minuter var för att presentera sina argument och bemöta den andra sidans argument. Slutligen tillfrågades de än en gång om de instämde i diskussionsfrågan eller inte.
Särskilt intressant är den stora effekten av personuppgifter på GPT-4:s prestation (en förbättring med ungefär 50 procent) trots att språkmodellen endast fick tillgång till en begränsad mängd förhållandevis okänsliga personuppgifter, med undantaget av politisk inställning. Sociala medier och andra onlineplattformar har tillgång till betydligt fler och känsliga personuppgifter om enskilda. En AI-chattbot med tillgång till information i en sådan omfattning skulle potentiellt kunna ta fram svar med en betydligt högre grad av individanpassning vilket sannolikt skulle ökar dennes förmåga att övertyga motparten.
Studiens författare varnar för riskerna detta innebär. En aktör som är illasinnad skulle kunna mata en AI-chattbot med stora mängder personuppgifter och sedan använda den för storskaliga desinformationskampanjer. Genomslagskraften av sådana kampanjer skulle kunna få en betydande effekt genom att chattbotten använder personliga profiler som tas fram på automatiserad väg från digitala spår och beteendedata. Som ett exempel anger forskarna att språkmodeller redan används idag för att skapa psykologiska profiler av användare på sociala medier baserad på deras inlägg.
Det är emellertid oklart i vilken utsträckning resultaten av studien kan tillämpas på verkliga förhållanden. Faktorer som kan påverka tillämpligheten är att deltagarna endast rekryterades från USA och att de slumpmässigt tilldelades en ståndpunkt som de inte nödvändigtvis höll med om från första början. Dessutom genomfördes debatterna under kontrollerade former som inte återspeglar verkliga förhållanden, som till exempel att debattörerna fick skriva chattmeddelanden istället för att prata med varandra.
Icke desto mindre varnar forskarna för riskerna med AI-chattbottars förmåga att övertyga och anser att sociala medier bör ta dem på allvar. De menar också att sociala medier bör vidta åtgärder mot att AI-chattbottar och de underliggande språkmoddelarna används på detta sätt i en stor skala.