AI-förordningens förbud mot skadlig manipulation och vilseledning omfattar AI-system som utnyttjar vissa tekniker som syftar eller leder till en väsentlig påverkan på beteendet, på ett sätt som orsakar eller med rimlig sannolikhet kommer att orsaka betydande skada (artikel 5.1 a AI-förordningen). Detta aktualiserar frågan vad som avses med begreppet väsentlig påverkan på beteende i AI-förordningens mening.
Vad avses med väsentlig påverkan på beteende?
Ett centralt villkor för att förbudet ska gälla är att den använda tekniken måste syfta eller leda till en väsentlig påverkan på en persons eller en grupp av personers beteende. Detta ska ske genom att avsevärt försämra personernas förmåga att fatta ett välgrundat beslut. Följden av påverkan måste vara att personerna fattar ett beslut som de annars inte skulle ha fattat, på ett sätt som orsakar eller med rimlig sannolikhet kommer att orsaka betydande skada (artikel 5.1 a AI-förordningen).
Rättslig innebörd
Utgångspunkten är enligt EU-kommissionen att det ska föreligga en betydande inverkan på beteendet med ett undergrävande av en persons autonomi och fria val som följd för att det ska vara fråga om en sådan påverkan som avses i bestämmelsen. Det är därför inte fråga om en mindre påverkan.
Vidare anser EU-kommissionen att det inte nödvändigtvis krävs att det föreligger en avsikt att påverka, eftersom bestämmelsens ordalydelse även omfattar metoder som kan leda till väsentlig påverkan. Samtidigt bör det enligt EU-kommissionen finnas ett plausibelt och rimligt sannolikt orsakssamband mellan påverkan och tekniken som utnyttjas.
Därutöver tolkar EU-kommissionen bestämmelsens ordalydelse så att en väsentlig påverkan bör innebära en viss grad av tvång, manipulering eller vilseledande som går utöver laglig övertalning, som inte omfattas av förbudet.
När det gäller en persons förmåga att fatta ett välgrundat beslut poängterar EU-kommissionen att detta förutsätter att personen känner till och förstår relevant information. Denna information omfattar tillgängliga alternativ, risker och fördelar med varje val, AI-systemets möjliga effekter på personens beteende samt, i förekommande fall, annan kontextuell information som är relevant för personens beslutsfattande eller beteende.
Slutligen anser EU-kommissionen att inspiration för tolkningen av begreppet väsentlig påverkan på beteende kan hämtas från konsumenträtten, särskilt direktivet om otillbörliga affärsmetoder (direktiv 2005/29/EG). I direktivet förbjuds olika otillbörliga, vilseledande och aggressiva affärsmetoder som kan få konsumenter att fatta affärsbeslut som de annars inte skulle ha fattat. Enligt rättspraxis finns det inget krav på att bevisa att en konsuments ekonomiska beteende faktiskt har påverkats; det är tillräckligt att fastställa att en affärsmetod sannolikt har en inverkan på genomsnittskonsumentens affärsbeslut. Vidare har EU-domstolen understrukit att även korrekt information kan vara vilseledande om den presenteras på ett sätt som påverkar konsumentens beslutsprocess.
Utifrån detta bör marknadskontrollmyndigheter enligt EU-kommissionens uppfattning tolka begreppet väsentlig påverkan på beteende utifrån perspektivet av en genomsnittsperson i en målgrupp. Detta utesluter enligt EU-kommissionen inte att även enskilda individers perspektiv kan vara relevanta i specifika fall.
Praktiska konsekvenser
För organisationer som utvecklar eller använder AI-system innebär regleringen att bedömningen av systemets påverkan på personer systemet interagerar med behöver integreras i interna processer, däribland processerna för utveckling, upphandling och riskhantering. Särskild vikt behöver läggas vid hur systemet kan påverka personers förmåga att fatta välgrundade beslut och i vilken utsträckning sådan påverkan kan leda till betydande skada.
Relaterad expertis
TechLaw bistår verksamheter med juridisk rådgivning i frågor som rör artificiell intelligens, regulatorisk regelefterlevnad och riskhantering enligt AI-förordningen. Läs mer om vår expertis inom artificiell intelligens.
Har ni frågor om hur förbudet mot manipulation och vilseledning påverkar klassificeringen av era AI-system är ni välkomna att kontakta oss.
Källa: Förordning (EU) 2024/1689; EU-kommissionen.