AI-förordningen förbjuder vissa typer av manipulativa AI-system. Ett exempel är system som använder så kallade subliminala tekniker. Detta aktualiserar frågan vad som avses med begreppet subliminala tekniker i AI-förordningens mening.
Vad är subliminala tekniker?
Innebörden av begreppet förtydligas på flera ställen i AI-förordningen, men det saknar en formell definition. Av ordalydelsen i artikel 5.1 (a) i AI-förordningen framgår att subliminala tekniker är tekniker som människor inte är medvetna om.
Enligt EU-kommissionen ska detta tolkas som att subliminala tekniker verkar bortom (under eller över) människans medvetenhetströskel. Eftersom subliminala tekniker och det sätt på vilket de verkar i sig är dolda kringgår sådana tekniker en persons rationella försvar mot manipulering och kan påverka beslut utan att personen är medveten om detta.
Rättslig innebörd
Enligt EU-kommissionen måste subliminala tekniker kunna påverka beteendet på sätt som gör att en person inte är medveten om själva påverkan, hur den fungerar eller dess effekter på personens beslutsfattande eller värde- och åsiktsbildning.
Subliminala tekniker kan i synnerhet använda stimuli som översänds via ljud- eller bildmedier eller taktila medier och som är för kortvariga eller subtila för att märkas, och som traditionellt har varit kända och förbjudna inom andra sektorer, exempelvis mediereklam. Även om de inte uppfattas medvetet kan dessa stimuli ändå bearbetas av hjärnan och påverka beteendet.
EU-kommissionen anger flera exempel på subliminala tekniker och förtydligar samtidigt att dessa inte nödvändigtvis är förbjudna såvida inte alla andra villkor som anges i artikel 5.1 (a) i AI-förordningen är uppfyllda. Exempel som nämns är visuella och auditiva subliminala meddelanden, taktila subliminala stimuli och tidsmanipulering.
Ett konkret exempel som anförs av EU-kommissionen är ett AI-system som visar eller bäddar in bilder som blinkar kortvarigt under en videouppspelning. Bilderna är tekniskt sett synliga men blinkar för snabbt för att medvetandet ska kunna registrera detta. Samtidigt kan bilderna ändå påverka attityder eller beteenden. Den subliminala tekniken som används i detta exempel kallas visuella subliminala meddelanden.
Ett annat exempel är ett AI-system som använder stimuli som inte bara är diskreta eller maskerade, utan som presenteras på ett sätt som gör dem helt omöjliga att upptäcka av mänskliga sinnen under normala förhållanden. Det kan till exempel vara fråga om visuella stimuli som blinkar för snabbt för att det mänskliga ögat medvetet ska kunna uppfatta det. Eller så kan det vara fråga om ljud som spelas upp med en volym som är ohörbar för det mänskliga örat. Den subliminala tekniken som används i detta exempel är signaler som varken är syn- eller hörbara.
Praktiska konsekvenser
EU-kommissionen påpekar att subliminala teknikers förmåga att manipulera personer i det dolda ger upphov till betydande etiska farhågor samtidigt som det riskerar att försämra människors autonomi, beslutsfattande eller fria val. EU-kommissionen understryker vidare att den snabba utvecklingen av AI och därmed relaterad teknik ökar risken för mer sofistikerad subliminal manipulering och dennas förmåga att effektivt påverka mänskligt beteende.
Verksamheter som utvecklar eller använder AI-system bör undersöka i vilken utsträckning AI-systemen utnyttjar subliminala tekniker. I förekommande fall behöver verksamheter säkerställa att sådan användning inte strider mot AI-förordningens förbud av AI-baserad manipulativ teknik. Då såväl AI-system som rättspraxis utvecklas löpande behöver bedömningen ses över löpande.
Relaterad expertis
TechLaw bistår verksamheter i frågor som rör artificiell intelligens, AI-förordningen och regulatorisk regelefterlevnad vid utveckling och användning av AI-system. Läs mer om vår expertis inom artificiell intelligens.
Har ni frågor om hur AI-förordningen påverkar er verksamhet är ni välkomna att kontakta oss.
Källa: Förordning (EU) 2024/1689; EU-kommissionen.