Den 21 april 2021 presenterade EU-kommissionen sitt förslag till en förordning om harmoniserade regler för artificiell intelligens (AI). Den nya AI-förordningen innehåller bestämmelser om att vissa användningar av AI-system ska vara förbjudna. Denna artikel analyserar vilka användningar som omfattas.
Reglering och omfattning av förbjuden
Förbuden regleras i artikel 5 av den nya AI-förordningen och gäller att placera sådana AI-system på marknaden, ta systemen i bruk och att använda systemen.
Användning av subliminala tekniker
Förbuden gäller för AI-system som använder subliminala metoder för att manipulera en persons beteende på ett sätt som innebär eller sannolikt kan innebära att den personen eller en annan person orsakas fysisk eller psykisk skada.
Utnyttjande av sårbarheter
Förbuden gäller för AI-system som används för att utnyttja sårbarheter hos en specifik grupp av människor, om sårbarheten beror på ålder, mental eller fysisk funktionsnedsättning, och syftet är att väsentligt förändra beteendet hos en person som tillhör gruppen på ett sätt som innebär eller sannolikt kan innebära att den personen eller annan person orsakas fysisk eller psykisk skada.
Profilering och social poängsättning
Förbuden gäller AI-system som används av eller på uppdrag av offentliga organ för att profilera och klassificera fysiska personers trovärdighet över en viss tid baserat på personernas beteende eller uppskattade personlighet eller personlighetsdrag hos personen utifrån ett poängsystem. Åtgärden i fråga ska leda till skadlig eller ogynnsam behandling av personen, eller en grupp av personer, i en social kontext som inte har samband med den kontext som data samlades in i eller skapades för. Användningen ska leda till skadlig eller ogynnsam behandling av personen eller en grupp av personer som är obefogad eller oproportionerlig i förhållande till beteendet eller följderna av detta.
Biometrisk fjärridentifiering i realtid
Förbuden gäller AI-system som identifierar personer på distans i realtid på offentliga platser, där identifieringen baseras på biometriska uppgifter, i brottsbekämpande syften. Förbudet är inte absolut utan medlemsstaterna kan välja att medge undantag från förbudet i syfte att t.ex. eftersöka brottsoffer, inklusive försvunna barn, eller personer som misstänks för allvarlig brottslighet. Undantag kan även medges om det finns en betydande och nära förstående risk för liv eller personlig säkerhet eller en terroristattack. För användning av ett AI-system med stöd av undantaget krävs att ett beslut om förhandsgodkännande fattas av behörig rättslig myndighet i medlemsstaten, i enlighet med nationell rätt och i varje enskilt fall. Om situationen är akut, får ett sådant godkännande dock ges i efterhand.
Analys
Den nya AI-förordningen innehåller långtgående förbud för vissa användningar av AI-system. Förbuden påverkar privata och offentliga verksamheters möjligheter att utveckla, sälja och använda vissa typer av AI-system. Enligt vissa är förbuden i sin nuvarande form inte tillräckligt långtgående. EDPB anser exempelvis att alla former av social poängsättning bör förbjudas i den nya AI-förordningen mot bakgrund av de särskilda risker som uppstår när privata företag, särskilt sociala medier och molntjänster, behandlar stora mängder personuppgifter och utför social poängsättning.
Nästa steg
Privata och offentliga verksamheter som redan idag utvecklar, säljer eller använder AI-system, eller planerar att göra det framöver, rekommenderas att noga följa utvecklingen på området AI-förordningen, särskilt på området förbjudna användningar av AI-system. Genomförandet av gjorbarhetsstudier, förstudier, riskanalyser och/eller konsekvensbedömningar rekommenderas. I förekommande fall bör analyserna genomföras i ett tidigt skede under utvecklingsprocessen eller med god framförhållning innan en upphandlingsprocess påbörjas. Ett sådant tillvägagångssätt bidrar till att säkerställa regelefterlevnad och undvika höga kostnader samt eventuella sanktionsavgifter.
Kontakta Sebastian Berg (sebastian@techlaw.se), expert inom IT/teknik, dataskydd och AI för råd.