Analys: Vilka användningar av AI-system ska förbjudas enligt den nya AI-förordningen?

Den 21 april 2021 presenterade EU-kommissionen sitt förslag till en förordning om harmoniserade regler för artificiell intelligens (AI). Den nya AI-förordningen innehåller bestämmelser om att vissa användningar av AI-system ska vara förbjudna. Denna artikel analyserar vilka användningar som omfattas.

Reglering och omfattning av förbjuden

Förbuden regleras i artikel 5 av den nya AI-förordningen och gäller att placera sådana AI-system på marknaden, ta systemen i bruk och att använda systemen.

Användning av subliminala tekniker

Förbuden gäller för AI-system som använder subliminala metoder för att manipulera en persons beteende på ett sätt som innebär eller sannolikt kan innebära att den personen eller en annan person orsakas fysisk eller psykisk skada.

Utnyttjande av sårbarheter

Förbuden gäller för AI-system som används för att utnyttja sårbarheter hos en specifik grupp av människor, om sårbarheten beror på ålder, mental eller fysisk funktionsnedsättning, och syftet är att väsentligt förändra beteendet hos en person som tillhör gruppen på ett sätt som innebär eller sannolikt kan innebära att den personen eller annan person orsakas fysisk eller psykisk skada.

Profilering och social poängsättning

Förbuden gäller AI-system som används av eller på uppdrag av offentliga organ för att profilera och klassificera fysiska personers trovärdighet över en viss tid baserat på personernas beteende eller uppskattade personlighet eller personlighetsdrag hos personen utifrån ett poängsystem. Åtgärden i fråga ska leda till skadlig eller ogynnsam behandling av personen, eller en grupp av personer, i en social kontext som inte har samband med den kontext som data samlades in i eller skapades för. Användningen ska leda till skadlig eller ogynnsam behandling av personen eller en grupp av personer som är obefogad eller oproportionerlig i förhållande till beteendet eller följderna av detta.

Biometrisk fjärridentifiering i realtid

Förbuden gäller AI-system som identifierar personer på distans i realtid på offentliga platser, där identifieringen baseras på biometriska uppgifter, i brottsbekämpande syften. Förbudet är inte absolut utan medlemsstaterna kan välja att medge undantag från förbudet i syfte att t.ex. eftersöka brottsoffer, inklusive försvunna barn, eller personer som misstänks för allvarlig brottslighet. Undantag kan även medges om det finns en betydande och nära förstående risk för liv eller personlig säkerhet eller en terroristattack. För användning av ett AI-system med stöd av undantaget krävs att ett beslut om förhandsgodkännande fattas av behörig rättslig myndighet i medlemsstaten, i enlighet med nationell rätt och i varje enskilt fall. Om situationen är akut, får ett sådant godkännande dock ges i efterhand.

Analys

Den nya AI-förordningen innehåller långtgående förbud för vissa användningar av AI-system. Förbuden påverkar privata och offentliga verksamheters möjligheter att utveckla, sälja och använda vissa typer av AI-system. Enligt vissa är förbuden i sin nuvarande form inte tillräckligt långtgående. EDPB anser exempelvis att alla former av social poängsättning bör förbjudas i den nya AI-förordningen mot bakgrund av de särskilda risker som uppstår när privata företag, särskilt sociala medier och molntjänster, behandlar stora mängder personuppgifter och utför social poängsättning.

Nästa steg

Privata och offentliga verksamheter som redan idag utvecklar, säljer eller använder AI-system, eller planerar att göra det framöver, rekommenderas att noga följa utvecklingen på området AI-förordningen, särskilt på området förbjudna användningar av AI-system. Genomförandet av gjorbarhetsstudier, förstudier, riskanalyser och/eller konsekvensbedömningar rekommenderas. I förekommande fall bör analyserna genomföras i ett tidigt skede under utvecklingsprocessen eller med god framförhållning innan en upphandlingsprocess påbörjas. Ett sådant tillvägagångssätt bidrar till att säkerställa regelefterlevnad och undvika höga kostnader samt eventuella sanktionsavgifter.

Kontakta Sebastian Berg (sebastian@techlaw.se), expert inom IT/teknik, dataskydd och AI för råd.

Mer information

Källa: AI-förordningen (COM/2021/206 final)

Relaterade nyheter

Områden

I fokus

Länder

Taggar

Populära kurser

Expertis

Gå kurs med oss

06 OKT

Säkerhet för
icke-tekniker

Få en övergripande introduktion till säkerhet vid behandling av personuppgifter.

13 OKT

Privacy by Design
& Privacy by Default

Öka dina kunskaper om GDPR:s krav på inbyggt dataskydd och dataskydd som standard.

10 NOV

Artificiell intelligens & personuppgifter

Få en genomgång av de viktigaste reglerna för AI ur ett dataskyddsperspektiv.