Search
Close this search box.

EU: Vad innebär överenskommelsen om den nya AI-förordningen?

AI-förordningen är ett nytt lagförslag för att reglera artificiell intelligens (AI) baserat på dess förmåga att orsaka skada. Förslaget befinner sig i slutskedet av lagstiftningsprocessen när EU-kommissionen, rådet och parlamentet möts i så kallade triloger för att arbeta fram de slutliga bestämmelserna.

Den sista trilogen inleddes den 6 december 2023 och pågick nästan oavbrutet under en hel dag tills man begärde ajournering på fredag morgon. I denna första del av förhandlingarna har en politisk överenskommelse om den slutliga utformningen av AI-förordningen nåtts.

Förbjudna tillämpningar

Med tanke på det potentiella hot mot medborgarnas rättigheter och demokratin som vissa tillämpningar av AI utgör, enades ledamöterna om att förbjuda följande:

  • Biometriska kategoriseringssystem som använder känsliga egenskaper, till exempel politisk, religiös eller filosofisk övertygelse, sexuell läggning eller ras
  • Ospecificerad skrapning av ansiktsbilder från internet eller övervakningsfilmer för att skapa databaser för ansiktsigenkänning
  • Känsloigenkänning på arbetsplatser och utbildningsinstitutioner
  • Social poängsättning baserad på socialt beteende eller personliga egenskaper
  • AI-system som manipulerar människors beteende för att kringgå deras fria vilja
  • AI som används för att utnyttja människors sårbarhet på grund av deras ålder, funktionshinder, sociala eller ekonomiska situation

Undantag för brottsbekämpning

Ledamöterna enades om en rad skyddsåtgärder och snäva undantag för användning av biometriska identifieringssystem (RBI) i allmänt tillgängliga utrymmen för brottsbekämpande ändamål, med förbehåll för föregående rättsligt tillstånd och för strikt definierade förteckningar över brott. Post-remote RBI skulle användas strikt vid riktad eftersökning av en person som dömts eller misstänks för att ha begått ett allvarligt brott.

RBI i realtid skulle uppfylla strikta villkor och dess användning skulle vara begränsad i tid och rum, för följande ändamål:

  • Riktade sökningar efter offer vid exempelvis bortförande, människohandel, sexuellt utnyttjande,
    förebyggande av ett specifikt och aktuellt terroristhot, eller
  • Lokalisering eller identifiering av en person som misstänks ha begått ett av de specifika brott som nämns i förordningen, till exempel terrorism, människohandel, sexuellt utnyttjande, mord, kidnappning, våldtäkt, väpnat rån, deltagande i en kriminell organisation och miljöbrott.

Skyldigheter för AI-system med hög risk

För AI-system som klassificeras som högrisk, på grund av deras betydande potentiella skada för hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatsprincipen, har ledamöterna enats om tydliga skyldigheter. Ledamöterna lyckades inkludera en obligatorisk konsekvensbedömning av grundläggande rättigheter, bland andra krav, som också gäller för försäkrings- och banksektorerna. AI-system som används för att påverka resultatet av val och väljarnas beteende klassificeras också som högrisk. Vidare kommer medborgarna att ha rätt att lämna in klagomål om AI-system och få förklaringar om beslut som bygger på AI-system med hög risk och som påverkar deras rättigheter.

Skyddsräcken för generella AI-system

För att ta hänsyn till det breda spektrum av uppgifter som generella AI-system kan utföra och den snabba expansionen av dess kapacitet, kom man överens om att generella AI-system (GPAI), och de GPAI-modeller som de bygger på, måste följa de transparenskrav som ursprungligen föreslogs av parlamentet. Dessa inkluderar att utarbeta teknisk dokumentation, följa EU:s upphovsrättslagstiftning och sprida detaljerade sammanfattningar om det innehåll som används för träning av modellerna.

För GPAI-modeller med stor påverkan och systemrisk lyckades parlamentets ledamöterna säkra strängare skyldigheter. Om dessa modeller uppfyller vissa kriterier kommer de att behöva genomföra modellutvärderingar, bedöma och minska systemrisker, genomföra adversativa tester, rapportera till kommissionen om allvarliga incidenter, säkerställa cybersäkerhet och rapportera om sin energieffektivitet. Ledamöterna insisterade också på att GPAI:er med systemrisk kan förlita sig på uppförandekoder för att följa förordningen tills harmoniserade EU-standarder har publicerats.

Åtgärder för att stödja innovation och små och medelstora företag

Ledamöterna ville se till att företag, särskilt små och medelstora företag, kan utveckla AI-lösningar utan onödigt tryck från branschjättar som kontrollerar värdekedjan. I detta syfte främjar avtalet så kallade regulatoriska sandlådor och tester i verkliga världen, som inrättas av nationella myndigheter för att utveckla och utbilda innovativ AI innan den släpps ut på marknaden.

Sanktioner

Ledamöterna enades om att bristande efterlevnad av reglerna kan leda till böter på mellan 35 miljoner euro eller 7 procent av den globala omsättningen och 7,5 miljoner euro eller 1,5 procent av omsättningen, beroende på överträdelsen och företagets storlek.

Nästa steg

Den överenskomna texten måste nu formellt antas av både parlamentet och rådet för att bli EU-lagstiftning. Parlamentets utskott för inre marknaden och medborgerliga fri- och rättigheter kommer att rösta om överenskommelsen vid ett kommande möte.

Mer information

Källa: Pressmeddelande

Relaterade nyheter

Områden

I fokus

Länder

Taggar

Populära kurser

Expertis

Gå kurs med oss

07 MAR

AI – Introduktion till artificiell intelligens

Kursen ger dig de rättsliga förutsättningarna för utveckling, upphandling och användning av AI.

14 MAR

Cybersäkerhet - Introduktion till NIS2-direktviet

En genomgång av de viktigaste reglerna i NIS2-direktivet och kompletterande svensk lagstiftning.

21 MAR

AI - Introduktion till AI-förordningen

En genomgång av de viktigaste reglerna i den nya AI-förordningen och hur du kan använda AI-system på ett lagenligt sätt.