Europaparlamentet har på utskottsnivå godkänt den preliminära överenskommelsen om AI-förordningen (AI Act) som nådds av Europaparlamentet och Europarådet förra veckan.
Under tisdagen den 13 februari 2024 röstade utskottet för den inre marknaden och utskottet för medborgerliga fri- och rättigheter för att godkänna resultatet av förhandlingarna med medlemsländerna om AI-förordningen.
Förordningen syftar till att skydda grundläggande rättigheter, demokrati, rättsstatsprincipen och miljömässig hållbarhet från AI med hög risk. Samtidigt syftar AI-förordningen till att främja innovation och etablera Europa som ledande inom AI-området. Reglerna inför skyldigheter för AI baserat på dess potentiella risker och påverkansnivå.
Förbjudna tillämpningar
Den överenskomna texten för AI-förordningen förbjuder vissa AI-tillämpningar som hotar medborgarnas rättigheter, bland annat biometriska kategoriseringssystem baserade på känsliga egenskaper, oriktad skrapning av ansiktsbilder från internet eller övervakningsfilmer för ansiktsigenkänningsdatabaser, känsloigenkänning på arbetsplatser och i skolor, social scoring, förutsägande polisarbete som enbart baseras på profilering av en person eller bedömning av dennes egenskaper samt AI som manipulerar mänskligt beteende eller utnyttjar människors sårbarheter.
Undantag för brottsbekämpning
Användning av biometriska identifieringssystem (RBI) av brottsbekämpande myndigheter är i princip förbjuden, undantaget en uttömmande förtecknade och snävt definierade situationer. RBI i realtid får endast användas under strikta skyddsåtgärder, till exempel begränsat i tid och geografiskt, med föregående rättsligt eller administrativt tillstånd. Sådan användning omfattar till exempel att söka efter en försvunnen person eller förhindra en terroristattack. Användning av denna typ av system i efterhand (post-remote RBI), som anses vara högrisk, kräver också rättsligt tillstånd och måste vara kopplat till ett brott.
Tydliga skyldigheter för högrisk AI-system
AI-förordningen innehåller tydliga skyldigheter för andra AI-system med hög risk, som kan ha en betydande inverkan på hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatsprincipen. Till högriskanvändningarna hör kritisk infrastruktur, utbildning och yrkesutbildning, sysselsättning, viktiga tjänster (till exemple hälso- och sjukvård och bankverksamhet), vissa system inom brottsbekämpning, migration och gränsförvaltning, rättsväsende och demokratiska processer (till exempel påverkan på val). Medborgarna kommer att ha rätt att lämna in klagomål om AI-system och få förklaringar om beslut baserade på AI-system med hög risk som påverkar deras rättigheter.
Transparenskrav
AI-system för allmänna ändamål (general purpose AI) och de AI-modeller som de bygger på måste uppfylla vissa transparenskrav och följa EU:s upphovsrättslagstiftning under sin träning. Mer kraftfulla AI-modeller för allmänna ändamål som kan utgöra systemrisker kommer att omfattas av ytterligare krav, bland annat att utföra modellutvärdering, riskbedömning och rapportering av incidenter. Dessutom måste artificiellt eller manipulerat bild-, ljud- eller videoinnehåll (deepfakes) tydligt märkas som sådant.
Åtgärder för att stödja innovation och små och medelstora företag
Regulatoriska sandlådor och möjligheter för tester kommer att inrättas på nationell nivå. Detta ska ge små och medelstora företag och startups möjlighet att utveckla och träna innovativ AI innan den släpps ut på marknaden.
Nästa steg
Den överenskomna texten väntar på ett formellt antagande vid ett kommande plenarsammanträde i Europaparlamentet och ett slutligt godkännande från Europarådet. AI-förordningen kommer att vara fullt tillämplig 24 månader efter ikraftträdandet. Undantag finns för förbud mot förbjudna metoder, som kommer att börja att gälla 6 månader efter ikraftträdandet, uppförandekoder som kommer att börja att gälla 9 månader efter ikraftträdandet, regler för general purpose AI inklusive governance som kommer att börja att gälla 12 månader efter ikraftträdandet och skyldigheter för högrisksystem som kommer att börja att gälla 36 månader efter ikraftträdandet.