Europeiska dataskyddsstyrelsen (European Data Protection Board, EDPB) och Europeiska datatillsynsmannen (European Data Protection Supervisor, EDPS) har antagit ett gemensamt yttrande om EU-kommissionens så kallade AI-omnibus, som innehåller förslag till ändringar av AI-förordningen i syfte att förenkla reglerna och stärka EU:s konkurrenskraft.
EDPB och EDPS stöder målet att ta itu med praktiska utmaningar i samband med genomförandet av AI-förordningen. En förenkling av administrationen får dock inte leda till att skyddet för grundläggande rättigheter försämras. I det gemensamma yttrandet erkänns komplexiteten i AI-landskapet och insatser för att minska bördan för organisationer välkomnas. Samtidigt konstateras att vissa av de föreslagna ändringarna kan riskera att undergräva skyddet för enskilda personer i samband med användning av AI.
Förslaget skulle utvidga möjligheten att behandla särskilda kategorier av personuppgifter, såsom uppgifter om etniskt ursprung eller hälsa, i syfte att upptäcka och korrigera snedvridningar, till leverantörer och användare av alla typer av AI-system och AI-modeller, under förutsättning att lämpliga skyddsåtgärder vidtas. EDPB och EDPS rekommenderar att det tydliggörs att sådana uppgifter endast får användas för att upptäcka och korrigera snedvridningar i avgränsade situationer där risken för negativa effekter bedöms som tillräckligt allvarlig.
Vidare avråder EDPB och EDPS från förslaget att ta bort skyldigheten att registrera AI-system när de omfattas av kategorier som klassificeras som högrisk, även om leverantörerna själva bedömer att deras system inte utgör högrisk. En sådan ändring skulle enligt EDPB och EDPS avsevärt undergräva ansvarsskyldigheten och skapa ett oönskat incitament för leverantörer att utan tillräckliga skäl begära undantag i syfte att undvika offentlig granskning.
EDPB och EDPS välkomnar inrättandet av regulatoriska sandlådor för AI på EU-nivå för att främja innovation. För att säkerställa rättssäkerhet rekommenderar det gemensamma yttrandet att behöriga dataskyddsmyndigheter involveras direkt i tillsynen av personuppgiftsbehandling inom dessa sandlådor.
EDPB och EDPS stöder även målet att effektivisera samarbetet mellan myndigheter eller organ med ansvar för grundläggande rättigheter och marknadskontrollmyndigheter, samt användningen av en central kontaktpunkt för att öka effektiviteten. Samtidigt rekommenderar de att marknadskontrollmyndigheternas roll som administrativa kontaktpunkter för genomförande och vidarebefordran av begäranden till leverantörer och användare klargörs, samt att det säkerställs att dataskyddsmyndigheternas oberoende och befogenheter inte påverkas.
EDPB och EDPS rekommenderar också att AI-leverantörer och AI-användare fortsatt ska ha en skyldighet att säkerställa att deras personal har tillräckliga kunskaper om AI. Eventuella nya skyldigheter att främja AI-kompetens som åläggs kommissionen eller medlemsstaterna bör komplettera, och inte ersätta, ansvaret hos de organisationer som utvecklar och använder dessa system.
Slutligen uttrycker EDPB och EDPS oro över det föreslagna uppskjutandet av centrala bestämmelser för AI-system med hög risk. Mot bakgrund av den snabba utvecklingen inom AI-området uppmanar de medlagstiftarna att överväga om den ursprungliga tidsplanen kan bibehållas för vissa skyldigheter, såsom transparenskrav, och att i möjligaste mån minimera förseningar.