AI-förordningen innehåller bestämmelser om att vissa AI-tillämpningar ska vara förbjudna. Förbuden en regleras genom att definiera förbjudna AI-metoder i artikel 5 AI-förordningen. Förbudens utformning och omfattning skiljer sig åt beroende på vilka AI-metod det är fråga om. För vissa AI-metoder har förbuden exempelvis utformats genom att förbjuda utsläppande på marknaden, ibruktagande eller användning av vissa AI-system. För andra AI-metoder har förbuden utformats bara som ett förbud att använda vissa AI-system. Det finns begränsade undantag från vissa av förbuden.
Nedanstående genomgång är en förenkling som lämnar ut viktiga detaljer för korthetens skull. Den som vill utveckla, distribuera, använda eller på annat sätt begagna AI-system eller AI-metoder gör klokt att noggrant gå igenom artikel 5 AI-förordningen dessförinnan.
Användning av subliminala tekniker: Förbudet gäller för AI-system som utnyttjar subliminala tekniker som människor inte är medvetna om, eller avsiktligt manipulerande eller vilseledande tekniker som syftar eller leder till en väsentlig snedvridning av en persons eller en grupp av personers beteende genom att avsevärt försämra deras förmåga att fatta ett välgrundat beslut, vilket får en person att fatta ett beslut som den inte skulle ha fattat annars, på ett sätt som orsakar eller sannolikt kommer att orsaka betydande skada för den personen, en annan person eller en grupp av personer.
Utvärdering eller klassificering av pålitlighet: Förbudet gäller för AI-system som för utvärdering eller klassificering av fysiska personer eller grupper av personer under en viss tidsperiod på grundval av deras sociala beteende eller kända, uttydda eller förutsedda personliga eller personlighetsrelaterade egenskaper, med en social poängsättning som leder till det ena eller båda av följande:
- Skadlig eller ogynnsam behandling av vissa fysiska personer eller hela grupper av personer i sociala sammanhang som saknar koppling till de sammanhang i vilka berörda data ursprungligen genererades eller samlades in.
- Skadlig eller ogynnsam behandling av vissa fysiska personer eller grupper av personer som är omotiverad eller oproportionerlig i förhållande till personernas sociala beteende eller till hur allvarligt beteendet är.
Bedöma eller förutse ett brott: Förbudet gäller för AI-system för riskbedömningar av fysiska personer i syfte att bedöma eller förutse sannolikheten för att en fysisk person begår ett brott, uteslutande grundat på profileringen av en fysisk person eller på en bedömning av deras personlighetsdrag och egenskaper.
Databaser för ansiktsigenkänning: Förbudet gäller för AI-system som skapar eller utvidgar databaser för ansiktsigenkänning genom oriktad skrapning av ansiktsbilder från internet eller övervakningskameror.
Uttyda någons känslor: Förbudet gäller för AI-system för att uttyda en fysisk persons känslor på arbetsplatsen eller vid utbildningsinstitutioner.
Biometrisk kategorisering: Förbudet gäller för AI-system för biometrisk kategorisering som kategoriserar fysiska personer individuellt på grundval av deras biometriska uppgifter för att härleda eller dra slutsatser om en persons ras, politiska åsikter, medlemskap i fackförening, religiösa eller filosofiska övertygelse, sexualliv eller sexuella läggning.
Biometrisk fjärridentifiering: Förbudet gäller för AI-system för biometrisk fjärridentifiering i realtid på allmänt tillgängliga platser för brottsbekämpningsändamål. Förbudet är inte absolut utan medlemsstaterna kan välja att medge undantag från förbudet.
Ovanstående genomgång visar att AI-förordningen innehåller långtgående förbud för vissa användningar av AI-system. Förbuden påverkar privata och offentliga verksamheters möjligheter att bland annat utveckla, sälja och använda vissa typer av AI-system.