AI-förordningen innehåller bestämmelser om att AI-system som utgör oacceptabla risker för grundläggande rättigheter och EU:s värden är förbjudna.
Förbuden en regleras genom att definiera förbjudna AI-användningsområden. Förbudens utformning och omfattning skiljer sig åt beroende på vilka AI-användningsområden det är fråga om. För vissa AI-användningsområden har förbuden exempelvis utformats genom att förbjuda utsläppande på marknaden, ibruktagande eller användning av vissa AI-system. För andra AI-användningsområden har förbuden utformats bara som ett förbud att använda vissa AI-system. Det finns begränsade undantag från vissa av förbuden.
De åtta förbjudna AI-användningsområdena listas i artikel 5 AI-förordningen.
Skadlig manipulation och vilseledande: AI-system som använder subliminala tekniker bortom en persons medvetande eller avsiktligt manipulativa eller vilseledande tekniker, i syfte att eller med verkan att snedvrida beteendet, som orsakar eller rimligen kan orsaka betydande skada.
Skadligt utnyttjande av sårbarheter: AI-system som utnyttjar sårbarheter på grund av ålder, funktionsnedsättning eller en specifik social eller ekonomisk situation, i syfte att eller med verkan att snedvrida beteendet och orsaka eller rimligen kunna orsaka betydande skada.
Social poängsättning: AI-system som utvärderar eller klassificerar fysiska personer eller grupper av personer på grundval av socialt beteende eller personliga egenskaper, där den sociala poängen leder till skadlig eller ofördelaktig behandling när uppgifterna kommer från orelaterade sociala sammanhang eller sådan behandling är omotiverad eller oproportionerlig i förhållande till det sociala beteendet.
Bedöma eller förutse risken för brott: AI-system som bedömer eller förutser risken för att personer begår ett brott enbart baserat på profilering eller personlighetsdrag och egenskaper, utom för att stödja en mänsklig bedömning baserad på objektiva och verifierbara fakta som är direkt kopplade till en brottslig verksamhet.
Oriktad skrapning av ansiktsbilder: AI-system som skapar eller utökar databaser för ansiktsigenkänning genom icke målinriktad skrapning av ansiktsbilder från internet eller övervakningsfilmer.
Känsloigenkänning: AI-system som utläser känslor på arbetsplatsen eller i utbildningsinstitutioner, utom av medicinska skäl eller säkerhetsskäl.
Biometrisk kategorisering: AI-system som kategoriserar människor på grundval av deras biometriska uppgifter för att härleda eller dra slutsatser om deras ras, politiska åsikter, medlemskap i fackförening, religiösa eller filosofiska övertygelse, sexliv eller sexuella läggning, med undantag för märkning eller filtrering av lagligt förvärvade biometriska uppgifter, inbegripet inom brottsbekämpning.
Biometrisk fjärridentifiering i realtid för brottsbekämpning: AI-system för biometrisk identifiering på distans i realtid på allmänt tillgängliga platser i brottsbekämpande syfte, utom om det är nödvändigt för riktad sökning efter specifika offer, förebyggande av specifika hot, inbegripet terroristattacker, eller sökning efter personer som är misstänkta för specifika brott.
Förbuden är långtgående och begränsar såväl provat som offentliga verksamheters möjligheter att utveckla och använda AI-system för sådana ändamål som omfattas. Bestämmelsen om förbjuda AI-användningsområden började gälla den 2 februari 2025 och brott mot reglerna kan leda till administrativa sanktionsavgifter på upp till 30 miljoner euro eller 7 procent av årsomsättningen.