AI-förordningen förbjuder utsläppande på EU-marknaden, ibruktagande eller användning av vissa AI-system för manipulation, utnyttjande, social kontroll eller övervakning, som till sin natur kränker grundläggande rättigheter och unionens värden. Förbuden regleras i artikel 5 AI-förordningen och omfattar åtta förbjudna AI-användningsområden.
Skadlig manipulation och vilseledning
Det första förbjudna AI-användningsområdet avser skadlig manipulation och vilseledning. Förbudet omfattar AI-system som utnyttjar subliminala tekniker som människor inte är medvetna om eller avsiktligt manipulerande eller vilseledande tekniker som syftar eller leder till en väsentlig påverkan på beteendet, på ett sätt som orsakar eller med rimlig sannolikhet kommer att orsaka betydande skada.
Skadligt utnyttjande av sårbarheter
Det andra förbjudna området, som är besläktat med det första området, avser skadligt utnyttjande av sårbarheter. Detta förbud avser AI-system som utnyttjar en sårbarhet som härrör från ålder, funktionsnedsättning eller en specifik social eller ekonomisk situation, med målet eller verkan att väsentligt påverka beteendet på ett sätt som orsakar eller med rimlig sannolikhet kommer att orsaka betydande skada.
Social poängsättning
Det tredje förbjudna området avser social poängsättning. Detta område omfattar AI-system för utvärdering eller klassificering av fysiska personer eller grupper av personer på grundval av deras sociala beteende eller personliga eller personlighetsrelaterade egenskaper, med en social poängsättning som leder till skadlig eller ogynnsam behandling när uppgifterna kommer från orelaterade sociala sammanhang eller denna behandling är omotiverad eller oproportionerlig i förhållande till det sociala beteendet.
Förutsägelser om brott
Det fjärde förbjudna området avser bedömning av och förutsägelse av risken att enskilda personer begår straffrättsliga brott. Detta förbud omfattar AI-system som bedömer eller förutser risken för att en person begår ett straffrättsligt brott, uteslutande grundat på profilering eller på bedömning av personlighetsdrag och egenskaper, med undantag för stöd för mänsklig bedömning som grundas på objektiva och verifierbara fakta med direkt anknytning till brottslig verksamhet.
Oriktad skrapning för ansiktsigenkänning
Det femte förbjudna området avser oriktad skrapning för skapande av databaser för ansiktsigenkänning. Detta område omfattar AI-system som skapar eller utvidgar databaser för ansiktsigenkänning genom oriktad skrapning av ansiktsbilder från övervakningskameror.
Känsloigenkänning
Det sjätte förbjudna området avser känsloigenkänning. Detta område omfattar AI-system som uttyder känslor på arbetsplatsen eller vid utbildningsinstitutioner, med undantag för av medicinska skäl eller säkerhetsskäl
Biometrisk kategorisering
Det sjunde förbudsområdet avser biometrisk kategorisering. Detta område omfattar AI-system som kategoriserar personer på grundval av deras biometriska uppgifter för att härleda eller dra slutsatser om deras ras, politiska åsikter, medlemskap i fackförening, religiösa eller filosofiska övertygelse, sexualliv eller sexuella läggning, med undantag för märkning eller filtrering av lagligen förvärvade biometriska dataset, däribland brottsbekämpning.
Biometrisk fjärridentifiering realtid
Det åttonde och sista förbudsområdet avser biometrisk fjärridentifiering i realtid. Detta område omfattar AI-system för biometrisk fjärridentifiering i realtid på allmänt tillgängliga platser för brottsbekämpande ändamål, med undantag för om denna användning är absolut nödvändig för målinriktad sökning efter specifika brottsoffer, förhindrande av ett specifikt hot, däribland terroristattacker, eller lokalisering av personer som misstänks ha begått ett visst brott.
Bedömningen av huruvida ett AI-system omfattas av ett eller flera förbjudna AI-användningsområden ska göras från fall till fall, med vederbörlig hänsyn till omständigheterna i det enskilda fallet.