AI-system för biometrisk kategorisering används i allt större utsträckning, till exempel vid automatiserad analys av bild, video och röst för att härleda individers ålder, kön eller hårfärg. Denna artikel förklarar begreppet system för biometrisk kategorisering som den definieras i AI-förordningen.
Enligt artikel 3.40 AI-förordningen är ett system för biometrisk kategorisering (biometric categorisation system) ett AI-system för hänförande av fysiska personer (assigning natural persons) till särskilda kategorier (specific categories) på grundval av deras biometriska uppgifter, om det inte utgör en extrafunktion till en annan kommersiell tjänst och är strikt nödvändigt av objektiva tekniska skäl.
Bestämmelsen innehåller flera begrepp som förtydligas på andra ställen i AI-förordningen. I det som följer analyserar vi begreppen AI-system, biometrisk kategorisering, särskilda kategorier och biometriska uppgifter. Notera att det som menas med särskilda kategorier är särskilda kategorier av fysiska personer (valet att översätta ”specific” med ”särskilda” kan ifrågasättes, dels då ordet specifik även finns på svenska, dels då särskild har en bredare innebörd än specifik). Begreppet har ingen koppling till begreppet särskilda kategorier av personuppgifter (som kallas för känsliga personuppgifter i svensk lagstiftning) i artikel 9.1 dataskyddsförordningen (GDPR).
Vi börjar med att analysera begreppet AI-system. Enligt artikel 3.1 AI-förordningen är ett AI-system ett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi, som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, på grundval av de indata det tar emot, drar slutsatser om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. Det finns flera begrepp i denna definition som behöver analyseras närmare. Detta görs i en annan artikel vi har skrivit som förklarar innebörden av begreppet AI-system på en mer detaljerad nivå.
Begreppen biometrisk kategorisering och särskilda kategorier förtydligas i skäl 16 AI-förordningen. Enligt skälet bör biometrisk kategorisering definieras som att fysiska personer hänförs till särskilda kategorier på grundval av deras biometriska uppgifter. Sådana särskilda kategorier kan avse aspekter som kön, ålder, hårfärg, ögonfärg, tatueringar, beteende- eller personlighetsdrag, språk, religion, tillhörighet till nationell minoritet eller sexuell eller politisk läggning. Enligt skälet omfattar begreppet inte system för biometrisk kategorisering som har en ren extrafunktion som är oupplösligt kopplad (intrinsically linked) till en annan kommersiell tjänst, vilket innebär att funktionen av objektiva tekniska skäl inte kan användas utan den huvudsakliga tjänsten och att integreringen av denna funktion inte är ett sätt att kringgå tillämpligheten av bestämmelserna i AI-förordningen. Som exempel på en sådan extrafunktion nämns i skälet filter som kategoriserar ansikts- eller kroppsegenskaper som används på e-marknadsplatser (för att göra det möjligt att på förväg se produkten på sig själv och fatta ett köpbeslut) och filter som används på sociala nätverkstjänster online och som kategoriserar ansikts- eller kroppsfunktioner (för att göra det möjligt för användare att lägga till eller ändra bilder eller videor).
Begreppet biometriska uppgifter definieras i artikel 3.34 AI-förordningen. Enligt denna bestämmelse är biometriska uppgifter personuppgifter som erhållits genom särskild teknisk behandling som rör en fysisk persons fysiska, fysiologiska eller beteendemässiga kännetecken såsom ansiktsbilder eller fingeravtrycksuppgifter. Vidare framgår av skäl 14 AI-förordningen att begreppet biometriska uppgifter bör tolkas mot bakgrund av begreppet biometriska uppgifter enligt definitionen i artikel 4.14 GDPR. Enligt denna artikel är biometriska uppgifter personuppgifter som erhållits genom en särskild teknisk behandling som rör en fysisk persons fysiska, fysiologiska eller beteendemässiga kännetecken och som möjliggör eller bekräftar identifieringen av denna fysiska person, såsom ansiktsbilder eller fingeravtrycksuppgifter. Begreppet förtydligas i riktlinjer som utfärdats av myndigheter och rättspraxis.
Definitionen av begreppet system för biometrisk kategorisering har en avgörande betydelse i för att säkerställa efterlevnad av reglerna i AI-förordningen. I vissa fall är det förbjudet enligt AI-förordningen att använda system för biometrisk kategorisering (artikel 5 AI-förordningen). I andra fall klassas sådana AI-system som högrisksystem.