AI-förordningen delar in AI-system i olika riskkategorier. En viktig sådan kategori är AI-system med hög risk. Avgränsningen mellan sådana och andra AI-system påverkar bland annat vilka skyldigheter leverantörer och tillhandahållare av AI-system måste efterleva.
Klassificeringen av ett AI-system som ett AI-system med hög risk sker enligt regler som redovisas i artikel 6 AI-förordningen. Dessa regler kan delas in i tre delar, AI-system som används som säkerhetskomponenter (artikel 6.1 AI-förordningen), AI-system som förtecknas i bilaga III till AI-förordningen (artikel 6.2 AI-förordningen) och undantag (artikel 6.3 AI-förordningen).
Enligt den första delen av reglerna (artikel 6.1 AI-förordningen) klassas ett AI-system som ett AI-system med hög risk om det är avsett att användas som en säkerhetskomponent i en produkt, eller AI-systemet är i sig en produkt, som omfattas av viss lagstiftning som redovisas i bilaga I till AI-förordningen. Därutöver måste produkten omfattas av krav på att genomgå en tredjepartsbedömning av överensstämmelse enligt lagstiftning som förtecknas i bilaga I till AI-förordningen. Detta gäller oavsett om ett AI-system släpps ut på marknaden eller tas i bruk oberoende av produkten.
Enligt den andra delen av reglerna (artikel 6.2 AI-förordningen) ska AI-system som avses i bilaga III också betraktas som AI-system med hög risk, dvs. den andra delen av reglerna gäller utöver den första delen. Några få exempel på AI-system med hög risk enligt den andra delen av reglerna är AI-system för biometrisk fjärridentifiering, AI-system för känsloigenkänning, AI-system för rekrytering, AI-system för att utvärdera fysiska personers kreditvärdighet och AI-system för riskbedömning och när det gäller livförsäkring och sjukförsäkring.
En viktig detalj gällande den andra delen av reglerna är att EU-kommissionen ges befogenhet att ändra bilaga III genom så kallade delegerade akter enligt särskilda villkor (artikel 7 AI-förordningen). Detta innebär att kretsen av AI-system som klassas som AI-system med hög risk kan komma att ändras över tid.
Den tredje delen av reglerna (artikel 6.3 AI-förordningen) avser undantag från andra delen. Enligt denna del ska ett AI-system som avses i bilaga III i vissa fall inte betraktas som ett AI-system med hög risk. En av flera förutsättningar för detta att AI-systemet inte utgör en betydande risk för skada på fysiska personers hälsa, säkerhet eller grundläggande rättigheter. Ytterligare exempel på villkor är att AI-systemet är avsett att utföra en snäv processuell uppgift och att det inte utför profilering av fysiska personer.
Även när det gäller undantagen i den tredje delen av reglerna ges EU-kommissionen befogenhet att ändra undantagsbestämmelserna genom att anta delegerade akter (artikel 6.6 AI-förordningen). Befogenheten är utformad på så sätt att undantagsbestämmelsen kan skärpas genom att tillägga ytterligare villkor. Däremot lämnar bestämmelsen inget utrymme för luckrar upp undantagsbestämmelsen. Kretsen av AI-system som klassas som AI-system med hög risk kan således komma utvidgas över tid.
TechLaw följer utvecklingen och publicerar löpande inlägg om rättsutveckling och andra aktuella frågor inom AI. Läs mer om hur vi bistår våra klienter inom artificiell intelligens (AI).
Källa: Förordningen (EU) 2024/1689.
