AI-förordningen delar in AI-system i olika riskkategorier. En viktig sådan kategori är AI-system med hög risk. Avgränsningen mellan sådana och andra AI-system påverkar bland annat vilka skyldigheter leverantörer och tillhandahållare av AI-system måste efterleva.
Klassificeringen av ett AI-system som ett AI-system med hög risk sker enligt regler som redovisas i artikel 6 AI-förordningen. Dessa regler kan delas in i tre delar, AI-system som används som säkerhetskomponenter (artikel 6.1 AI-förordningen), AI-system som förtecknas i bilaga III till AI-förordningen (artikel 6.2 AI-förordningen) och undantag (artikel 6.3 AI-förordningen).
Enligt den första delen av reglerna (artikel 6.1 AI-förordningen) klassas ett AI-system som ett AI-system med hög risk om det är avsett att användas som en säkerhetskomponent i en produkt, eller AI-systemet är i sig en produkt, som omfattas av viss lagstiftning som redovisas i bilaga I till AI-förordningen. Därutöver måste produkten omfattas av krav på att genomgå en tredjepartsbedömning av överensstämmelse enligt lagstiftning som förtecknas i bilaga I till AI-förordningen. Detta gäller oavsett om ett AI-system släpps ut på marknaden eller tas i bruk oberoende av produkten.
Enligt den andra delen av reglerna (artikel 6.2 AI-förordningen) ska AI-system som avses i bilaga III också betraktas som AI-system med hög risk, dvs. den andra delen av reglerna gäller utöver den första delen. Några få exempel på AI-system med hög risk enligt den andra delen av reglerna är AI-system för biometrisk fjärridentifiering, AI-system för känsloigenkänning, AI-system för rekrytering, AI-system för att utvärdera fysiska personers kreditvärdighet och AI-system för riskbedömning och när det gäller livförsäkring och sjukförsäkring.
En viktig detalj gällande den andra delen av reglerna är att EU-kommissionen ges befogenhet att ändra bilaga III genom så kallade delegerade akter enligt särskilda villkor (artikel 7 AI-förordningen). Detta innebär att kretsen av AI-system som klassas som AI-system med hög risk kan komma att ändras över tid.
Den tredje delen av reglerna (artikel 6.3 AI-förordningen) avser undantag från andra delen. Enligt denna del ska ett AI-system som avses i bilaga III i vissa fall inte betraktas som ett AI-system med hög risk. En av flera förutsättningar för detta att AI-systemet inte utgör en betydande risk för skada på fysiska personers hälsa, säkerhet eller grundläggande rättigheter. Ytterligare exempel på villkor är att AI-systemet är avsett att utföra en snäv processuell uppgift och att det inte utför profilering av fysiska personer.
Även när det gäller undantagen i den tredje delen av reglerna ges EU-kommissionen befogenhet att ändra undantagsbestämmelserna genom att anta delegerade akter (artikel 6.6 AI-förordningen). Befogenheten är utformad på så sätt att undantagsbestämmelsen kan skärpas genom att tillägga ytterligare villkor. Däremot lämnar bestämmelsen inget utrymme för luckrar upp undantagsbestämmelsen. Kretsen av AI-system som klassas som AI-system med hög risk kan således komma utvidgas över tid.