Den ökade användningen av artificiell intelligens (AI) innebär att allt fler aktörer använder AI-system. Utveckling, försäljning, användning och andra åtgärder som vidtas med AI-system omfattas även av de långtgående krav som ställs i AI-förordningen. Därför är det viktigt att kunna avgränsa AI-system från andra it-system.
Enligt artikel 3.1 AI-förordningen är ett AI-system ett maskinbaserat system som uppfyller tre krav. Det första kravet är att systemet är utformat för att fungera med varierande grad av autonomi. Det andra kravet är att systemet kan uppvisa anpassningsförmåga efter införande. Det tredje kravet är att systemet, på grundval av de indata det tar emot, drar slutsatser om hur utdata ska genereras för uttryckliga eller underförstådda mål. Exempel på utdata som anges i bestämmelsen är förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras.
Begreppen varierande grad av autonomi och anpassningsförmåga efter införande definieras inte i själva bestämmelsen utan i skäl 12 i AI-förordningen. Av skälet framgår att varierande grad av autonomi innebär att systemet är oberoende av mänsklig kontroll i viss mån och har förmåga att fungera utan mänskligt ingripande. Med anpassningsförmåga efter införande förmågan till självlärande, vilket gör det möjligt för systemet att förändras under sin användning.
I samma skäl förtydligas även att AI-system kan användas fristående eller som komponent i en produkt, oavsett om systemet är fysiskt integrerat i produkten (inbyggt) eller tjänar produktens funktioner utan att vara integrerat i produkten (ej inbyggt).
Om ett maskinbaserat system, som till exempel en mjukvara eller en hårdvara, klassas som ett AI-system leder detta till ökade krav och risker för den som utvecklar, säljer och använder AI-systemet eller vidtar andra åtgärder med AI-systemet. Enligt AI-förordningen förbjuds vissa tillämpningar av AI-system. Vidare klassas vissa AI-system som system med hög risk vilket bland annat innebär att operatörer av sådana system omfattas av särskilda krav. Högrisksystem får till exempel endast användas om de genomgått en granskningsprocess av en behörig offentlig aktör och beviljats en CE-märkning. Användning av förbjudna AI-system kan leda till sanktionsavgifter på upp till 35 000 000 EUR eller upp till 7 procent av föregående års globala omsättning.