Den ökade användningen av artificiell intelligens (AI) innebär att allt fler aktörer använder AI-system. Tillverkning och användning av AI-system kommer att omfattas av långtgående krav om EU:s nya AI-förordning blir en verklighet. Därför är det viktigt att kunna avgränsa AI-system från andra IT-system.
Den nya AI-förordningen definierar AI-system som mjukvara som uppfyller två krav. Det första kravet är att mjukvaran ska ha utvecklats med en eller flera av följande tekniker och tillvägagångssätt:
- Metoder för maskininlärning, inklusive övervakad, oövervakad och förstärkningsinlärning, med hjälp av en mängd olika metoder, inklusive djupinlärning.
- Logik- och kunskapsbaserade metoder, inklusive kunskapsrepresentation, induktiv (logisk) programmering, kunskapsbaser, inferens- och deduktionsmotorer, (symboliska) resonemang och expertsystem.
- Statistiska metoder, Bayesiansk uppskattning, sök- och optimeringsmetoder.
Det andra kravet är att mjukvaran ska kunna ta fram resultat utifrån mål som definierats av människor. Som exempel på resultat nämns innehåll, förutsägelser, rekommendationer eller beslut som påverkar de områden som mjukvaran interagerar med.
För att regleringen ska följa med i teknik-och marknadsutvecklingen ska EU-kommissionen ges befogenheter att uppdatera denna definition genom delegerade akter.
Om en mjukvara klassas som ett AI-system leder detta till ökade krav och risker för den som tillverkar eller använder AI-systemet. Enligt den nya AI-förordningen ska vissa användningar av AI-system förbjudas. Förbudet gäller att placera sådana system på marknaden, ta systemen i bruk och att använda systemen. Vidare ska AI-system som klassas som högrisk omfattas av särskilda krav. Högrisksystem får till exempel endast användas om de genomgått en granskningsprocess av en behörig offentlig aktör och beviljats en CE-märkning. Användning av förbjudna AI-system ska leda till böter på upp till 30 000 000 EUR eller upp till 6 procent av föregående års globala omsättningen.
Vill du lära dig mer om AI, GDPR och den nya AI-förordningen? Gå vår nya kurs GDPR – Artificiell intelligens och personuppgifter (distans).