Kunskap: Vad avses med användning av ett AI-system enligt AI-förordningen?

AI-förordningen reglerar AI-system under hela livscykeln. Ett centralt begrepp som bland annat styr om en aktör klassas som tillhandahållare av ett AI-system och om det aktualiseras ett eller flera av AI-förordningens förbud är användning av systemet.

Begreppet användning av ett AI-system definieras inte uttryckligen i AI-förordningen. Enligt EU-kommissionen bör begreppet tolkas i vid mening och täcker användningen eller tillhandahållandet av systemet när som helst under dess livscykel efter att ha släppts ut på marknaden eller tagits i bruk. Detta kan även omfatta integrering av AI-systemet i tjänster och processer tillhörande den eller de personer som använder AI-systemet, inbegripet som en del av mer komplexa system eller processer eller en mer komplex infrastruktur.

Enligt EU-kommissionen måste leverantörer av AI-system ta hänsyn till de omständigheter under vilka sina AI-system kan komma att användas som rimligen kan förutses innan de släpper ut sina AI-system på marknaden. Samtidigt förblir tillhandahållarna, de aktörer som använder AI-systemen, ansvariga för att beakta lagkraven för användningen av systemet.

Gällande tillämpningen av artikel 5 AI-förordningen, som reglerar förbjudna AI-användningsområden, anser EU-kommissionen att hänvisningen till användning bör förstås som att det inbegriper varje felaktig användning av ett AI-system som kan utgöra ett förbjudet användningsområde, oavsett om denna felaktiga användning är rimligen förutsebar eller inte. Det är till exempel förbjudet för en arbetsgivare att använda ett system för känsloigenkänning för att dra slutsatser om känslor på arbetsplatsen, utom när det används för medicinska ändamål eller säkerhetsändamål. Förbudet gäller för arbetsgivaren, som klassas som tillhandahållare av systemet, oavsett om leverantören av systemet har uteslutit sådan användning i användningsvillkoren.

Mer information

Källa: Förordning (EU) 2024/1689

Relaterade nyheter

Kostnadsfritt webbinarium om förslag till ändringar i AI-förordningen

Vi går igenom EU-kommissionens föreslagna ändringar i
AI-förordningen och vad de kan innebära i praktiken för organisationer som omfattas av regelverket.