Enligt AI-förordningen måste leverantörer och tillhandahållare (användare) av AI-system vidta åtgärder för att säkerställa en tillräcklig nivå av AI-kunnighet hos sin personal och andra personer som hanterar driften och användningen av AI-system för deras räkning. Detta ska göras med beaktande av deras tekniska kunskaper, erfarenhet och utbildning samt det sammanhang i vilket AI-systemen ska användas, och med hänsyn till de personer eller grupper av personer på vilka AI-systemen ska användas.
Begreppet AI-kunnighet som nämns i artikel 4 i AI-förordningen bygger på den definition av begreppet som ges i artikel 3.56 i AI-förordningen, enligt vilken AI-kunnighet avser kompetens, kunskap och förståelse som gör det möjligt för leverantörer, tillhandahållare och berörda personer att, med hänsyn till deras respektive rättigheter och skyldigheter i samband med denna förordning, införa AI-system på ett välgrundat sätt samt bli medvetna om möjligheterna och riskerna med AI, och den potentiella skada den kan vålla.
Bakgrunden till kravet på AI-kunnighet motiveras i skäl 20 till AI-förordningen. Enligt skälet är syftet med bestämmelsen att skydda grundläggande rättigheter, hälsa och säkerhet och möjliggöra demokratisk kontroll vid nyttjande av AI-system. Enligt skälet bör AI-kunnighet förse leverantörer, tillhandahållare och berörda personer med de begrepp som krävs för att fatta välgrundade beslut om AI-system. Dessa begrepp kan variera med avseende på det relevanta sammanhanget och kan inbegripa förståelse av den korrekta tillämpningen av tekniska delar under AI-systemets utvecklingsfas, de åtgärder som ska tillämpas under dess användning, lämpliga sätt att tolka AI-systemets utdata och, när det gäller berörda personer, den kunskap som krävs för att förstå hur beslut som fattas med hjälp av AI kommer att påverka dem.
Vidare framgår av skälet att AI-kunnighet bör ge alla relevanta aktörer i AI-värdekedjan de insikter som krävs för att säkerställa lämplig efterlevnad och korrekt verkställighet av AI-förordningen. Dessutom kan ett brett genomförande av åtgärder för AI-kunnighet och införandet av lämpliga uppföljningsåtgärder bidra till att förbättra arbetsvillkoren och i slutändan upprätthålla konsolideringen av och innovationsbanan för tillförlitlig AI i EU.
Kravet på AI-kunnighet är en viktig bestämmelse för att säkerställa att alla leverantörer och driftsansvariga för AI-system utrustar sin personal med rätt kompetens, kunskap och förståelse för det eller de system som tillhandahålls eller driftsätts. Detta gäller alla i organisationen som direkt har att göra med ett AI-system och förstärker bestämmelserna om öppenhet (artikel 13 AI-förordningen) och mänsklig tillsyn (artikel 14 AI-förordningen) i förordningen. Samtidigt bidrar kravet på AI-kunnighet indirekt till skyddet av berörda personer, eftersom den säkerställer en effektiv tillämpning av reglerna i AI-förordningen.
Artikel 4 AI-förordningen trädde i kraft den 2 februari 2025, varför skyldigheten att vidta åtgärder för att säkerställa AI-kunnighet hos sin personal redan gäller. Reglerna om tillsyn och verkställighet gäller från och med den 2 augusti 2026.