Risker som härrör från ett AI-system är ofta förknippade med individuellt beslutsfattande som exempelvis automatiserade kreditbedömningar eller delvis automatiserade diagnoser av medicinska tillstånd. Dessa risker kan delas in i två kategorier, de som är relaterade till hur systemet har utformats och de som är kopplade till hur systemet används. Medan AI-förordningen ålägger leverantören av ett AI-system huvudansvaret för att hantera den förstnämnda kategorin av risker, flyttas ansvaret för den sistnämnda kategorin av risker till AI-systemets användare. En del i ansvaret som läggs på användaren är skyldigheten att tillgodose berörda personers rätt till förklaring av individuellt beslutsfattande.
Rätten till förklaring av individuellt beslutsfattande regleras i artikel 86 AI-förordningen. Enligt denna bestämmelse har varje berörd person som är föremål för ett beslut som fattas av tillhandahållaren på grundval av utdata från ett AI-system rätt att erhålla tydliga och meningsfulla förklaringar av AI-systemets roll i beslutsförfarandet och de viktigaste delarna av det beslut som fattats. Rätten gäller endast vid användning AI-system med hög risk som förtecknas i bilaga III till AI-förordningen, med undantag för system som förtecknas i punkt 2 i samma bilaga. Vidare måste beslutet ha en rättslig verkan eller på liknande sätt i betydande grad påverka den personen på ett sätt som de anser har en negativ inverkan på deras hälsa, säkerhet eller grundläggande rättigheter.
Enligt artikel 86.2 AI-förordningen är rätten inte tillämplig på användning av AI-system för vilka undantag från eller begränsningar av skyldigheten följer av unionsrätten eller nationell rätt i överensstämmelse med unionsrätten. Av artikel 86.3 AI-förordningen framgår att rätten endast är tillämplig i den utsträckning som den inte på annat sätt föreskrivs i unionsrätten.
Notera att det endast spelar en underordnad roll huruvida beslutet fattas “automatiserat” eller inte. Till skillnad från liknande bestämmelser i dataskyddsförordningen (GDPR), använder bestämmelsen i AI-förordningen inte begreppet automatiserat. I bestämmelsen görs inte heller någon skillnad mellan sådana beslut som enbart fattas av AI-systemet (exempelvis helt automatiserade beslut om kreditprövningar) och sådana där AI-systemet endast används i delar av beslutsprocessen (exempelvis som beslutsstöd inom sjukvården). Genom att bestämmelsen omfattar beslut som fattas av tillhandahållaren på grundval av utdata från ett AI-system omfattas samtliga beslut som baseras på resultat som producerats av ett AI-system, förutsatt att de övriga villkoren är uppfyllda.
Rätten till en förklaring motiveras i AI-förordningens förarbeten. Enligt skäl 93 till AI-förordningen spelar användare av AI-system med hög risk (som betecknas som ”tillhandahållare” i AI-förordningen”) en avgörande roll när det gäller att säkerställa att grundläggande rättigheter skyddas, och kompletterar leverantörens skyldigheter vid utvecklingen av AI-systemet, se skäl 93 till AI-förordningen. Av skälet framgår vidare att tillhandahållare har bäst förutsättningar att förstå hur AI-system med hög risk kommer att användas i praktiken och kan därför fastställa potentiella risker som inte har förutsetts under utvecklingsfasen, tack vare mer exakt kunskap om sammanhanget för användningen och de personer eller grupper av personer som sannolikt kommer att påverkas, däribland sårbara grupper. I skälet konstateras vidare att tillhandahållare också spelar en avgörande roll när det gäller att informera fysiska personer. Enligt skälet bör tillhandahållare när de fattar beslut eller hjälper till att fatta beslut som rör fysiska personer i förekommande fall informera de fysiska personerna om att de är föremål för användning av AI-systemet med hög risk. Denna information bör omfatta det avsedda ändamålet och typen av beslut som det fattar. Tillhandahållaren bör också informera fysiska personer om deras rätt till en förklaring enligt AI-förordningen.