Allt fler privata och offentliga aktörer planerar för AI-system i sin verksamhet, exempelvis i form av chattbottar som stöd för specifika arbetsuppgifter eller specialiserad mjukvara för automatiserad beslutsfattande. Ett återkommande problem vid utveckling eller inköp av AI-system är att avgränsa ändamålet för vilket AI-systemet ska användas som delvis beror på att vissa typer av AI-system kan användas för flera olika ändamål. En chattbot kan exempelvis användas av marknadsavdelningen för att ta fram en reklamtext eller av personalavdelningen för att granska CV:s som lämnats in av jobbsökande.
Samtidigt är utgångspunkten i AI-förordningen att varje AI-system har ett avsett ändamål, ett begrepp som genomsyrar AI-förordningen och som har en avgörande påverkan på hur centrala bestämmelser ska tolkas. Denna artikel förklarar begreppet avsett ändamål av ett AI-system som den definieras i AI-förordningen och analyserar dess praktiska innebörd för leverantörer och användare (som kallas för tillhandahållare i AI-förordningen, se nedan) av AI-system.
Vi börjar med förklaringen av begreppet avsett ändamål (intended purpose) av ett AI-system som definieras i artikel 3.12 AI-förordningen. Enligt bestämmelsen är det avsedda ändamålet den användning för vilken ett AI-system är avsett av leverantören, inbegripet det specifika användningssammanhanget och de specifika användningsvillkoren, enligt specifikationerna i de uppgifter som tillhandahålls av leverantören i bruksanvisningen (instructions of use), reklam- eller försäljningsmaterial och uttalanden samt i den tekniska dokumentationen.
Notera att det avsedda ändamålet inte bara utgörs av information som tillhandahålls i bruksanvisningen (som definieras som information som leverantören tillhandahåller för att informera om AI-systemets avsedda ändamål och korrekta användning, se artikel 3.15 AI-förordningen). Tvärtom inkluderas även annan information i avgränsningen av det avsedda ändamålet, som bland annat användningsvillkor, reklam, försäljningsmaterial och teknisk information. Därutöver inkluderas även sammanhanget i vilken AI-systemet kommer att användas och uttalanden, som exempelvis av en säljare eller annan representant av leverantören för AI-systemet.
AI-förordningens breda definition av begreppet avsett ändamål innebär ett hinder för leverantörer att kommunicera olika avsedda ändamål för ett AI-system i olika kommunikationskanaler. En leverantör av en chattbott för en kundtjänst skulle till exempel kunna välja att kommunicera två olika ändamål till en potentiell köpare. Å ena sidan anges i AI-systemets bruksanvisning ändamålet att svara på kunders frågor om produkter. Å andra sidan anges i marknadsföringen gentemot köparen att en användning även kan vara att analysera kunders känslor baserad på språket de använder. Den breda definitionen av begreppet avsett ändamål i AI-förordningen innebär att AI-systemet avsedda ändamål i detta fall troligtvis skulle vara dels att svara på kunders frågor om produkter, dels att analysera kunders känslor.
AI-systemets avsedda ändamål genomsyrar AI-förordningen på olika sätt. Det avgör exempelvis AI-systems prestanda som definieras som AI-systemets förmåga att uppnå sitt avsedda ändamål (se artikel 3.18 AI-förordningen). Vidare avgör den om en felaktig användning av ett AI-system utgör rimligen förutsebar felaktig användning av AI-systemet, vilket innebär att AI-systemet används på ett sätt som inte överensstämmer med dess avsedda ändamål (se artikel 3.13 AI-förordningen). Därutöver avgör det avsedda ändamålet om det föreligger en väsentlig ändring av ett AI-systemet. Med detta avses en ändring av ett AI-system vid en viss tidpunkt som bland annat leder till att AI-systemets uppfyllelse av vissa krav i AI-förordningen påverkarkas (se artikel 3.23 AI-förordningen).
Det finns även en länk mellan ett AI-systems avsedda ändamål och AI-förordningens krav på riskhantering. Enligt artikel 9.8 AI-förordningen ska AI-system med hög risk bland annat testas innan de släpps ut på marknaden eller tas i bruk. Testningen ska utföras på grundval av i förväg definierade mått och sannolikhetsgränser som är lämpliga för det avsedda ändamålet med AI-systemet med hög risk. AI-systemets avsedda ändamål avgör således hur ett AI-system med hög risk ska testas innan det släpps ut på marknaden eller tas i bruk.
En annan viktig koppling återfinns i artikel 10.2 AI-förordningen som reglerar data och dataförvaltning. Enligt denna bestämmelse ska tränings-, validerings- och testdataset omfattas av metoder för dataförvaltning och datahantering som är lämpliga för det avsedda ändamålet med AI-systemet med hög risk. Det avsedda ändamålet påverkar således hur data som används för att utveckla AI-systemet ska väljas ut, struktureras, granskas, rensas, kvalitetssäkras och så vidare.
Den sista förbindelsen som vi tittar på i denna artikel avser den mellan ett AI-systemets avsedda ändamål och tillhandahållarens ansvar (AI-förordningen kallar AI-systemets användare för ”tillhandahållare”). Enligt artikel 25.1 c AI-förordningen ska en tillhandahållare (och även andra aktörer) av ett AI-system anses vara leverantör av AI-systemet när tillhandahållaren ändrar det avsedda ändamålet för ett AI-system. En följd av detta är att tillhandahålleran träffas av vissa skyldigheter i AI-förordningen som gäller för leverantörer av AI-system.
Ovanstående redogörelse förtydligar vikten för varje privat eller offentlig verksamhet som tar fram eller använder AI-system att ha en god förståelse av AI-systemets avsedda ändamål och avgränsa det på ett korrekt sätt. En leverantör eller tillhandahållare som missuppfattar AI-systemets avsedda ändamål och, som följd, avgränsar det på ett felaktigt sätt, riskerar att bryta mot sina skyldigheter enligt AI-förordningen. I förlängningen kan en sådan felbedömning leda till sanktioner från tillsynsmyndigheter som exempelvis administrativa sanktionsavgifter.