Allt fler privata och offentliga aktörer planerar för AI-system i sin verksamhet, exempelvis i form av chattbottar som stöd för specifika arbetsuppgifter eller specialiserad mjukvara för automatiserad beslutsfattande. Ett återkommande problem vid utveckling eller inköp av AI-system är att avgränsa ändamålet för vilket AI-systemet ska användas som delvis beror på att vissa typer av AI-system kan användas för flera olika ändamål. En chattbot kan exempelvis användas av marknadsavdelningen för att ta fram en reklamtext eller av personalavdelningen för att granska CV:s som lämnats in av jobbsökande.
Samtidigt är utgångspunkten i AI-förordningen att varje AI-system har ett avsett ändamål, ett begrepp som genomsyrar AI-förordningen och som har en avgörande påverkan på hur centrala bestämmelser ska tolkas. Denna artikel förklarar begreppet avsett ändamål av ett AI-system som den definieras i AI-förordningen och analyserar dess praktiska innebörd för leverantörer och användare (som kallas för tillhandahållare i AI-förordningen, se nedan) av AI-system.
Vi börjar med förklaringen av begreppet avsett ändamål (intended purpose) av ett AI-system som definieras i artikel 3.12 AI-förordningen. Enligt bestämmelsen är det avsedda ändamålet den användning för vilken ett AI-system är avsett av leverantören, inbegripet det specifika användningssammanhanget och de specifika användningsvillkoren, enligt specifikationerna i de uppgifter som tillhandahålls av leverantören i bruksanvisningen (instructions of use), reklam- eller försäljningsmaterial och uttalanden samt i den tekniska dokumentationen.
Notera att det avsedda ändamålet inte bara utgörs av information som tillhandahålls i bruksanvisningen (som definieras som information som leverantören tillhandahåller för att informera om AI-systemets avsedda ändamål och korrekta användning, se artikel 3.15 AI-förordningen). Tvärtom inkluderas även annan information i avgränsningen av det avsedda ändamålet, som bland annat användningsvillkor, reklam, försäljningsmaterial och teknisk information. Därutöver inkluderas även sammanhanget i vilken AI-systemet kommer att användas och uttalanden, som exempelvis av en säljare eller annan representant av leverantören för AI-systemet.
AI-förordningens breda definition av begreppet avsett ändamål innebär ett hinder för leverantörer att kommunicera olika avsedda ändamål för ett AI-system i olika kommunikationskanaler. En leverantör av en chattbott för en kundtjänst skulle till exempel kunna välja att kommunicera två olika ändamål till en potentiell köpare. Å ena sidan anges i AI-systemets bruksanvisning ändamålet att svara på kunders frågor om produkter. Å andra sidan anges i marknadsföringen gentemot köparen att en användning även kan vara att analysera kunders känslor baserad på språket de använder. Den breda definitionen av begreppet avsett ändamål i AI-förordningen innebär att AI-systemet avsedda ändamål i detta fall troligtvis skulle vara dels att svara på kunders frågor om produkter, dels att analysera kunders känslor.
AI-systemets avsedda ändamål genomsyrar AI-förordningen på olika sätt. Det avgör exempelvis AI-systems prestanda som definieras som AI-systemets förmåga att uppnå sitt avsedda ändamål (se artikel 3.18 AI-förordningen). Vidare avgör den om en felaktig användning av ett AI-system utgör rimligen förutsebar felaktig användning av AI-systemet, vilket innebär att AI-systemet används på ett sätt som inte överensstämmer med dess avsedda ändamål (se artikel 3.13 AI-förordningen). Därutöver avgör det avsedda ändamålet om det föreligger en väsentlig ändring av ett AI-systemet. Med detta avses en ändring av ett AI-system vid en viss tidpunkt som bland annat leder till att AI-systemets uppfyllelse av vissa krav i AI-förordningen påverkarkas (se artikel 3.23 AI-förordningen).
Det finns även en länk mellan ett AI-systems avsedda ändamål och AI-förordningens krav på riskhantering. Enligt artikel 9.8 AI-förordningen ska AI-system med hög risk bland annat testas innan de släpps ut på marknaden eller tas i bruk. Testningen ska utföras på grundval av i förväg definierade mått och sannolikhetsgränser som är lämpliga för det avsedda ändamålet med AI-systemet med hög risk. AI-systemets avsedda ändamål avgör således hur ett AI-system med hög risk ska testas innan det släpps ut på marknaden eller tas i bruk.
En annan viktig koppling återfinns i artikel 10.2 AI-förordningen som reglerar data och dataförvaltning. Enligt denna bestämmelse ska tränings-, validerings- och testdataset omfattas av metoder för dataförvaltning och datahantering som är lämpliga för det avsedda ändamålet med AI-systemet med hög risk. Det avsedda ändamålet påverkar således hur data som används för att utveckla AI-systemet ska väljas ut, struktureras, granskas, rensas, kvalitetssäkras och så vidare.
Den sista förbindelsen som vi tittar på i denna artikel avser den mellan ett AI-systemets avsedda ändamål och tillhandahållarens ansvar (AI-förordningen kallar AI-systemets användare för ”tillhandahållare”). Enligt artikel 25.1 c AI-förordningen ska en tillhandahållare (och även andra aktörer) av ett AI-system anses vara leverantör av AI-systemet när tillhandahållaren ändrar det avsedda ändamålet för ett AI-system. En följd av detta är att tillhandahålleran träffas av vissa skyldigheter i AI-förordningen som gäller för leverantörer av AI-system.
Ovanstående redogörelse förtydligar vikten för varje privat eller offentlig verksamhet som tar fram eller använder AI-system att ha en god förståelse av AI-systemets avsedda ändamål och avgränsa det på ett korrekt sätt. En leverantör eller tillhandahållare som missuppfattar AI-systemets avsedda ändamål och, som följd, avgränsar det på ett felaktigt sätt, riskerar att bryta mot sina skyldigheter enligt AI-förordningen. I förlängningen kan en sådan felbedömning leda till sanktioner från tillsynsmyndigheter som exempelvis administrativa sanktionsavgifter.
TechLaw följer utvecklingen och publicerar löpande inlägg om rättsutveckling och andra aktuella frågor inom AI. Läs mer om hur vi bistår våra klienter inom artificiell intelligens (AI).
Källa: Förordning (EU) 2024/1689.
