AI-agenter har snabbt blivit en central del av utvecklingen inom artificiell intelligens, men begreppet saknar fortfarande en rättslig definition. Trots detta omfattas AI-agenter av AI-förordningen genom de bestämmelser som gäller för AI-system och AI-modeller för allmänna ändamål (GPAI-modeller). Här går vi igenom hur AI-förordningen förhåller sig till AI-agenter och vilka bestämmelser som är särskilt relevanta.
Vad är AI-agenter?
Begreppet AI-agent saknar fortfarande en etablerad definition och används därför på olika sätt i den offentliga debatten. Gränsdragningen mellan AI-agenter och andra typer av AI är fortfarande oklar och under utveckling, vilket gör att begreppet används olika beroende på sammanhang. Samtidigt råder det en bred samsyn om att en AI-agent ska kunna ta emot och bearbeta information från sin omgivning och därefter utföra åtgärder som påverkar eller interagerar med omgivningen, exempelvis genom att anropa externa tjänster eller system.
I praktiken innehåller AI-agenter normalt åtminstone en AI-modell för allmänna ändamål (GPAI-modell). Eftersom AI-agenten normalt också har ett användargränssnitt eller någon annan systemkomponent utgör den vanligtvis ett AI-system enligt skäl 97 i AI-förordningen. Någon rättslig definition av AI-agent finns däremot inte, och begreppet används i praktiken för olika typer av tekniska lösningar.
Rättslig innebörd
AI-förordningen behandlar inte AI-agenter som en egen kategori av AI. I stället omfattas de av definitionerna av AI-system i artikel 3.1 och GPAI-modell i artikel 3.63 AI-förordningen. Det innebär att de bestämmelser som gäller för AI-system och GPAI-modeller också gäller för AI-agenter.
För AI-agenter är flera av AI-förordningens regler särskilt relevanta. Dit hör bland annat förbudet mot skadlig manipulation och utnyttjande av sårbarheter enligt artikel 5.1 a och b AI-förordningen. För att uppfylla dessa krav kan det behöva byggas in lämpliga skyddsåtgärder redan under utvecklingen av AI-agenten för att motverka användning som rimligen kan leda till förbjudna metoder och betydande skada.
Om en AI-agent är avsedd att interagera med fysiska personer eller generera innehåll omfattas den från och med den 2 augusti 2026 även av transparenskraven i artikel 50 AI-förordningen. En uppförandekod för tillämpningen av dessa regler har nyligen publicerats. AI-agenter som klassificeras som AI-system med hög risk omfattas dessutom, från och med den 2 december 2027 respektive den 2 augusti 2028, av de särskilda krav som gäller för högrisksystem enligt kapitel III i AI-förordningen i syfte att säkerställa att systemet är säkert och tillförlitligt för den avsedda användningen.
För de GPAI-modeller som ligger till grund för AI-agenter kan bland annat graden av autonomi och modellens användning av verktyg vara avgörande för bedömningen av om modellen ska anses medföra systemrisk enligt artikel 51.1 b och bilaga XIII punkt e AI-förordningen. Leverantörer av GPAI-modeller med systemrisk omfattas dessutom av särskilda skyldigheter avseende riskhantering. Dessa omfattar bland annat överväganden om modellens autonoma förmågor och hur modellen kan användas som AI-agent. Kraven konkretiseras bland annat i uppförandekoden för GPAI-modeller (GPAI Code of Practice).
Utvecklingen av AI-agenter går snabbt och regelverket befinner sig fortfarande i ett tidigt skede. EU-kommissionen betonar därför att dess regulatoriska överväganden än så länge är preliminära. AI-byrån följer utvecklingen löpande och kan vid behov ta fram ytterligare strategier för att hantera de risker som AI-agenter kan ge upphov till.
Praktiska konsekvenser
Att AI-agenter inte regleras som en egen kategori innebär inte att de faller utanför AI-förordningens tillämpningsområde. Vilka regler som gäller beror på AI-agentens funktion, den GPAI-modell som den bygger på och hur den ska användas.
Verksamheter som utvecklar eller tillhandahåller AI-agenter behöver därför tidigt bedöma vilka regler som blir tillämpliga. Det kan innebära att bygga in skyddsåtgärder mot förbjudna användningssätt, bedöma om transparenskraven i artikel 50 AI-förordningen gäller och ta ställning till om AI-agenten är ett AI-system med hög risk eller bygger på en GPAI-modell med systemrisk.
Även verksamheter som använder AI-agenter behöver bedöma hur de får användas och vilka skyldigheter som följer av AI-förordningen. Ju mer autonoma AI-agenter blir och ju större möjlighet de får att interagera med sin omgivning, desto viktigare blir dessa bedömningar.
TechLaw följer utvecklingen och publicerar löpande inlägg om rättsutveckling och andra aktuella frågor inom AI. Läs mer om hur vi bistår våra klienter inom artificiell intelligens (AI).
Källa: Förordning (EU) 2024/1689; EU-kommissionen.
