AI-förordningen innehåller ett flertal undantag från tillämpningsområdet. Denna analys behandlar undantaget för forskning, testning och utveckling samt dess praktiska betydelse för organisationer.
Bakgrund
AI-förordningen reglerar AI-system och AI-modeller för allmänna ändamål under hela deras livscykel, från utveckling och testning till användning. För vissa kategorier av AI-system och AI-modeller som innebär särskilda risker gäller omfattande krav. Samtidigt finns det ett flertal lättnader som syftar till att stödja forskning och innovation inom AI. Bland dessa lättnader finns undantaget för forskning testning och utveckling.
Undantaget kan få västenlig praktisk betydelse, till exempel i forsknings-och utvecklingsprojekt inom AI eller vid framtagande av nya AI-system.
Rättslig analys
Enligt undantaget är AI-förordningen inte tillämplig på forsknings-, testnings- eller utvecklingsverksamhet för AI-system eller AI-modeller innan de släpps ut på marknaden eller tas i bruk. Sådan verksamhet ska dock bedrivas i enlighet med tillämplig unionsrätt. Testning under verkliga förhållanden omfattas inte av undantaget.
Undantaget återspeglar ett av huvudsyftena med AI-förordningen, att stödja innovation och forskning. Vidare följer undantaget den marknadsbaserade logiken som används i AI-förordningen som bland annat innebär att förordningen blir tillämplig på AI-system när de släpps ut på marknaden eller tas i bruk.
Undantaget syftar till att ge utvecklare av AI-system och AI-modeller frihet under forsknings- och utvecklingsfasen, till exempel för att experimentera och testa nya funktioner som kan inbegripa tekniker som skulle kunna omfattas av ett eller flera av AI-förordningens förbud. Undantaget påverkar dock inte skyldigheten att följa AI förordningen när ett AI-system eller en AI-modell släpps ut på marknaden eller tas i bruk som ett resultat av sådan forskning och utveckling.
Testning under verkliga förhållanden i den mening som avses i AI-förordningen omfattas inte heller av undantaget. Ett exempel som förtydligar gränsdragningen, som är av central betydelse i den praktiska tillämpningen av undantaget, handlar om en kommun som i samband med ett evenemang vill testa ett AI-system för ansiktsigenkänning. Kommunen rekryterar frivilliga som ska identifieras av systemet under evenemanget, vilket innebär att systemet testas under verkliga förhållanden. Eftersom testning under verkliga förhållanden inte omfattas av undantaget måste den planerade testningen vara helt förenlig med kraven i AI-förordningen, såvida inte något annat undantag i AI-förordningen gäller.
Även om undantaget gäller måste forsknings-, testnings- eller utvecklingsverksamhet följa övrig tillämplig unionsrätt och nationell rätt såsom dataskyddsförordningen och kompletterande lagstiftning.
Praktiska konsekvenser
Användningen av undantaget förutsätter en noggrann juridisk bedömning av omständigheterna i det enskilda fallet. Inför testning av AI-system eller AI-modeller är det avgörande att säkerställa att sådan verksamhet inte sker under verkliga förhållanden i AI-förordningens mening.
En felaktig eller utebliven bedömning kan medföra att organisationen underlåter att vidta åtgärder som säkerställer att testningen inte sker under verkliga förhållanden och att AI-förordningen därmed blir tillämplig. Denna risk är särskilt aktuell i situationer där utveckling övergår till testning i operativa eller verklighetsnära miljöer.
Organisationer bör således säkerställa att processer för forskning, utveckling och testning inkluderar strukturerade juridiska bedömningar, tydlig dokumentation och en kontroll av när verksamheten övergår från utveckling till testning av AI-system eller AI-modeller.
TechLaw följer utvecklingen och publicerar löpande inlägg om rättsutveckling och andra aktuella frågor inom AI. Läs mer om hur vi bistår våra klienter inom artificiell intelligens (AI).
Källa: Förordning (EU) 2024/1689.
