Allt fler privata och offentliga verksamheter utvecklar AI-system vilket regelbundet kräver testning av AI-systemet under verkliga förhållanden. Verksamheter som utvecklar AI-system klassas vanligtvis som leverantörer enligt AI-förordningen om omfattas således av AI-förordningens regler för sådan testning. Denna artikel förklarar begreppet testning av AI-system under verkliga förhållanden och nämner exempel på bestämmelser i AI-förordningen som använder begreppet.
Begreppet testning under verkliga förhållanden (testing in real-world conditions) definieras i artikel 3.57 AI-förordningen. Enligt bestämmelsen avser begreppet tillfällig testning av ett AI-system med avseende på dess avsedda ändamål under verkliga förhållanden (real-world conditions) utanför ett laboratorium eller en på annat sätt simulerad miljö. Testningen ska ske i syfte att samla in tillförlitliga och robusta data och bedöma och kontrollera AI-systemets överensstämmelse med kraven i AI-förordningen. Vidare får testningen inte innebära att AI-systemet släpps ut på marknaden eller tas i bruk i den mening som avses i AI-förordningen.
Begreppet testning under verkliga förhållanden används i ett flertal bestämmelsen i AI-förordningen, däribland i artikel 60 som reglerar testning av AI-system med hög risk under verkliga förhållanden utanför regulatoriska sandlådor för AI. Av denna bestämmelse framgår bland annat villkoren som måste vara uppfyllda för att leverantörer eller potentiella leverantörer får testa AI-system med hög risk under verkliga förhållanden utanför regulatoriska sandlådor för AI.
Ett sådant villkor är att leverantören eller den potentiella leverantören måste ha utarbetat en plan för testning under verkliga förhållanden (real-world testing plan) och lämnat in den till marknadskontrollmyndigheten i den medlemsstat där testningen under verkliga förhållanden ska utföras. Vad som avses med plan för testning under verkliga förhållanden definieras i artikel 3.53 AI-förordningen. Enligt denna bestämmelse är en plan för testning ett dokument som beskriver målen och metoden för samt den geografiska, befolkningsmässiga och tidsmässiga omfattningen, övervakningen, organisationen samt genomförandet av testning under verkliga förhållanden.
Ett annat villkor som måste vara uppfyllt för testning under verkliga förhållanden enligt artikel 60 AI-förordningen är att marknadskontrollmyndigheten i den medlemsstat där testningen ska utföras har godkänt testningen och planen.
I sammanhanget är det viktigt att notera att även begreppet leverantör (provider) definieras i AI-förordningen. Enligt artikel 3.3 AI-förordningen avses med leverantör en fysisk eller juridisk person, en offentlig myndighet, en byrå eller ett annat organ som utvecklar ett AI-system eller en AI-modell för allmänna ändamål eller som har ett AI-system eller en AI-modell för allmänna ändamål och släpper ut det eller den på marknaden eller tar AI-systemet i bruk i eget namn eller under eget varumärke, antingen mot betalning eller kostnadsfritt. En myndighet eller ett företag som utvecklar ett AI-system för bruk i den egna verksamheten klassas således som leverantören av AI-systemet enligt AI-förordningen.