I takt med en ökad användning av artificiell intelligens (AI) och de potentiella risker som detta innebär blir det allt viktigare att granska AI-system. För att bidra till ökad kunskap på detta område har Tysklands statliga myndighet för informationssäkerhet (BSI), TÜV och Fraunhofer Heinrich Hertz Institute (HHI) publicerat whitepapern Towards Auditable AI Systems.
Whitepapern riktar sig till utvecklare, revisorer och beslutsfattare inom industri, forskning och myndigheter. Den presenterar en metod för att bedöma granskningsbarheten av informationssäkerhet och andra aspekter av AI-system. Vidare innehåller den exempel på tillämpningar. Genom detta anses whitepapern bland annat bidra till operationaliseringen av EU-kommissionens utkast till den nya AI-förordningen.
Centrala frågor på området är den praktiska tillämpningen och standardiseringen av testförfaranden för AI-system inom bilindustrin, medicinteknik och biometri. I whitepapern föreslås en Certification Readiness Matrix (CRM) som en ny metod för detta. CRM är inte utformat som ett formellt certifieringssystem för specifika rättsakter utan syftar till att förbättra registrering och kommunikation av brister i granskningsbarheten hos enskilda AI-system. Därutöver ska CRM även förbättra möjligheterna att jämföra olika AI-system med varandra och med tiden.