Tyskland: BSI publicerar whitepaper om granskning av AI-system

I takt med en ökad användning av artificiell intelligens (AI) och de potentiella risker som detta innebär blir det allt viktigare att granska AI-system. För att bidra till ökad kunskap på detta område har Tysklands statliga myndighet för informationssäkerhet (BSI), TÜV och Fraunhofer Heinrich Hertz Institute (HHI) publicerat whitepapern Towards Auditable AI Systems.

Whitepapern riktar sig till utvecklare, revisorer och beslutsfattare inom industri, forskning och myndigheter. Den presenterar en metod för att bedöma granskningsbarheten av informationssäkerhet och andra aspekter av AI-system. Vidare innehåller den exempel på tillämpningar. Genom detta anses whitepapern bland annat bidra till operationaliseringen av EU-kommissionens utkast till den nya AI-förordningen.

Centrala frågor på området är den praktiska tillämpningen och standardiseringen av testförfaranden för AI-system inom bilindustrin, medicinteknik och biometri. I whitepapern föreslås en Certification Readiness Matrix (CRM) som en ny metod för detta. CRM är inte utformat som ett formellt certifieringssystem för specifika rättsakter utan syftar till att förbättra registrering och kommunikation av brister i granskningsbarheten hos enskilda AI-system. Därutöver ska CRM även förbättra möjligheterna att jämföra olika AI-system med varandra och med tiden.

Mer information

Källa: BSI:s pressmeddelande, Whitepaper

Relaterade nyheter

Områden

I fokus

Länder

Taggar

Populära kurser

Expertis

Gå kurs med oss

09 MAR

Introduktion till dataskyddsförordningen

Lär dig om grunderna i GDPR och vad som gäller vid behandling av personuppgifter.

16 MAR

Molntjänster och tredjelandsöverföringar

Få en genomgång av reglerna för tredjelandsöverföringar vid användning av molntjänster.

23 MAR

Konsekvensbedömning avseende dataskydd

Lär dig att göra en konsekvensbedömning avseende dataskydd i praktiken.