National Institute of Standards and Technology (NIST) har publicerat ett ramverk för riskhantering av artificiell intelligens (Artificial Intelligence Risk Management Framework, AI RMF 1.0). Ramverket är av vägledande karaktär och riktar sig mot organisationer som utformar, utvecklar, använder eller driftsätter AI-system. Syftet med ramverket är att hjälpa organisationer att hantera de många riskerna med AI.
NIST har tagit fram ramverket på uppdrag av USA:s kongress gett NIST och i nära samarbete med den privata och offentliga sektorn. Ramverket ska anpassas till AI-landskapet i takt med att tekniken fortsätter att utvecklas och användas av organisationer i olika grad och med olika kapacitet. Detta ska säkerställa att samhället kan dra nytta av AI-tekniken samtidigt som det skyddas från dess potentiella skador.
Enligt ramverket innebär användning av AI ett antal olika risker jämfört med traditionell mjukvara. AI-system tränas med data som kan förändras med tiden (ibland avsevärt och oväntat) vilket påverkar systemen på ett sätt som kan vara svårt att förstå. Dessa system är också ”sociotekniska” till sin natur, vilket innebär att de påverkas av samhällsdynamik och mänskligt beteende. AI-risker kan uppstå ur det komplexa samspelet mellan dessa tekniska och samhälleliga faktorer och påverka människors liv i situationer som sträcker sig från deras erfarenheter av chattrobotar på nätet till resultaten av jobb- och låneansökningar.
Ramverket ska utrusta organisationer för att tänka annorlunda på AI och risker. Det ska främja en förändring av den institutionella kulturen och uppmuntrar organisationer att närma sig AI med ett nytt perspektiv, inklusive hur man tänker på, kommunicerar, mäter och övervakar AI-risker och dess potentiella positiva och negativa effekter.