eSamverka (eSam) har publicerat en rapport som ska vägleda myndigheter vid utveckling av AI-system och hantering av data i samband med detta.
Bakgrunden till rapporten är att AI-system å ena sidan anses kunna bidra till att effektivisera myndigheters verksamheter. Å andra sidan har myndigheter en skyldighet att genomföra sina uppgifter på ett sakligt sätt som gynnar den enskildes välfärd. För att säkerställa efterlevnaden av dessa skyldigheter vid utveckling och senare användning av AI-system krävs särskilt kompetens på området AI, särskilt på delområdet maskinlärning.
Rapportens tyngdpunkt ligger på utveckling av AI-system som använder metoder för maskinlärning. Rapporten beskriver olika utvecklingsprocesser för sådana AI-system och går igenom fördelar och nackdelar av dessa processer. Det beskrivs även roller som förekommer i en vanlig utvecklingsprocess som till exempel it-arkitekt, data scientist och data engineer.
Rapporten understryker vikten av att implementera en förvaltningsmodell för AI-system som är i produktion. Det är viktigt att det finns en tydlig fördelning av ansvar och befogenheterna för AI-system samt att det fastställs rutiner för hantering och dokumentation av systemet.
Rapporten lyfter även riskerna med utveckling och användning av AI-system. AI-system som använder metoder för maskininlärning producerar resultat som är förutsägelser. Detta innebär att resultaten är sannolika utfall snarare än att något är sant eller falskt. I praktiken kan det vara svårt att nå fram med detta budskap varför det är viktigt att analysera och förklara risker utifrån deras konsekvenser, inklusive en bedömning av sannolikhet och allvarlighetsgrad.
Rapporten är riktad till myndigheter men innehåller värdefull information även för företag och andra privata verksamheter som utvecklar och använder AI-system som baseras på metoder för maskinlärning.
Källa: eSam.