Search
Close this search box.

Sverige: eSam publicerar vägledning för utveckling av AI-system och hantering av data

eSamverka (eSam) har publicerat en rapport som ska vägleda myndigheter vid utveckling av AI-system och hantering av data i samband med detta.

Bakgrunden till rapporten är att AI-system å ena sidan anses kunna bidra till att effektivisera myndigheters verksamheter. Å andra sidan har myndigheter en skyldighet att genomföra sina uppgifter på ett sakligt sätt som gynnar den enskildes välfärd. För att säkerställa efterlevnaden av dessa skyldigheter vid utveckling och senare användning av AI-system krävs särskilt kompetens på området AI, särskilt på delområdet maskinlärning.

Rapportens tyngdpunkt ligger på utveckling av AI-system som använder metoder för maskinlärning. Rapporten beskriver olika utvecklingsprocesser för sådana AI-system och går igenom fördelar och nackdelar av dessa processer. Det beskrivs även roller som förekommer i en vanlig utvecklingsprocess som till exempel it-arkitekt, data scientist och data engineer.

Rapporten understryker vikten av att implementera en förvaltningsmodell för AI-system som är i produktion. Det är viktigt att det finns en tydlig fördelning av ansvar och befogenheterna för AI-system samt att det fastställs rutiner för hantering och dokumentation av systemet.

Rapporten lyfter även riskerna med utveckling och användning av AI-system. AI-system som använder metoder för maskininlärning producerar resultat som är förutsägelser. Detta innebär att resultaten är sannolika utfall snarare än att något är sant eller falskt. I praktiken kan det vara svårt att nå fram med detta budskap varför det är viktigt att analysera och förklara risker utifrån deras konsekvenser, inklusive en bedömning av sannolikhet och allvarlighetsgrad.

Rapporten är riktad till myndigheter men innehåller värdefull information även för företag och andra privata verksamheter som utvecklar och använder AI-system som baseras på metoder för maskinlärning.

Mer information

Källa: eSam rapport AI – Utvecklingsprocessen och data

Relaterade nyheter

Områden

I fokus

Länder

Taggar

Populära kurser

Expertis

Gå kurs med oss

07 MAR

AI – Introduktion till artificiell intelligens

Kursen ger dig de rättsliga förutsättningarna för utveckling, upphandling och användning av AI.

14 MAR

Cybersäkerhet - Introduktion till NIS2-direktviet

En genomgång av de viktigaste reglerna i NIS2-direktivet och kompletterande svensk lagstiftning.

21 MAR

AI - Introduktion till AI-förordningen

En genomgång av de viktigaste reglerna i den nya AI-förordningen och hur du kan använda AI-system på ett lagenligt sätt.