Försäkringskassan använder ett nytt AI-verktyg för tolkning av läkarintyg, rapporterar Sveriges Radio Ekot. Verktyget ska fungera som ett stöd för Försäkringskassans handläggare för att tolka läkarintyg genom att identifiera vad en sjuk person inte orkar göra.
Enligt Försäkringskassan kan det vara svårt för handläggare att tolka beskrivningar av symtom, till exempel när medicinska besvär uttrycks i vardaglig text, som till exempel ”trött”. För närvarande används AI-verktyget endast i samband med beslut om aktivitetsersättning till unga med autism och beteendestörningar. Ambitionen är dock att använda verktyget på flera områden i framtiden som exempelvis ärenden om sjukpenning.
Även om verktyget kan leda till en effektivare hantering av ärenden kan den innebära risker för enskilda. AI-system för tolkning av texter använder så kallade språkmodeller (en viss typ av AI-modeller) för att producera sina resultat. Det har vid ett flertal tillfällen visats att teknologin producerar felaktiga resultat, till exempel genom så kallade hallucinationer där språkmodellerna hittar på uppgifter (ett beteende som är föremål för intensiv forskning).
Försäkringskassans handläggare kan således inte förlita sig på AI-verktygets resultat utan måste själva läsa igenom läkarintyget innan lämnar förslag på beslut. Forskningen visar emellertid att människor har en övertro i tekniken. Som Anne Kaun, AI-forskare vid Södertörns högskola, uttrycker det är handläggare inte ”så benägna att gå emot ett förslag som kommer från systemen”.
Befintliga regelverk som dataskyddsförordningen (GDPR) ställer höga krav på användning av AI-verktyg för automatiserat beslutsfattande. Enligt GDPR kan ett beslut klassas som automatiserat trots att en människa deltar i beslutsfattandet, särskilt när deltagandet endast är formellt och människan inte ifrågasätter beslutet. Enligt GDPR ska det tillhandahållas information om förekomsten av automatiserat beslutsfattande som har rättsliga eller liknande följder för en person, som till exempel när en myndighet fattar beslut om att ge en person stöd eller bidrag. I dessa fall ska det lämnas meningsfull information om logiken bakom det automatiserade beslutet samt betydelsen och de förutsedda följderna av sådan databehandling för personen. Vid användning av AI-verktyg ska denna information till exempel omfatta betydelsen av varje kategori personuppgifter som används i beslutsfattandet, AI-verktygets precisionsvärden och i vilken utsträckning beslutsfattandet övervakas av människor.
Vidare har en person enligt GDPR som utgångspunkt rätt att inte bli föremål för ett automatiserat beslut med rättsliga eller liknande följder. Denna regel utgör ett allmänt förbud mot denna typ av beslutsfattande men undantag finns, till exempel i vissa avtalssammanhang och i vissa situationer när myndigheter fattar automatiserade beslut. Särskilda krav gäller för automatiserade beslut under användning av känsliga personuppgifter som till exempel uppgifter om hälsa i form av medicinska besvär eller läkarintyg.
Även den kommande AI-förordningen innehåller långtgående krav på AI-system som används för automatiserat beslutsfattande i olika sammanhang, däribland sådana beslut som fattas av myndigheter.