Search
Close this search box.

Danmark: Datatilsynet uttalar sig om den rättsliga grunden för utveckling och drift av en AI-lösning inom vård- och omsorgssektorn

På begäran av Köpenhamns kommun har Datatilsynet gjort bedömningen att utveckling, drift och omskolning av en AI-lösning som behandlar personuppgifter och särskilda kategorier av personuppgifter i syfte att förutsäga medborgares behov av och nytta av rehabilitering för att undvika funktionsnedsättning generellt kan ske med stöd av artikel 6.1 (e) och artikel 9.2 (g) dataskyddsförordningen (GDPR).

Bakgrunden till ärendet är att Köpenhamns kommun vill utveckla, driftsätta och vidareutbilda en AI-lösning baserad på egna data från historiska fall av utbildnings- och rehabiliteringsprogram. AI-lösningen är avsedd som beslutsstöd för handläggare inom kommunens vård- och omsorgsförvaltning och ska utifrån en statistisk analys med relativt hög träffsäkerhet identifiera vilka medborgare som kan fullfölja ett träningsprogram och vilka som kommer att ha nytta av programmet.

Datatilsynet bedömer att utveckling, drift och omskolning av en sådan AI-lösning generellt kan ske med stöd av GDPR:s bestämmelser om myndighetsutövning enligt artikel 6.1 (e) GDPR och om behandling som är nödvändig av hänsyn till ett viktigt allmänt intresse enligt artikel 9.2 (g) GDPR. Båda bestämmelserna kräver dock en så kallad kompletterande nationell rättslig grund.

Enligt Datatilsynets uppfattning kan myndigheter, inom ramen för den lagstiftning som ålägger eller bemyndigar myndigheter att utföra en viss uppgift, ofta utforma, utveckla och testa AI-lösningar som kan stödja myndigheten i utförandet av denna uppgift. Behandling av personuppgifter som ett led i driften av lösningen kan dock inte ske inom ramen för dessa bestämmelser, eftersom det inte finns en tillräckligt tydlig rättslig grund mot bakgrund av behandlingens integritetskränkande karaktär.

Behovet av en tillräckligt tydlig rättslig grund motiveras bland annat av att användningen av AI-lösningar, såsom den aktuella, ofta kommer att innebära behandling av stora mängder personuppgifter och känsliga uppgifter. Användningen av AI som en del av ärendehandläggningen, såsom är fallet i detta mål, har därför en inverkan på hur tydlig den kompletterande nationella rättsliga grunden måste vara. Detta eftersom användningen av AI bland annat innebär att AI-lösningar kan lära sig, hitta samband och utföra sannolikhetsanalyser och dra slutsatser långt utöver vad en fysisk handläggare skulle kunna göra. Användningen av AI i administrativ ärendehantering skiljer sig därmed fundamentalt från den traditionella mänskliga ärendehantering som hittills har varit normen.

Slutligen innebär användningen av AI-lösningar för beslutsstöd en risk för att anställda fäster större vikt vid lösningens bedömning av ett ärende än sin egen bedömning, vilket utgör en ytterligare risk för medborgaren.

Mer information

Källa: Pressmeddelande

Relaterade nyheter

Områden

I fokus

Länder

Taggar

Populära kurser

Expertis

Gå kurs med oss

07 MAR

AI – Introduktion till artificiell intelligens

Kursen ger dig de rättsliga förutsättningarna för utveckling, upphandling och användning av AI.

14 MAR

Cybersäkerhet - Introduktion till NIS2-direktviet

En genomgång av de viktigaste reglerna i NIS2-direktivet och kompletterande svensk lagstiftning.

21 MAR

AI - Introduktion till AI-förordningen

En genomgång av de viktigaste reglerna i den nya AI-förordningen och hur du kan använda AI-system på ett lagenligt sätt.