Datatilsynet upplever en ökning av klagomål och förfrågningar från medborgare och företag som helt eller delvis har utarbetats med hjälp av AI-verktyg. Detta kan vara till hjälp för vissa människor, men myndigheten anser också att det finns också risker som bör beaktas.
Enligt Datatilsynet medför användningen av AI-verktyg en risk att egna och andras personuppgifter delas oavsiktligt. Detta beror på AI-verktygens utformning och funktion. AI-verktyg fungerar ofta så att användarens information behandlas för att tillhandahålla en tjänst till användaren, men också används för leverantörens egna ändamål, till exempel för att vidareutveckla AI-verktyget. Det finns därför risk för att personer kan komma att dela hälsoinformation, personnummer och andra personuppgifter med leverantören av AI-verktyget. Informationen kan då bli en del av AI-verktygets dataset och i vissa fall ingå i svar till andra användare. I många fall kommer det enligt Datatilsynet att vara praktiskt taget omöjligt eller mycket svårt att kontrollera hur information används i efterhand.
Datatilsynet konstaterar också att AI-genererade klagomål ofta tenderar att förvränga innehållet i klagomålet. Det är därför inte nödvändigtvis en fördel att klagomålet har utarbetats av ett AI-verktyg. Detta beror på att verktygen kan göra misstag och onödigt komplicera både sakförhållandena i ärendet och de därmed sammanhängande rättsliga frågorna. Verktygen är bara så exakta som den information de har tillgång till. Det kan därför finnas områden där verktygets databas inte är uppdaterad eller fullständig. Resultatet kan bli ett svar som ser övertygande och korrekt ut, men som inte är det.
Daratilsynet har också observerat att vissa klagande använder AI-verktyg för att förutsäga utgången av sitt ärende. Detta kan ge klagande en förutfattad mening om hur deras ärenden kommer att bedömas innan de faktiskt har behandlats. När Datatilsynet har behandlat ärendet och därefter skickat ett svar till klagandena hänvisar vissa klagande till AI-verktygets ”bedömning” och inleder på den grunden diskussioner med myndigheten om utgången av deras ärende.
Enligt Datatilsynet är det viktigt att betona att AI-verktyg inte kan förutsäga myndighetens beslut. Verktygens svar baseras enbart på mönster i tillgängliga data och är ofta ofullständiga eller direkt missvisande. Datatilsynets beslut baseras alltid på en specifik och professionell bedömning av de individuella omständigheterna.
Datatilsynet rekommenderar alltid att man formulerar sitt klagomål med egna ord och beskriver vad man vill klaga på. Om man ändå vill använda ett AI-verktyg för att lämna in ett klagomål till Datatilsynet rekommenderar myndigheten att man undviker att ange konfidentiella och känsliga personuppgifter och annan information som man inte vill ska delas och lämnas ut till leverantören av AI-verktyget eller andra personer.
Många leverantörer erbjuder också möjligheten att välja bort insamling av information för vidareutbildning av AI-verktyget. Man bör dock vara medveten om att leverantören i vissa fall fortfarande kan samla in, behandla och lämna ut information om personliga angelägenheter. Detta kan bero på hur AI-verktyget fungerar, där leverantören och/eller utvecklaren av verktyget inte alltid har full insikt i hur AI-verktygets ”maskinrum” faktiskt fungerar och behandlar data. Det är därför som vissa AI-verktyg kallas för så kallade svarta lådor.