Mot bakgrund av de senaste nyheterna om artificiell intelligens (AI), och i synnerhet så kallad generativ AI som ChatGPT, publicerar Commission Nationale de l’Informatique et des Libertés (CNIL) en handlingsplan för införandet av AI-system som respekterar enskildas integritet.
Utvecklingen av AI åtföljs av utmaningar på området för dataskydd och individuella friheter som CNIL har arbetat med att ta itu med i flera år nu. Sedan CNIL 2017 publicerade sin rapport om de etiska utmaningarna med algoritmer och AI har CNIL upprepade gånger uttalat sig om de frågor som de nya verktyg som denna nya teknik ger upphov till väcker.
I synnerhet har generativ AI utvecklats snabbt under flera månader, både inom text och konversation, via stora språkmodeller (Large Language Model, LLM), såsom GPT-3, BLOOM eller Megatron NLG och härledda chatbots (ChatGPT eller Bard), men också inom bild (Dall-E, Midjourney, Stable Diffusion, etc.) eller tal (Vall-E).
Dessa grundmodeller och de tekniska klossar som bygger på dem verkar redan ha många tillämpningar inom en rad olika sektorer. Förståelsen för hur de fungerar, deras möjligheter och begränsningar samt de rättsliga, etiska och tekniska frågorna kring deras utveckling och användning är dock fortfarande i hög grad föremål för debatt.
Med tanke på att skyddet av personuppgifter är en stor utmaning för utformningen och användningen av dessa verktyg offentliggör CNIL sin handlingsplan för AI, som bland annat syftar till att rama in utvecklingen av generativ AI.
Handlingsplanen är uppbyggd kring fyra mål:
- Förstå hur AI-system fungerar och hur de påverkar människor
- Möjliggöra och vägleda utvecklingen av AI som respekterar personuppgifter
- Samla och stödja innovativa aktörer i AI-ekosystemet i Frankrike och Europa
- Granska och kontrollera AI-system och skydda människor
Genom detta arbete vill CNIL fastställa tydliga regler som skyddar EU-medborgarnas personuppgifter för att bidra till utvecklingen av integritetsvänliga AI-system.