AI-system, särskilt de som är baserade på maskininlärning, kräver mycket ofta användning av stora volymer persondata för träningsalgoritmer. Commission Nationale de l’Informatique et des Libertés (CNIL) påbörjar därför ett arbetsprogram för att stödja yrkesverksamma och garantera respekt för individers rättigheter vid användning av inlärningsdatabaser.
Många offentliga och privata verksamheter som vill bygga databaser för utbildning och utveckling av artificiell intelligens (AI) har ställt frågor till CNIL om lagligheten av vissa användningar. Syftet med CNIL arbete är därför att klargöra myndighetens ståndpunkt på denna punkt och att främja god praxis, under de krav som ställs av dataskyddsförordningen (GDPR), men också i ljuset av den nya AI-förordningen.
Tillhandahållandet av ett ramverk för att analysera bestämmelserna om skydd av personuppgifter och tillhandahållandet av konkreta svar bör göra det möjligt för verksamheter att upprätta eller använda databaser samtidigt som individers grundläggande rättigheter och friheter respekteras. CNIL kommer regelbundet att publicera stödverktyg i ämnet som kommer att komplettera myndighetens första vägledningar på området.
Omfattningen av arbetet som initierats av CNIL omfattar:
- AI-system vars utveckling eller förbättring kräver skapandet av en databas ( maskininlärningssystem och expertsystem),
- datainsamling från alla typer av källor (datainsamling från registrerade, datainsamling från datamäklare, datainsamling från öppna källor, etc.),
- de faser av utvecklingen av ett AI-system som är nödvändiga för att sätta det i produktion eller förbättra det (systemdesign, förbearbetning av data, utbildning, kontinuerlig utbildning, etc.),
- olika användningar relaterade till utveckling eller förbättring av ett AI-system (vetenskaplig forskning, forskning och utveckling, förbättring av en kommersiell produkt, etc.), oavsett syftet med AI-systemet i produktionen och den rättsliga ordningen som är tillämplig på behandlingen.
Frågor som rör AI-modeller lärts av de insamlade uppgifterna, och i synnerhet de som rör deras spridning och återanvändning, är undantagna från detta projekt och kommer att bli föremål för separat arbete.