Commission Nationale de l’Informatique et des Libertés (CNIL) skapar en avdelning för artificiell intelligens (AI) för att stärka myndighetens expertis om dessa system och förståelsen för riskerna för integriteten. CNIL vill genom den nya avdelningen även förbereda inför ikraftträdandet av den nya AI-förordningen.
Huvuduppdragen för AI-avdelningen kommer att vara att:
- underlätta förståelsen av hur AI-system fungerar inom CNIL,
- konsolidera CNIL:s expertis när det gäller kunskap och förebyggande av integritetsrisker relaterade till implementeringen av AI-system,
- förbereda inför ikraftträdandet av AI-förordningen, och
- utveckla relationer med ekosystemaktörer.
Artificiell intelligens upplever enligt CNIL spektakulära tekniska framsteg, vilket gör det möjligt att hjälpa människor i ett stort antal uppgifter. Inom den privata sektorn ses det som en faktor för att optimera prestanda och lönsamhet, medan dess användning inom offentlig förvaltning skulle enligt CNIL kunna förbättra kvaliteten på den offentliga service som tillhandahålls användaren.
Användningen av denna teknik berör alltså alla aktörer, oavsett deras verksamhetsområde eller storlek. Som ett resultat måste alla nödvändigtvis direkt eller indirekt konfronteras med det vid ett eller annat tillfälle, till exempel när man använder en röstassistent, en urvalsprocess för en arbetsansökan eller för att bekämpa skatteflykt.
Även om fördelarna förknippade med användningen av algoritmer och AI är obestridliga, bör det ändå enligt CNIL betonas att deras verksamhet bygger på bearbetning av en stor mängd data, mycket ofta personlig, och att implementeringen därmed innebär integritetsrisker.
Dessutom finns det frågor om information för användare såväl som förståelse för systemens exakta funktion, men också för ansvarig för databehandling eller till och med för tillsynsmyndigheter i samband med deras revisions- och kontrolluppdrag.
Skapandet av AI-tjänsten svarar enligt CNIL på dessa utmaningar: organisera transparensen och förståelsen för en teknik som ofta uppfattas som en “svart låda” för att säkerställa balanserad reglering och tillåta verksamheter, berörda personer och CNIL att kontrollera riskerna för integriteten.