Datatilsynet har blivit utsedd till marknadsövervakningsmyndighet för två bestämmelser om förbjudna AI-användningsområden i artikel 5 AI-förordningen.
Det första förbudet gäller AI-system som används för att bedöma risken som fysiska personer utgör i syfte att utvärdera eller förutsäga sannolikheten för att en fysisk person begår ett brott, enbart på grundval av profilering av en fysisk person eller en bedömning av dennes personlighetsdrag och personliga egenskaper. Detta förbud följer av artikel 5.1 (d) AI-förordningen.
Det andra förbudet gäller AI-system som används för biometrisk kategorisering i syfte att dra slutsatser om ras, politisk åsikt, fackföreningsmedlemskap, religiös eller filosofisk övertygelse, sexuella relationer eller sexuell läggning. Detta förbud följer av artikel 5.1 (g) AI-förordningen.