AI-system för känsloigenkänning används i allt större utsträckning, till exempel för att analysera telefonsamtal i realtid. Denna artikel förklarar begreppet system för känsloigenkänning.
Ett system för känsloigenkänning (emotion recognition system) är ett system som används för att härleda människors känslor eller avsikter. Sådana system är vanligtvis datorbaserade och använder sig i allt större utsträckning av artificiell intelligens (AI). AI-system för känsloigenkänning använder regelbundet biometriska uppgifter.
System för känsloigenkänning som är AI-system omfattas av reglerna i AI-förordningen (AIF). Enligt artikel 3.39 AIF är ett system för känsloigenkänning ett AI-system vars syfte är att identifiera eller uttyda fysiska personers känslor eller avsikter på grundval av deras biometriska uppgifter.
Vad som menas med att identifiera eller uttyda fysiska personers känslor eller avsikter förtydligas i skäl 18 till AIF. Enligt skälet avses med detta känslor eller avsikter som lycka, sorg, ilska, överraskning, avsky, förlägenhet, sinnesrörelse, skam, förakt, nöjdhet och förnöjelse. Det omfattar däremot inte fysiska tillstånd, såsom smärta eller trötthet.
Innebörden av begreppet biometriska uppgifter förtydligas i skäl 14 AIF. Av skälet framgår att begreppet biometriska uppgifter bör tolkas mot bakgrund av begreppet biometriska uppgifter enligt definitionen i artikel 4.14 dataskyddsförordningen (GDPR). Enligt denna artikel är biometriska uppgifter personuppgifter som erhållits genom en särskild teknisk behandling som rör en fysisk persons fysiska, fysiologiska eller beteendemässiga kännetecken och som möjliggör eller bekräftar identifieringen av denna fysiska person, såsom ansiktsbilder eller fingeravtrycksuppgifter. Begreppet biometriska uppgifter förtydligas i riktlinjer som utfärdats av myndigheter och rättspraxis.
I skäl 18 nämns även exempel på system som inte omfattas av begreppet system för känsloigenkänning. Ett exempel som anförs är system som används för att upptäcka trötthetstillståndet hos yrkespiloter eller yrkeschaufförer i syfte att förebygga olyckor. Andra exempel som anges är system som enbart upptäcker av lätt skönjbara uttryck, gester eller rörelser, såvida de inte används för att identifiera eller dra slutsatser om känslor. Som exempel på uttryck anges grundläggande ansiktsuttryck såsom en sur min eller ett leende, eller gester som rörelser av händer, armar eller huvud, eller egenskaper hos en persons röst, till exempel höjd röst eller viskningar.
Definitionen av begreppet system för känsloigenkänning har en avgörande betydelse i praktiken. I vissa fall är det förbjudet enligt AI-förordningen att använda system för känsloigenkänning (artikel 5 AIF). I andra fall klassas sådana AI-system som högrisksystem.