Italiens konkurrensmyndighet Autorità Garante della Concorrenza e del Mercato (AGCM) har utfärdat 10 miljoner euro i administrativa sanktionsavgifter mot TikTok för spridning av innehåll som skadar ungdomar genom användning av algoritmisk profilering, en uppsättning av metoder som i allt större utsträckning använder artificiell intelligens (AI).
Enligt AGCM har bolaget underlåtit att införa lämpliga mekanismer för att övervaka innehåll som publiceras på plattformen, särskilt sådant som kan hota barns och utsatta personers säkerhet. Det skadliga innehållet visas dessutom återupprepade gånger som följd av en systematisk algoritmisk profilering av användare, vilket stimulerar en ständigt ökande användning av det sociala nätverket. Denna typ av algoritmisk profilering använder sig i allt större utsträckning av tekniker och metoder på området AI vilket gör det möjligt att ta fram profiler på individer på en nivå som tidigare inte varit möjligt.
Beslutet gäller tre företag i Bytedance Ltd-gruppen som står bakom TikTok, den irländska TikTok Technology Limited, brittiska TikTok Information Technologies UK Limited och italienska TikTok Italy Srl. De tre bolagen bötfälls solidariskt med 10 miljoner euro.
I sin utredning konstaterar AGCM att TikTok är ansvarig för spridning av innehåll som sannolikt hotar användares psykologiska och fysiska säkerhet, särskilt om de är barn och sårbara. Som ett exempel anförs en populär lek på plattformen, den så kallade ”French scar challenge”, som innebär att användarna delar videor med märken i ansiktet som de fått genom att klämma på huden. Vidare anser myndigheten att TikTok inte vidtagit tillräckliga åtgärder för att förhindra spridningen av sådant innehåll och har inte fullt ut följt de riktlinjer som bolaget har antagit för att skydda användarna. TikTok anses ha informerat användarna om riktlinjerna genom att försäkra dem om att plattformen är en ”säker” plats. AGCM konstaterar även att bolaget tillämpar riktlinjerna utan att ta tillräcklig hänsyn till ungdomars särskilda sårbarhet, som kännetecknas av särskilda kognitiva mekanismer som bland annat leder till svårigheter att skilja verklighet från fiktion och en tendens att efterlikna gruppbeteenden.
Dessutom konstaterar AGCM att innehållet sprids på plattformen genom ett ”rekommendationssystem” även om det är potentiellt farligt. Systemet baseras på algoritmisk användarprofilering, som med hjälp av AI kontinuerligt väljer vilka videor som ska riktas till varje användare. Detta sker i syfte att öka användarnas interaktion och tid på plattformen för att öka reklamintäkterna. Detta leder till en otillbörlig behandling av användare som stimuleras att i allt större utsträckning använda plattformen. Enligt AGCM utgör TikToks agerande en användning av otillbörliga affärsmetoder.
TechLaw bistår verksamheter i frågor som rör algoritmisk profilering, otillbörliga affärsmetoder och plattformsansvar. Läs mer om vår expertis inom dataskydd och integritet.
Har ni frågor är ni välkomna att kontakta Carina Berg, partner och jurist specialiserad inom dataskydd och affärsjuridik i teknikintensiva verksamheter.
Källa: AGCM.