Autoriteit Persoonsgegevens (AP) och Autoriteit Consument & Markt (ACM) uppmanar organisationer som använder chatbots i sina tjänster att alltid erbjuda människor möjligheten att prata med en medarbetare. De uppmanar även organisationerna att tydligt ange när man har att göra med en chatbot och att säkerställa att chatboten inte ger felaktig, undvikande eller vilseledande information. För att säkerställa efterlevnad kommer tillsynsmyndigheterna att ägna extra uppmärksamhet åt detta under den kommande tiden.
Konsumentlagstiftningen ålägger redan företag att kommunicera tydligt, effektivt och korrekt med sina kunder. Ändå verkar detta inte vara tillräckligt tydligt för många företag. Tack vare förordningen om digitala tjänster (Digital Services Act, DSA) finns denna tydlighet redan för så kallade mellanhandsföretag, såsom sociala medier, marknadsplatser och onlineplattformar. I DSA står det att människor måste ha möjlighet att välja ett kommunikationsmedel som inte är helt automatiserat. EU-kommissionen förbereder för närvarande ändringar i konsumentlagstiftningen, vilket tack vare Digital Fairness Act snart också ska ge andra företag större tydlighet.
Dessutom kommer nya skyldigheter enligt AI-förordningen att träda i kraft i EU från och med den 2 augusti 2026, med krav på transparens vid användning av AI-chattbottar. Företag måste då bland annat informera användarna om att de kommunicerar med ett automatiserat system.
Tillsynsmyndigheterna uppmanar EU-kommissionen att komplettera transparenskraven med tydliga regler för utformningen av AI-chattbottar. Dessa måste vara ärliga, igenkännliga och tillgängliga, och människor får inte vilseledas.
AP (samordnande tillsynsmyndighet för algoritmer och AI) och ACM (tillsynsmyndighet för konsumenträttigheter) noterar att antalet rapporter om problem med chattbottar ökar snabbt. En färsk konsumentundersökning från ACM visar att bristen på mänsklig kontakt i kundtjänsten är ett av de största irritationsmomenten.
Det framgår också att chattbottar ibland ger dåliga eller felaktiga svar, eller talar utan att verkligen lösa problemet. Dessutom är det ofta osäkert för användaren om hen har kontakt med en chatbot eller en medarbetare, och det lyckas inte alltid att få kontakt med en medarbetare när det behövs.
Ökad tillsyn av användningen av chattbottar är också nödvändig på grund av risker för informationssäkerhet och integritet. Chattbottar är en form av generativ AI som tränas med stora mängder information och data, vilket ibland kan inkludera konfidentiella uppgifter och dokument. Detta kan göra det möjligt – exempelvis för illvilliga personer – att få chatboten att lämna ut mer information än vad som är nödvändigt för att besvara vanliga kundfrågor, och därigenom få tillgång till känslig information. Detta äventyrar datasäkerheten och kan till och med leda till dataläckor.