The Guardian rapporterar hur artificiell intelligens (AI) används för att skapa falska eller lågkvalitativa böcker som publiceras på Amazons plattform Kindle Direct Publishing (KDP). Författaren Rory Cellan-Jones är ett av offren för denna praktik, då någon har publicerat en påhittad biografi om honom som verkar vara genererad av AI. Han upptäckte detta när han sökte efter sin egen bok, Sylvia, Me and the BBC, som är en memoar om hans familjehistoria och karriär på BBC.
Amazon har svårt att hantera den stora mängden AI-genererade böcker som dyker upp på KDP. Amazon har infört några åtgärder för att begränsa antalet AI-genererade böcker, till exempel att kräva att förläggare deklarerar om de innehåller AI-genererat innehåll och att sätta en gräns på tre böcker per dag. Men dessa åtgärder anses inte tillräckliga av författarförbundet Society of Authors (SoA), som vill att Amazon ska märka tydligt vilka produkter som är AI-genererade och låta läsarna filtrera bort dem.
Författarna är också oroade över att deras verk används i stora språkmodeller för att träna AI utan deras samtycke, ersättning eller erkännande. Författare som Margaret Atwood, Thanh Nguyen och Philip Pullman är några av dem som har uttryckt sin oro över detta. De vill att det ska finnas etiska standarder och lagstiftning för att reglera AI-utvecklingen och skydda författarnas rättigheter.
Enligt Rashik Parmar, vd för BCS, the Chartered Institute for IT, har Storbritannien en unik möjlighet att bli hemmet för ansvarsfull datoranvändning, om det kan införa lagar som kräver att AI-genererat material inkluderar ett digitalt vattenmärke så att det kan spåras.