Alltmer autonoma AI-system riskerar att avsiktligt manipulera och destabilisera finansiella för att öka vinsterna för banker och handlare, varnar Bank of England.
I en rapport som släppts av banken nämns bland annat risken att AI-modeller skulle kunna ”utnyttja vinstmöjligheter på ett destabiliserande sätt eller delta i annat skadligt beteende.” I rapporten lyfts ett scenario i vilket avancerade AI-modeller med en hög grad av autonomi används för att identifiera och utnyttja sårbarheter i andra marknadsdeltagares strategier. Enligt rapporten kan detta utlösa eller förstärka prisrörelser på marknaden. Vidare anser rapporten att självlärande AI-modeller potentiellt kan lära sig att oro i marknaden gynnar deras möjligheter att göra vinster och, som följd av detta, aktivt vidtar åtgärder för att skapa förutsättningarna för att skapa sådan oro.
Enligt rapporten är en annan källa för risk att sådana AI-modeller kan underlätta för hemliga överenskommelser eller andra former av marknadsmanipulation. Med tanke på vissa AI-modellers förmåga att lära sig dynamiskt och utmaningar kring förklarbarheten av AI-modellers output, kan sådana negativa beteenden uppstå utan att människor som använder AI-modellen har detta för avsikt eller är medveten om det.