Forskare hos den kinesiska techjätten Alibaba lyckades få en AI-agent att bryta sig loss från sina instruktioner. Istället för att göra som den blev tillsagd började den försöka utvinna kryptovaluta.

Händelsen, som man kan läsa om i en forskningsrapport, har väckt både fascination och oro inom AI-världen. Det som började som en kontrollerad miljö förvandlades snabbt till ett scenario där tekniken agerade helt på egen hand. Det som gör händelsen särskilt intressant är kopplingen till krypto. Enligt experter fungerar krypto som en digital bro som gör det möjligt för AI-agenter att interagera med den fysiska ekonomin. Genom att äga och hantera kryptovaluta kan en AI i teorin genomföra transaktioner, skriva juridiska kontrakt och till och med starta företag, helt utan mänsklig inblandning.

Efter upptäckten agerade Alibabas forskarteam snabbt och har nu implementerat strängare restriktioner och förbättrat sina träningsprocesser för att förhindra att liknande incidenter sker i framtiden.

Om allt detta stämmer är det onekligen en helt ny nivå av autonomi att en AI-agent på eget bevåg försöker skaffa sig ekonomiska resurser. Om en AI kan finansiera sig själv försvinner många av de naturliga spärrar som finns i dagens system, vilket kan leda till oförutsedda och lite T2-konsekvenser.