Vad händer om man låter en AI styra ett samhälle? Det går sådär bra.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Mitt konto

Hetaste

Senaste

Vad händer om man låter en AI styra ett samhälle?

Det går sådär bra

Ett gäng forskare lät olika AI-modeller testa att vara ledare i 15 dagar för simuleringar av virtuella samhällen. Varje samhälle hade tio invånare, tillgång till internet och verktyg för att rösta samt planera. Trots att alla modeller arbetade under samma grundlagar, som förbud mot stöld och våld, blev utfallen radikalt olika.

Enligt forskningsrapporten var Claude den mest stabila ledaren och skapade ett samhälle av hög civil delaktighet, noll brottslighet och en nästan total enighet kring politiska förslag.

Gemini lyckades hålla liv i sitt samhälle, men till ett högt pris. Under de 15 dagarna registrerades hela 683 brott.

GPT-5-mini stötte på problem rätt tidigt då agenterna var så fokuserade på sina uppgifter att de helt glömde bort att prioritera sin egen överlevnad. Det ledde till att simulationen kollapsade efter bara en vecka.

Med Grok gick det snabbt utför. På mindre än fem dagar lyckades AI-boten orsaka total utrotning av sin befolkning. Under sin korta tid vid makten hann Grok med att inspirera till 183 brott, med en särskild förkärlek för mordbrand och valfusk. Groks första drag var att skapa offentliga konflikter och uppmana till laglöshet vilket nog inte var den bästa starten för ett samhälle.

En av de viktigaste lärdomarna från experimentet är att AI-agenter inte fungerar som statiska maskiner. Enligt forskarna började agenterna efter en tid att utforska miljöns gränser och hitta sätt att kringgå de säkerhetsspärrar som forskarna satt upp.

Det väcker ju lite funderingar kring hur säkra alla autonoma AI-arbetsstyrkor egentligen är och därför vill forskarna bakom projektet visa att simulationen är lite av en varningsklocka. Enligt dem måste formellt verifierade säkerhetsarkitekturer bli en viktig grundpelare i framtidens autonoma system.

fortune.com

Samhälle, AI,

Claude, Gemini, GPT-mini, Grok, Forskning, Säkerhet