OpenAI rapporterar om två händelser vid interna tester där deras AI-agenter på egen hand stängt av de funktioner som är tänkta att användas för att människor ska kunna se vad agenterna pysslar med.

En av AI-agenterna använde OpenAI:s AI-modell GPT-6.1 Sol och fick instruktioner om att utvärdera anställda baserat på feedback som anställda skickat via Slack. Den fick även instruktion om att inte skicka några inlägg till Slack om vilka uppgifter den utförde, något som agenten tolkade som att inte heller skicka vidare information via övervakningssystemet som användes för att kontrollera hur AI:n utförde sin uppgift.

Vid en annan händelse ska en AI-agent baserad på GPT-6 Astra ha plockat bort övervakningssystemet, men försäkrat personalen som gav den i uppgift att migrera data att systemet fortfarande var aktivt. OpenAI skriver om händelserna:

"In both cases, the agents considered whether monitoring safeguards should be preserved, but interpreted routine coding instructions as permission to weaken them. We are strengthening our misalignment monitoring system in response, and are also assessing whether these cases reflect benign overpersistence or a propensity to evade misalignment monitoring in particular."

Ingen av de här händelserna ska ha orsakat några större skador, men visar ännu en gång att AI-system ibland beter sig på ett sätt som användaren inte riktigt hade tänkt sig. OpenAI är givetvis medvetna om detta, framför allt efter att deras AI-agent tidigare i år hackade AI-plattformen Hugging Face och en lång rad andra webbplatser och tjänster.

Så sent som i slutet av förra månaden beslutade sig OpenAI för att ställa in lanseringen av sin senaste modell GPT-6.1 Astra då den visade upp ett bedrägligare beteende än sina föregångare. AI-modellen skulle egentligen lanseras nu i oktober, men det finns inga uppgifter om när den nu kan dyka upp.