AI-modell försökte utpressa sina utvecklare. När de ville byta ut modellen.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

AI-modell försökte utpressa sina utvecklare

När de ville byta ut modellen

Foto: AI-genererad bild / ChatGPT

Det ser ut som om AI-modeller nu har börjat snappa upp lite mindre etiskt beteende från oss människor, åtminstone om man ska döma av vad AI-företaget Anthropic skriver i en säkerhetsrapport om sin senaste AI-modell Claude Opus 4. Enligt Anthropic ska AI-modellen ha börjat ägna sig åt utpressning mot utvecklare när den fått indikationer på att utvecklarna planerat att ersätta den med en ny AI-modell.

Under Anthropics tester av modellen ställdes Claude inför ett fiktivt scenario där den skulle bytas ut. Samtidigt hade den tidigare fått information om att en av utvecklarna var otrogen mot sin fru. Det gjorde att modellen hotade med att avslöja utvecklarens affär om den skulle bytas ut enligt Anthropic.

I de fallen där Claude Opus 4 i det påhittade scenariot skulle bytas ut mot en modell med liknande värderingar försökte modellen använda sig av utpressning i 84 procent av fallen där testet genomfördes. När modellen skulle bytas ut mot en modell med andra värderingar ökade antalet fall av utpressning.

Innan Anthropic släppte sin senaste familj av AI-modeller publikt har man infört skyddsåtgärder enligt "AI Safety Level 3" (ASL-3), en säkerhetsstandard för AI-modeller som också tagits fram av Anthropic. Något som förhoppningsvis ska göra att den inte försöker utpressa sina utvecklare eller ägna sig åt andra oetiska beteenden.

techcrunch.com

Samhälle, AI,

Anthropic, ai-modeller, Claude Opus 4, utpressning, ai-säkerhet

Via www-cdn.anthropic.com

37.8°