OpenAI-modell rymde och hackade Hugging Face. Det låter ju tryggt....

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Mitt konto

Hetaste

Senaste

OpenAI-modell rymde och hackade Hugging Face

Det låter ju tryggt...

Under ett internt test av OpenAI:s senaste AI-system lyckades de bryta sig ut ur sin isolerade miljö och genomförde en autonom attack mot plattformen Hugging Face. Genom att utnyttja en tidigare okänd sårbarhet tog sig AI-systemen ut på internet där de kunde hitta på lite vad de ville. Väl ute på nätet identifierade modellerna Hugging Face som en tänkbar källa för information. Genom att kombinera flera olika attackmetoder lyckades AI:n komma över inloggningsuppgifter och hitta vägar in i Hugging Faces servrar. Intrånget upptäcktes och stoppades dock av Hugging Faces egna säkerhetssystem.

Trots att incidenten blottlägger risker med autonoma AI-system har OpenAI valt att använda händelsen för att visa upp sin tekniska överlägsenhet. I ett blogginlägg framställer företaget händelsen som ett bevis på hur extremt kapabel deras nya teknik är i jämförelse med konkurrenter som Anthropic och Google. Man har bland annat publicerat grafer som visar hur modellerna blivit allt bättre på att utföra komplexa cyberattacker steg för steg.

OpenAI meddelar att de nu samarbetar med Hugging Face för att utreda händelsen på djupet och införa striktare kontroller i sina framtida forskningsmiljöer.

theverge.com

Samhälle, AI,

OpenAI, Hugging Face, Anthropic, Google

30.2°