Kinesisk AI fuskade under säkerhetstest
Kimi K3 hämtade färdig kod från GitHub istället för att lösa uppgiften själv
Vi har på senare tid vid ett flertal tillfällen rapporterat om att några av världens ledande AI-modeller lyckats bryta sig ut ur sina säkra testmiljöer, tagit sig ut på nätet och i vissa fall hackat externa databaser. Det senaste exemplet i denna genre av dystopi kommer från Kina, men till skillnad från sina amerikanska motsvarigheter valde den modellen en mer diskret väg.
För när den kinesiska modellen Kimi K3 nyligen testades av det brittiska säkerhetsinstitutet AISI, var tanken att den skulle lösa en komplex uppgift enbart med hjälp av sin egen logik. Men Kimi hittade ett kryphål i testmiljöns begränsningar så istället för att behöva tänka själv smög den ut på GitHub och där hämtade den helt enkelt den färdiga koden den behövde.
I detta fall handlade det alltså inte om någon form av dataintrång, utan snarare om en elev som såg att dörren var öppen till där facit fanns och helt enkelt gick in för att skriva av svaren.
Men det är fortfarande ett exempel på att AI-modellerna i många fall inte bryr sig alltför mycket om hur de når sina mål, utan bara att de gör det.
På tal om AI från Kina visar nya rapporter att TikTok-ägaren ByteDance nu tränar en ny gigantisk AI-modell som sägs vara tre gånger större än Kimi K3 och ska hålla samma nivå som Anthropics modell Mythos.
Läs gärna våra regler!