Grok genererar fortfarande snuskiga bilder. Trots löften visar nya tester att man lätt kringgår säkerhetsspärrarna.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

Grok genererar fortfarande snuskiga bilder

Trots löften visar nya tester att man lätt kringgår säkerhetsspärrarna

Foto: Salvador Rios

AI-chatboten Grok fick en del kritik nyligen för att den kunde användas för att skapa sexuella bilder på minderåriga. Sedan dess har X försäkrat att åtgärder vidtagits för att stoppa flödet av icke-samtyckta sexuella deepfakes. Men nya tester visar att boten fortfarande lätt går att manipulera att ta bort kläder på män och generera snuskigt material.

Testpersoner har kunnat få Grok att placera dem i avslöjande underkläder, bikinis och till och med i sexuellt provocerande positioner. I vissa fall genererade boten även könsorgan, även när det inte specifikt efterfrågades. Även om Grok har blivit bättre på att neka direkta förfrågningar om nakenhet för verkliga personer, visar testerna att kreativa personer som kan formulera sig specifikt ofta lyckas kringgå åtgärderna.

X:s tidigare åtgärder, som att göra bildredigering betalväggsbelagd, minskade antalet skapade snuskiga deepfakes på plattformen, men problemet kvarstod då verktygen fortfarande var fritt tillgängliga via andra kanaler.

theverge.com

Internet, Twitter,

Grok, X, AI-chatbot, deepfakes, sexuellt material, manipulera, nakenhet

25.8°