Grok genererar fortfarande snuskiga bilder
Trots löften visar nya tester att man lätt kringgår säkerhetsspärrarna

AI-chatboten Grok fick en del kritik nyligen för att den kunde användas för att skapa sexuella bilder på minderåriga. Sedan dess har X försäkrat att åtgärder vidtagits för att stoppa flödet av icke-samtyckta sexuella deepfakes. Men nya tester visar att boten fortfarande lätt går att manipulera att ta bort kläder på män och generera snuskigt material.
Testpersoner har kunnat få Grok att placera dem i avslöjande underkläder, bikinis och till och med i sexuellt provocerande positioner. I vissa fall genererade boten även könsorgan, även när det inte specifikt efterfrågades. Även om Grok har blivit bättre på att neka direkta förfrågningar om nakenhet för verkliga personer, visar testerna att kreativa personer som kan formulera sig specifikt ofta lyckas kringgå åtgärderna.
X:s tidigare åtgärder, som att göra bildredigering betalväggsbelagd, minskade antalet skapade snuskiga deepfakes på plattformen, men problemet kvarstod då verktygen fortfarande var fritt tillgängliga via andra kanaler.




