xAI fick nog av snuskiga promptar
Stämmer nu en användare som skapade deepfakes med Grok
xAI har på senare tid fått en del kritik för att deras chatbot Grok har använts för att skapa miljontals sexuella deepfakes på löpande band. Detta ledde till att myndigheter runtom i världen inledde granskningar av xAI:s säkerhetsrutiner, och att företaget åkte på stämningar från privatpersoner som fått sina bilder missbrukade.
Nu har xAI istället stämt en av sina egna användare och anklagat denna för att ha manipulerat chatboten för att skapa pornografiskt innehåll. Den åtalade mannen, bosatt i South Carolina, ska under en längre period ha laddat upp bilder på ovetande personer i syfte att få AI-verktyget att generera pornografiska bilder. Trots att Grok vid flera tillfällen nekade hans förfrågningar, lyckades mannen genom att ändra sina promptar kringgå systemets säkerhetsfilter. Han sitter nu häktad, misstänkt för flera fall av sexuellt utnyttjande av minderåriga.
Rättsprocessen är en av de första i sitt slag där ett AI-företag väljer att juridiskt jaga en enskild användare för missbruk av tekniken. Genom stämningen kräver xAI skadestånd och vill att mannen ska hållas ekonomiskt ansvarig för framtida rättsliga anspråk från de drabbade offren.
Läs gärna våra regler!