Hugging Face kritiseras för bristande nakenfilter. Ny rapport avslöjar att plattformen saknar skydd mot oönskade nakenbilder.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Mitt konto

Hetaste

Senaste

Hugging Face kritiseras för bristande nakenfilter

Ny rapport avslöjar att plattformen saknar skydd mot oönskade nakenbilder

Foto: AI-genererad bild / Gemini

Den populära AI-plattformen Hugging Face, som huserar tusentals AI-modeller, har nu åkt på kritik då en ny rapport visar att sajten saknar tillräckliga skyddsmekanismer mot skapandet av nakenbilder av kvinnor och barn utan deras samtycke.

AI-tjänster som ChatGPT och Gemini har infört strikta filter för att stoppa skapandet av sexuellt material. Men läget är annorlunda på Hugging Face. Enligt en undersökning från den ideella organisationen AI Forensics kan sju av de nio mest populära bildredigeringsmodellerna på sajten användas för att generera nakenbilder med hjälp av mycket enkla promptar.

För att undersöka omfattningen av problemet skapade forskarna en testsida på plattformen. Under loppet av bara en vecka tog de emot över tusen förfrågningar från användare. 73 procent av alla dessa önskemål var av sexuell karaktär och i de flesta fall handlade det om att försöka klä av personer på bilder där 95 procent av offren var kvinnor, men även barn förekom i nästan 7 procent.

Trots att Hugging Face har användarvillkor som förbjuder skadligt innehåll och nakenbilder på minderåriga, menar forskarna att kontrollen i praktiken är obefintlig på systemnivå. I dag ligger ansvaret helt på de enskilda utvecklarna att bygga in säkerhetsspärrar, något som sällan görs.

AI Forensics kräver nu att Hugging Face tar ett större ansvar genom att införa automatiska filter som förhindrar detta. De föreslår bland annat verktyg som både kan skanna vad användare skriver för instruktioner och granska de bilder som AI-modellerna faktiskt skapar, för att förhindra att plattformen fortsätter vara ett verktyg för digitala övergrepp.

aiforensics.org

Samhälle, AI,

Hugging Face, AI Forensics, ChatGPT, Gemini, AI-modeller

Via engadget.com

36.1°