Meta tjänade pengar på övergreppsannonser
Vidriga AI-skapade annonser som slank igenom filtren
Wired rapporterar om en ny granskning som visar att Meta har godkänt och tjänat pengar på annonser med AI-genererat material som föreställer sexuella övergrepp på barn. I artikeln kan man läsa om att organisationen Tech Transparency Project (TTP) avslöjat över 50 annonser som lyckats ta sig förbi Metas säkerhetsfilter. Det handlar alltså inte om vanliga inlägg från användare, utan om betalda annonser som visats för tusentals personer i bland annat Sverige, USA och Storbritannien.
Materialet som upptäckts är minst sagt vidrigt där annonserna i vissa fall använt oskyldiga bilder på barn som utgångspunkt. När användaren sedan klickat på annonsen har bilden i stället lett till AI-genererade videoklipp som visar sexuella handlingar. Andra annonser har gjort reklam för så kallade nudify-appar, verktyg som med hjälp av AI kan skapa nakenbilder av personer som egentligen har kläder på sig.
Men det kanske mest anmärkningsvärda här är ju att annonserna har passerat Metas egna automatiserade kontroller. Företaget har ju sagt att de har nolltolerans mot den här typen av material. Trots det har annonserna kunnat publiceras och Meta har dessutom tjänat pengar på dem.
Meta försvarar sig med att de arbetar aktivt med att stoppa sådana här annonser och att de flesta av annonserna hade en begränsad räckvidd innan de togs bort. Företaget försöker också skylla ifrån sig lite genom att säga att utvecklingen av tekniken bakom AI-genererade bilder och videor går snabbare än kontrollsystem som ska stoppa dem.
Läs gärna våra regler!