AI-företag lovar att försöka skydda barn. Vill inte att deras AI-verktyg ska generera bilder på övergrepp.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

AI-företag lovar att försöka skydda barn

Vill inte att deras AI-verktyg ska generera bilder på övergrepp

Foto: Thorn

Några av världens ledande AI-företag har tillsammans med den amerikanska barnrätts-organisationen Thorn tagit fram ett antal principer för att skydda barn. Principerna ska användas för att AI-företagens verktyg för generativ AI inte används för att skapa bilder, videoklipp eller annat som avbildar sexuella övergrepp mot barn.

Principerna kallas för "Safety by Design". Där det finns riktlinjer för hur AI-modellerna ska utvecklas och tränas upp för att inte kunna utnyttjas för att skapa bilder som visar övergrepp mot barn. Det finns även riktlinjer för hur företagen ska släppa sina AI-lösningar såväl som hur de ska underhållas över tid för att inte missbrukas.

Företagen som nu förbundit sig till att följa Safety by Design-principerna som man tagit fram tillsammans med Thorn är Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, OpenAI och Stability AI.

thorn.org

Samhälle, AI,

artificiell intelligens, barnporr, övergrepp, generativ ai, missbruk, csam

45.9°