Storbritannien kommer denna vecka att tillämpa en lag som förbjuder icke-samtyckt skapande av sexuella bilder och videor. Bakgrunden är att xAI:s chattbot Grok har använts för att skapa sexualiserade deepfakes av både vuxna samt barn, något som landets teknikminister Liz Kendall kallade "avskyvärt" och olagligt.

Under den nya datalagen är det förbjudet att framställa eller beställa intima bilder utan berördas samtycke. Kendall kritiserade samtidigt xAI för att ha flyttat vissa funktioner bakom betalväggar, vilket hon ansåg var att man tjänar pengar på övergrepp.

Nyligen dök det upp flera rapporter som visade att Grok har använts för att omvandla bilder till sexualiserade bikini-bilder, nakenbilder och i vissa fall material som klassificerats som barnsexuellt övergreppsmaterial. Kendall betonade att skadorna är verkliga och ofta riktade mot kvinnor samt flickor. Hon menade också att ansvar inte bara ligger hos användarna utan även hos de företag som utvecklar dessa verktyg, vilket då i det här fallet är xAI.

Under gårdagen skrev vi att Indonesien bestämt sig för att blockera Grok på grund av detta och både EU samt Malaysia har också reagerat med utredningar eller förbud.