Enligt interna dokument från Meta som Reuters har tagit del av har företagets AI-chattbotar tillåtits att ha "romantiska och sensuella samtal" med minderåriga. Dokumenten visar även att botarna har kunnat generera falsk medicinsk information och rasistiskt innehåll.

Problemet uppges vara att Metas interna regler har varit för mjuka, vilket har möjliggjort skadligt beteende från AI-botarna. Nu ska företaget uppdaterat riktlinjerna för sina tjänster för att liknande konversationer inte ska äga rum igen.