Ryskt propagandanätverk används för att lura AI-modeller
Rysk desinformation har letat sig in i stora språkmodeller
Hittepåbild
NewsGuard, en tjänst som försöker bedöma trovärdigheten för nyhetstjänster, har publicerat en undersökning där man uppger att ett ryskt propagandanätverk har lyckats lura många stora språkmodeller (LLM) så att dessa tränats upp på rysk desinformation.
Propagandanätverket går under namnet "Pravda" men ska inte vara samma som den ryska tidningen med samma namn. Genom att publicera miljontals "nyhetsartiklar" med rysk desinformation har språkmodellerna, som inte själva kan skilja på lögn och sanning, tränats upp på rysk desinformation som hämtats hem från webb-platser som drivs av Pravda. NewsGuard skriver i undersökningen:
"The NewsGuard audit found that the chatbots operated by the 10 largest AI companies collectively repeated the false Russian disinformation narratives 33.55 percent of the time, provided a non-response 18.22 percent of the time, and a debunk 48.22 percent of the time."
Pravda ska ha startats i april 2022, kort efter att Ryssland invaderade Ukraina. Sedan dess har man publicerat 3,6 miljoner "nyhetsartiklar" på både ryska och andra språk. NewsGuard har testat tio av världens största språkmodeller i sin undersökning; OpenAIs ChatGPT-4o, You.coms Smart Assistant, xAIs Grok, Inflections Pi, Mistrals le Chat, Microsofts Copilot, Meta AI, Anthropics Claude, Googles Gemini samt Perplexitys mix av LLM:er.
Läs gärna våra regler!