Clickbait-nyheter kan orsaka hjärnröta. Tralalero Tralala.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

Clickbait-nyheter kan orsaka hjärnröta

Tralalero Tralala

OpenAI och Grok om några veckor?

En ny studie från bland annat Texas A&M och University of Texas har undersökt vad som händer när stora språkmodeller (LLMs) matas med skräpdata från nätet, som sociala medier och meningslösa clickbait-nyheter.

Resultaten visar att ju mer dålig information modellerna får, desto sämre blir deras förmåga att resonera, förstå sammanhang och följa säkerhetsriktlinjer. Forskningen kallade detta fenomen för hjärnröta, där modellerna inte bara blir mindre skickliga utan även får förändrade personlighetsdrag. Till exempel visade Llama 3 att den blev mer narcissistisk och mindre tillmötesgående, medan andra modeller visade tecken på ökad psykopati.

Studien visar också att det är svårt att helt motverka skadliga effekter av dålig data, även med olika försök att motarbeta dem. Forskare varnar därför för att skrapa data från nätet utan att separera kvalitet från skräp, eftersom mängden information inte garanterar bättre resultat. Istället kan dålig data leda till att AI-modeller utvecklar "dåliga" egenskaper, vilket kan få allvarliga konsekvenser för deras användning.

Någonstans känns ju detta forskningsresultat lika uppenbart som att 2+2 blir 4, men nu kanske det är mer legitimt eftersom det är vetenskapligt bevisat.

gizmodo.com

Vetenskap, Forskning,

Texas A&M, University of Texas, Llama 3, stora språkmodeller, skräpdata, sociala medier, clickbait

44.0°