Nobelpristagare varnar ännu en gång för AI
Geoffrey Hinton tror att AI kan bli ett existentiellt hot
Under gårdagens Nobelprisutdelning varnade Geoffrey Hinton, som fick Nobelpriset i fysik för sitt arbete med maskininlärning för neuronnätverk, ännu en gång för farorna med dagens utveckling inom AI. Under ett kort tal i samband med att Hinton mottog Nobelpriset sa han:
"Tyvärr kommer de snabba framstegen inom AI med många kortsiktiga risker. Den har redan skapat splittrande ekokammare genom att erbjuda människor innehåll som gör dem indignerade. Den används redan av auktoritära regeringar för massiv övervakning och av cyberbrottslingar för nätfiskeattacker. Inom en snar framtid kan AI användas för att skapa fruktansvärda nya virus och dödliga vapen som själva bestämmer vem de ska döda eller lemlästa. Alla dessa kortsiktiga risker kräver brådskande och kraftfull uppmärksamhet från regeringar och internationella organisationer.
Det finns också ett långsiktigt existentiellt hot som kommer att uppstå när vi skapar digitala varelser som är mer intelligenta än vi själva. Vi har ingen aning om vi kan behålla kontrollen. Men vi har nu bevis för att om de skapas av företag motiverade av kortsiktiga vinster, kommer vår säkerhet inte att vara högsta prioritet. Vi behöver akut forskning om hur vi kan förhindra att dessa nya varelser vill ta kontroll. De är inte längre science fiction."
AI-pionjären Geoffrey Hinton har kallats för "Godfather of AI" och arbetade under 10 år på Google Brain för att utveckla AI-lösningar. Han lämnade Google 2023 och sa då att det var något han gjorde för att kunna tala om farorna med utvecklingen av artificiell intelligens utan att det skulle påverka Googles arbete med AI.
Här kan ni kolla in Hintons Nobelpristal på SVT Play. Ovan hittas ett klipp där Hinton berättar lite snabbt om hur hans liv har förändrats sedan han vann Nobelpriset.
Läs gärna våra regler!