Sam Altman vill ha allt RAM i molnet
Gör mer nytta i molnet än i din dator
Det här med RAM är ju inte billigt just nu då mycket av det köps upp av AI-jättar som behöver det för att köra sina datacenter effektivt. Alla vill dock inte driva sina grejer i datacenter utan värdesätter möjligheten att köra processer lokalt. Det är dock svårt att konkurrera med jättarna som uppenbarligen har en hel del deg i bakfickan för att köpa upp komponenterna innan de når dem med lite mindre pengar.
I en nyligen genomförd intervju pratade OpenAI:s VD Sam Altman om hur världens begränsade tillgång på DRAM-minne fördelas runtom i världen. Enligt honom finns en missuppfattning om att framtidens AI-modeller främst kommer att köras lokalt på användarnas egna maskiner. Enligt Altman är detta ett slöseri med resurser, eftersom minnet i en vanlig PC ofta står oanvänt merparten av tiden.
Så han argumenterar i intervjun för att minneskapaciteten gör betydligt mer nytta i molnet. I ett datacenter kan hårdvaran utnyttjas dygnet runt, till skillnad från i en privat laptop där den kanske bara belastas till fullo under en bråkdel av dagen. Enligt honom är det, sett ur ett globalt fördelningsperspektiv, fruktansvärt att så mycket av det begränsade utbudet sitter fast i konsumentprodukter istället för att driva storskaliga datacenter som alla kan använda.
Nu känner jag lite att nog inte riktigt håller med honom men så är livet ibland; människor ser ju onekligen saker från olika perspektiv.
Läs gärna våra regler!