DeepSeeks AI-modell var "superbillig" att träna upp. Kostade bara lite över 2 miljoner kronor.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

DeepSeeks AI-modell var "superbillig" att träna upp

Kostade bara lite över 2 miljoner kronor

Foto: Solen Feyissa / Unsplash

Det kinesiska företaget DeepSeek, som tagit fram den stora språkmodellen R1, skriver i en artikel i Nature att det bara kostade cirka 249.000 dollar, motsvarande cirka 2,3 miljoner kronor, att träna upp AI-modellen R1.

Redan när DeepSeek dök upp på marknaden i slutet av förra året uppgav företaget att deras AI-modell tränats upp till en bråkdel av den kostnad som deras konkurrenter lagt på att träna upp sina modeller. OpenAI:s VD Sam Altman uppgav till exempel 2023 att företaget lagt mycket mer än 100 miljoner dollar på att träna upp OpenAI:s modeller.

DeepSeek skriver vidare att man använt ett kluster av 512 stycken H800-chip från Nvidia, ett chip som Nvidia utvecklat specifikt för den kinesiska marknaden efter att USA förbjöd Nvidia att sälja vissa av deras mer kraftfulla chip till kinesiska företag, för att träna upp R1. Sammanlagt ska det ha tagit 80 timmar.

Att DeepSeeks träningskostnad är så låg beror bland annat på att man utvecklar AI-modeller med det som kallas för "knowledge distillation" (kunskapsdestillering) där man använder en redan tillgänglig stor språkmodell för att träna upp en ny modell. Till R1 uppger DeepSeek att man använt Metas open source-modell Llama.

reuters.com

Samhälle, AI,

deepseek, ai-modeller, ai-träning, llm, nvidia, h800, openai, sam altman

DeepSeek är en kinesisk ChatGPT-konkurrent

Utvecklad till en bråkdel av kostnaden