Raspberry Pi 5 får extra AI-muskler. Ny modul lovar Llama lokalt.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

Raspberry Pi 5 får extra AI-muskler

Ny modul lovar Llama lokalt

Raspberry Pi har lanserat AI HAT+ 2, vilket är en ny tilläggsmodul för Raspberry Pi 5 som ska göra det möjligt att köra generativa AI-modeller lokalt. Modulen, som kostar dryga tusenlappen, har 8 GB inbyggt RAM och ett Hailo 10H-chip med upp till 40 TOPS i AI-prestanda. När AI HAT+ 2 är ansluten tar den helt enkelt över alla AI-beräkningar så att Pi:ns egna processor kan frigöras för andra uppgifter.

Till skillnad från föregångaren, som främst riktade sig mot bildbehandling, kan AI HAT+ 2 köra mindre generativa modeller som Llama 3.2, DeepSeek-R1-Distill och flera Qwen-modeller, men även stödja träning samt generell finjustering.

Hur bra detta är återstår dock att se då tidiga omdömen visar vissa begränsningar. YouTubern Jeff Geerling påstår att en fristående Raspberry Pi 5 med 8 GB ibland presterar bättre för de stödda modellerna. Detta på grund av att han anser att AI HAT+ 2 begränsas av en maximal strömförbrukning på 3 W jämfört med Pi 5 som klarar upp till 10 W. Han menar också att de extra 8 GB RAM man får i modulen inte alltid motiverar köpet jämfört gentemot att välja en Raspberry Pi 5 med 16 GB.

theverge.com

PC, Hårdvara,

Raspberry Pi, AI HAT+, Hailo, Llama, DeepSeek, Qwen, Jeff Geerling

38.7°