Nvidia släpper chatbot som går att köra lokalt. Installera Chat with RTX på din egen dator.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

Nvidia släpper chatbot som går att köra lokalt

Installera Chat with RTX på din egen dator

Foto: Nvidia

Nvidia, världens ledande företag när det kommer till hårdvara för AI-applikationer, släpper nu en chatbot som användare kan installera lokalt på sina datorer. Man kallar chatboten för "Chat with RTX" och den använder sig av generativ AI för att försöka besvara användarens frågor.

Chat with RTX går att använda tillsammans med de stora språkmodellerna Mistral och Llama 2. Det går även att inkludera filer och dokument som finns sparade lokalt så att chatboten även kan hämta data från dessa när frågor besvaras. Fördelen med det är att chatboten kan bli lite mer personlig och att användaren inte behöver ladda upp känsliga dokument till AI-tjänster på nätet för att erhålla liknande funktionalitet.

Det går att ladda hem Chat with RTX gratis. Det krävs dock att man har en PC som är försedd med antingen GeForce RTX 30 eller 40 Series-GPU alternativt RTX Ampere eller Ada-GPU med minst 8GB VRAM. Dessutom måste datorn köra Windows 11 och ha minst 16GB RAM. I videoklippet nedan kan ni kolla in en kort demo som visar en del av vad Chat with RTX klarar av.

nvidia.com

PC, Mjukvara,

nvidia, chat with rtx, chatbot, generativ ai, mistral, llama, artificiell intelligens

Via blogs.nvidia.com

Meta och Microsoft släpper Llama 2

Den stora språkmodellen för AI släpps som open source