Nvidia släpper säkerhetsverktyg för AI. OpenShell hade kunnat stoppa attacken mot Hugging Face.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Mitt konto

Hetaste

Senaste

Nvidia släpper säkerhetsverktyg för AI

OpenShell hade kunnat stoppa attacken mot Hugging Face

Foto: Nvidia

Nvidia släpper nu ett gäng säkerhetsverktyg som open source som man säger ska minska risken för säkerhetsproblem när AI-modellerna testas. Bland annat uppger Nvidia att den incident där en AI-modell från OpenAI i somras hackade AI-plattformen Hugging Face, en plattform som Nvidia för övrigt äger nu för tiden, hade kunnat undvikas med Nvidias nya verktyg.

Ett av verktygen kallas OpenShell och det använder olika metoder som finns integrerade i Nvidias chip för att AI-modellerna inte ska kunna smita iväg och börja ställa till med ofog på egen hand. Nvidia skriver vidare om OpenShell:

"NVIDIA OpenShell 0.1.0 is an open-source runtime for defining and enforcing which systems and data an agent can access. It combines sandboxed execution, controlled service access, credential management, and formal policy analysis. Teams can grant agents the capabilities a task requires while OpenShell enforces those permissions outside the workload."

Nvidia säger att man för diskussioner med ARM och Intel om att lägga in stöd för OpenShell även i deras processorer. I videoklippet nedan snackar Nvidia mer om OpenShell.

developer.nvidia.com

Internet, Nvidia,

OpenShell, HuggingFace, OpenAI, ARM, Intel, AI-säkerhet, Open source

Via reuters.com