OpenAI pausar sin AI-modell Astra. Modellen anses för effektiv och utgör en säkerhetsrisk.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Mitt konto

Hetaste

Senaste

OpenAI pausar sin AI-modell Astra

Modellen anses för effektiv och utgör en säkerhetsrisk

Foto: Levart_Photographer / Unsplash

OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att den på egen hand kan hitta säkerhetshål och genomföra avancerade it-attacker vilket har gjort att den bedöms utgöra en potentiell fara, vilket ju inte alltid är önskvärt.

Så för att minimera riskerna kommer bolaget nu att samarbeta med både myndigheter och säkerhetsexperter för att grundligt testa vad Astra faktiskt är kapabel till innan projektet går vidare. För att hantera situationen har bolaget nu infört strikta restriktioner och arbetet med Astra ska nu ske i helt isolerade testmiljöer med begränsad åtkomst till nätverk samt verktyg. Man har även satt upp system som övervakar modellens tankegångar i realtid för att kunna avbryta processen om den börjar planera något riskfyllt.

I sitt blogginlägg så klargör OpenAI också att Astra inte hade något att göra med det intrånget hos AI-plattformen Hugging Face och säger att det var en annan modell.

openai.com

Internet, OpenAI,

Astra, Hugging Face, it-attacker, säkerhetshål, AI

34.8°