Anthropic viker inte ner sig för Pentagon. Vill inte att deras AI-modeller ska kunna döda på egen hand.

Teknik

Motor

Samhälle

Spel

Popkultur

Fritid

Tjock

Tester

Dagens fråga

Tipsa!

Skaffa Feber+

Hetaste

Senaste

Anthropic viker inte ner sig för Pentagon

Vill inte att deras AI-modeller ska kunna döda på egen hand

Dario Amodei

Foto: TechCrunch / flickr

Det amerikanska AI-företaget Anthropic meddelar nu att man inte kommer att tillåta att det amerikanska försvaret använder deras AI-modeller för massövervakning eller i autonoma vapensystem.

Det här är regler som Anthropic har haft sedan tidigare, men tidigare i veckan hotade USA:s försvarsminister Pete Hegseth företaget med olika typer av konsekvenser om inte USA:s försvarsdepartement fick använda Anthropics AI-modeller hur man ville. I ett uttalande skriver Anthropics medgrundare och vd Dario Amodei:

"Anthropic understands that the Department of War, not private companies, makes military decisions. We have never raised objections to particular military operations nor attempted to limit use of our technology in an ad hoc manner. However, in a narrow set of cases, we believe AI can undermine, rather than defend, democratic values. Some uses are also simply outside the bounds of what today’s technology can safely and reliably do."

Hur det amerikanska försvarsdepartementet och Hegseth kommer att reagera på att man inte tillåts använda Anthropics AI-modeller för att utveckla system som teoretiskt sett skulle kunna bli det som kallas för "Skynet" i Terminator-filmerna återstår att se. Amodei kommenterar själv ironin i hoten från Hegseth och försvarsdepartementet:

"They have threatened to remove us from their systems if we maintain these safeguards; they have also threatened to designate us a “supply chain risk”—a label reserved for US adversaries, never before applied to an American company—and to invoke the Defense Production Act to force the safeguards’ removal. These latter two threats are inherently contradictory: one labels us a security risk; the other labels Claude as essential to national security."

anthropic.com

Samhälle, AI,

Anthropic, Dario Amodei, Pete Hegseth, försvarsdepartementet, vapen, övervakning, skynet, claude

Anthropic lättar på sina säkerhetsregler för Claude

För att inte bli av med militärkontrakt?