David Sacks, ein Technologieberater des Weißen Hauses, sagte, die Trump-Regierung habe export controls on Anthropic verhängt, nachdem das Unternehmen es abgelehnt hatte, einen gemeldeten Jailbreak in seinem Fable-KI-Modell zu beheben.
Sacks erläutert Anthropic-Anordnung
In einem Beitrag auf X am Samstag wrote Sacks, dass ein vertrauenswürdiger Partner bei Tests von Fable einen Weg um Schutzmaßnahmen herum gefunden habe, die seine Nutzung für Cybersicherheit blockieren sollten. Die Regierung habe daraufhin Anthropic-Chef Dario Amodei aufgefordert, das Problem zu beheben oder das Modell zurückzuziehen.
Amodei habe sich geweigert, so Sacks.
Der Streit folgte auf Anthropic's Jun. 9 release of Fable 5, eine Version seines leistungsfähigeren Mythos-5-Systems mit Sicherheits-Schutzmaßnahmen. Handelsminister Howard Lutnick untersagte später ausländischen Staatsangehörigen den Zugang zu beiden Modellen, und Anthropic deaktivierte sie weltweit.
Auch lesen: Bitcoin Bulls Eye $67K After Trump Says Hormuz Will Open To All
Anthropic bestreitet Schwere des Jailbreaks
Anthropic pushed in einem Blogbeitrag zurück. Das Unternehmen erklärte, es sei nicht einverstanden damit, dass ein enger Jailbreak den Rückruf eines von Millionen genutzten Modells erzwingen solle, und argumentierte, dass konkurrierende Systeme auf die gleiche Weise ausnutzbar seien.
Sacks sagte, der Schritt sei widerwillig erfolgt und die Verantwortlichen hätten gehofft, Anthropic würde die Schwachstelle beheben, damit Fable zurückkehren könne. Er bestritt auch jeden Zusammenhang mit früheren Spannungen. Im März stufte das Pentagon Anthropic als Risiko für die Lieferkette ein – eine Einstufung, gegen die das Unternehmen nun vor einem Bundesgericht vorgeht.
Als Nächstes lesen: Index Rules Turn SpaceX's $2T Debut Into A Market Stress Test