Anthropic hat seine zwei leistungsstärksten KI-Modelle, Fable 5 und Mythos 5, für alle Kunden deaktiviert, nachdem eine bundesstaatliche Exportkontrollanordnung gegen ausländische Staatsangehörige erlassen wurde.
Wichtigste Punkte:
- Die US-Regierung erließ am 12. Juni eine Exportkontrollrichtlinie, die ausländische Staatsangehörige von beiden Modellen ausschließt.
- Anthropic schaltete das Duo für alle Nutzer weltweit ab, während die übrigen Modelle online blieben.
- Das Unternehmen bestreitet die Anordnung und bezeichnet den beanstandeten Jailbreak als eng begrenzt und leicht anderswo zu kopieren.
Anthropic stoppt Fable 5
Die Anordnung erreichte das Unternehmen am Freitag um 17:21 Uhr Eastern Time und berief sich auf nationale Sicherheitsbefugnisse, die nicht näher erläutert wurden, erklärte das Labor. Behörden wollten ausländische Staatsangehörige blockieren, einschließlich der eigenen Mitarbeiter im Ausland. Um die Vorgabe zu erfüllen, schaltete Anthropic beide Modelle für alle ab.
Das Unternehmen erklärte, es könne ausländische Nutzer nicht in Echtzeit vom Rest seiner Basis trennen, weshalb eine weltweite Abschaltung der sauberste Weg gewesen sei. Die Anordnung kam von Handelsminister Howard Lutnick und wurde mit Input anderer Regierungsvertreter entworfen. Der Zugang zu allen übrigen Anthropic-Modellen blieb unverändert bestehen.
Auch lesen: Jeff Bezos Says AI May Not Kill Jobs As Prometheus Raises $12B
Umstrittener Fable-5-Jailbreak
Die Sorge der Regierung konzentriert sich laut Unternehmen auf eine angebliche Methode, Fable 5s Schutzmechanismen zu umgehen. Anthropic erklärte, die Technik laufe darauf hinaus, das Modell zu bitten, einen Codebestand zu lesen und Softwarefehler zu beheben.
Ingenieurinnen und Ingenieure verlassen sich täglich auf diese Fähigkeit, um laufende Systeme zu verteidigen, argumentierte die Firma. Sie verwies außerdem darauf, dass konkurrierende Werkzeuge, darunter OpenAI's GPT-5.5, dieselbe Arbeit ohne jeglichen Bypass erledigen. Vor dem Start habe das Labor Fable tausende Stunden lang red-team-geprüft und keinen universellen Jailbreak gefunden.
Warum die Anordnung wichtig ist
Der Schritt scheint das erste Mal zu sein, dass ein führender KI-Entwickler ein öffentliches Modell auf Wunsch der Bundesregierung offline nimmt. Dieser Präzedenzfall könnte verändern, wie Labs Produkte ausliefern und wo sie ihre Entwickler ansiedeln.
Anthropic kam der Anordnung nach und ging dann in die Gegenoffensive. Ein Modell, das von hunderten Millionen genutzt wird, wegen eines eng umrissenen Fehlers zurückzurufen, würde aus seiner Sicht neue Veröffentlichungen in der gesamten Branche einfrieren. Das Unternehmen entschuldigte sich bei seinen Kunden und erklärte, es arbeite daran, den Zugang wiederherzustellen.
Die Abschaltung erfolgt nur wenige Tage nach einer hektischen Phase für das Labor. Anthropic veröffentlichte Fable 5 am 9. Juni als abgesicherte Version von Mythos, das im April vorgestellt und in einem Cybersicherheitsprogramm namens Project Glasswing gehalten wurde. Der Rollout hatte bereits Beschwerden über hohen Tokenverbrauch und eine verpflichtende 30-tägige Datenspeicherungsregel ausgelöst, bevor die Anordnung eintraf.
Als Nächstes lesen: Bitget Clears Argentina Regulator, Adding Another Latin America Market