Anthropics Claude Mythos-Modell benötigte nur wenige Stunden, um bei einem geheimen Test der Nachrichtendienste Sicherheitslücken in hochsensiblen Computersystemen der US-Regierung aufzudecken, sagte ein Beamter.
Zentrale Punkte:
- Anthropics Mythos-KI identifizierte bei einem Geheimtest innerhalb von Stunden Schwachstellen in klassifizierten US-Regierungssystemen, sagte ein Beamter.
- Eine Schwachstelle zu finden ist nicht dasselbe, wie sie auszunutzen, mahnte der Beamte.
- Mehr als 100 Cybersicherheitsexperten fordern die Regierung auf, Exportbeschränkungen zurückzunehmen, die Mythos und Fable 5 offline gestellt haben.
Mythos-Test legt Mängel in geheimen Regierungssystemen offen
Ein US-Beamter, der wegen der Sensibilität der Arbeit anonym sprach, sagte, die Nachrichtendienste hätten die Übung im Rahmen eines Programms namens Project Glasswing mit dem Unternehmen durchgeführt. Die Initiative brachte Tech-Giganten und andere Firmen zusammen, um kritische Software zu härten, bevor Schwachstellen der öffentlichen Sicherheit und der Wirtschaft schweren Schaden zufügen konnten. Anthropic hatte auf eine öffentliche Veröffentlichung von Mythos verzichtet und stattdessen einer ausgewählten Gruppe von Unternehmen frühen Zugang gewährt, damit sie kritische Bugs vor etwaigen Angreifern finden und beheben konnten.
Der demokratische Senator Mark Warner aus Virginia erwähnte die Tests erstmals am 11. Juni bei einer Anhörung vor dem Senate Committee on Banking, Housing and Urban Affairs. Er sagte, das Werkzeug sei in fast alle geheimen Systeme der Regierung innerhalb von Stunden statt Wochen eingedrungen und führte den Bericht auf Joshua Rudd zurück, der die National Security Agency und das U.S. Cyber Command leitet.
Eine Schwachstelle zu identifizieren, mahnte der Beamte, sei nicht dasselbe wie sie auszunutzen.
Auch lesen: Ist der Anthropic-Perp-Ausverkauf eine Warnung für Krypto-Wetten vor dem IPO?
Cybersicherheitsexperten stellen Exportauflagen in Frage
Mehr als 100 Cybersicherheitsverantwortliche, darunter Führungskräfte von Adobe und Nvidia, haben die Regierung gedrängt, die Exportauflagen zurückzunehmen und sich zu einem transparenten Verfahren zur Bewertung von KI-Risiken zu verpflichten. Sie bezeichneten Mythos als fähig, Software-Schwachstellen zu finden und zu bewaffnen, aber nicht als einzigartig, da viele von ihnen für dieselben Aufgaben auf konkurrierende und Open-Source-Modelle zurückgreifen. Chinas Systeme lägen nur wenige Monate hinter den besten amerikanischen Modellen zurück, argumentierten sie, was das Timing besonders heikel mache.
Der Widerstand folgt auf eine Exportanordnung vom 12. Juni, die ausländischen Staatsangehörigen den Zugang zu Mythos 5 und Fable 5 untersagte, der breiteren Veröffentlichung der Mythos-Stufe. Anthropic deaktivierte beide Modelle für alle Kunden, um die Auflagen zu erfüllen, hielt aber zugleich daran fest, dass es keine sicherheitstechnische Grundlage für den Schritt der Regierung sehe.
Die Anordnung folgte auf eine Executive Order von Präsident Donald Trump, die eine bundesstaatliche Überprüfung der fortschrittlichsten KI-Systeme für bis zu einen Monat vor deren Veröffentlichung vorsah. Die Teilnahme der Entwickler sei freiwillig, hieß es in der Order, doch die Spannungen mit dem sicherheitsorientierten Unternehmen waren hoch.
Mythos’ Cyber-Bilanz geht dem Konflikt voraus
Das Modell war im Frühjahr mit einer dokumentierten Fähigkeit erschienen, Software-Schwachstellen aufzuspüren, die selbst erfahrenen menschlichen Forschern entgehen. Das britische AI Security Institute hatte Mythos zuvor bei Capture-the-Flag-Herausforderungen auf Expertenniveau freigegeben, die zuvor kein System gelöst hatte; das Modell bestand 73 % davon. Mozilla wiederum schrieb einer frühen Version des Modells zu, 271 Schwachstellen in Firefox gefunden zu haben, die im 150. Release des Browsers behoben wurden.
Als Nächstes lesen: Mane City Mobile erscheint auf iOS und Android in über 100 Ländern