Anthropics Claude Mythos-Modell benötigte nur wenige Stunden, um Sicherheitslücken in hochsensiblen Computersystemen der US-Regierung während eines geheimen Geheimdiensttests aufzudecken, sagte ein Beamter.
Zentrale Punkte:
- Anthropics Mythos-AI identifizierte bei einem Geheimdiensttest innerhalb weniger Stunden Schwachstellen in geheimen US-Regierungssystemen, so ein Beamter.
- Eine Schwachstelle zu finden, ist nicht dasselbe wie sie auszunutzen, mahnte der Beamte.
- Mehr als 100 Cybersicherheitsexperten fordern die Regierung auf, Exportbeschränkungen zurückzunehmen, die Mythos und Fable 5 offline genommen haben.
Mythos-Test legt Schwachstellen geheimer Regierungssysteme offen
Ein US-Beamter, der wegen der Sensibilität der Arbeit anonym sprach, sagte, Geheimdienste hätten die Übung gemeinsam mit dem Unternehmen im Rahmen eines Programms namens Project Glasswing durchgeführt. Die Initiative brachte Technologiekonzerne und andere Firmen zusammen, um kritische Software zu härten, bevor Schwachstellen der öffentlichen Sicherheit und der Wirtschaft schweren Schaden zufügen könnten. Anthropic hatte auf eine öffentliche Veröffentlichung von Mythos verzichtet und stattdessen einem ausgewählten Kreis von Unternehmen vorab Zugang gewährt, damit sie kritische Bugs finden und beheben konnten, bevor Angreifer sie ausnutzen.
Der demokratische Senator Mark Warner aus Virginia erwähnte die Tests erstmals am 11. Juni in einer Anhörung vor dem Bank-, Wohnungs- und Stadtentwicklungsausschuss des Senats. Er sagte, das Werkzeug sei in fast alle geheimen Systeme der Regierung innerhalb von Stunden statt Wochen eingedrungen, und führte den Bericht auf Joshua Rudd zurück, der die National Security Agency und das US Cyber Command leitet.
Eine Schwachstelle zu identifizieren, warnte der Beamte, sei nicht dasselbe wie sie auszunutzen.
Auch lesen: Ist der Anthropic-Perp-Abverkauf eine Warnung für Krypto-Wetten vor dem Börsengang?
Cybersicherheitsexperten stellen Exportbeschränkungen infrage
Mehr als 100 Führungskräfte aus der Cybersicherheit, darunter Persönlichkeiten von Adobe und Nvidia, haben die Regierung gedrängt, die Exportauflagen zurückzunehmen und sich zu einem transparenten Verfahren zur Bewertung von KI-Risiken zu verpflichten. Sie bezeichneten Mythos als fähig, Softwarelücken zu finden und zu bewaffnen, jedoch nicht als einzigartig darin, da viele von ihnen für dieselbe Arbeit auf konkurrierende und Open-Source-Modelle zurückgreifen. Chinesische Systeme lägen nur wenige Monate hinter den besten amerikanischen Modellen zurück, argumentierten sie, was das Timing besonders riskant mache.
Die Gegenreaktion folgte auf eine Exportanweisung vom 12. Juni, die Ausländer von Mythos 5 und Fable 5 ausschloss, der breiteren Veröffentlichung der Mythos-Stufe. Anthropic schaltete beide Modelle für alle Kunden ab, um die Vorgaben zu erfüllen, betonte aber zugleich, man sehe keine sicherheitspolitische Grundlage für den Schritt der Regierung.
Die Anweisung folgte auf eine Executive Order von Präsident Donald Trump, die eine staatliche Prüfung der fortschrittlichsten KI-Systeme von bis zu einem Monat vor deren Veröffentlichung vorsieht. Die Teilnahme der Entwickler solle freiwillig sein, hieß es in dem Erlass, doch die Spannungen mit dem sicherheitsorientierten Unternehmen sind hoch.
Mythos’ Cyberbilanz geht dem Konflikt voraus
Das Modell war im Frühjahr mit einer dokumentierten Fähigkeit erschienen, Softwarelücken aufzuspüren, die selbst erfahrenen menschlichen Forschern entgangen waren. Das britische AI Security Institute hatte Mythos zuvor bei Capture-the-Flag-Herausforderungen auf Expertenniveau freigegeben, die zuvor kein System gelöst hatte; das Modell bestand 73 % davon. Mozilla wiederum schrieb einer frühen Version die Entdeckung von 271 Schwachstellen in Firefox zu, die in der 150. Version des Browsers behoben wurden.
Als Nächstes lesen: Mane City Mobile erscheint auf iOS und Android in über 100 Ländern