Anthropic's Claude Mythos-model had maar enkele uren nodig om beveiligingslekken bloot te leggen in uiterst gevoelige computersystemen van de Amerikaanse overheid tijdens een geclassificeerde inlichtingentest, zei een functionaris.
Belangrijkste punten:
- Anthropic's Mythos‑AI identificeerde binnen enkele uren kwetsbaarheden in geheime systemen van de Amerikaanse overheid tijdens een inlichtingentest, zei een functionaris.
- Een zwakheid vinden is niet hetzelfde als die uitbuiten, waarschuwde de functionaris.
- Meer dan 100 cybersecurity‑experts willen dat de overheid exportbeperkingen terugdraait die Mythos en Fable 5 offline haalden.
Mythos‑test legt gebreken in geheime overheidssystemen bloot
Een Amerikaanse functionaris, die anoniem sprak over het gevoelige werk, zei dat inlichtingendiensten de oefening uitvoerden met het bedrijf onder een programma genaamd Project Glasswing. Dit initiatief bracht technologiereuzen en andere bedrijven samen om kritieke software te versterken voordat fouten ernstige schade konden toebrengen aan de openbare veiligheid en de economie. Anthropic had afgezien van een publieke release van Mythos en gaf in plaats daarvan vroege toegang aan een geselecteerde groep bedrijven, zodat zij kritieke bugs konden vinden en verhelpen voordat een aanvaller dat zou doen.
De Democratische senator Mark Warner uit Virginia verwees op 11 juni voor het eerst naar de tests, tijdens een hoorzitting van de Senaatscommissie voor Bankwezen, Volkshuisvesting en Stedelijke Zaken. Hij zei dat de tool in bijna alle geheime systemen van de overheid wist in te breken in uren in plaats van weken, en schreef dit verslag toe aan Joshua Rudd, die de National Security Agency en U.S. Cyber Command leidt.
Het identificeren van een zwakheid is niet hetzelfde als die uitbuiten, waarschuwde de functionaris.
Ook lezen: Is de verkoopgolf van Anthropic Perp een waarschuwing voor pre‑IPO cryptobets?
Cybersecurity‑experts dagen exportbeperkingen uit
Meer dan 100 cybersecurity‑leiders, waaronder figuren van Adobe en Nvidia, hebben de overheid onder druk gezet om de exportbeperkingen terug te draaien en zich te committeren aan een transparant proces voor het afwegen van AI‑risico’s. Zij noemden Mythos capabel in het vinden en bewapenen van softwarelekken, maar niet uniek, aangezien velen van hen voor hetzelfde werk steunen op concurrerende en open‑source‑modellen. De Chinese systemen lopen op de beste Amerikaanse modellen slechts enkele maanden achter, voerden ze aan, wat de timing bijzonder riskant maakt.
De tegenreactie volgt op een exportrichtlijn van 12 juni die buitenlanders verbood toegang te krijgen tot Mythos 5 en Fable 5, de bredere release van de Mythos‑categorie. Anthropic schakelde beide modellen voor alle klanten uit om te voldoen, maar bleef erbij dat het geen veiligheidsgrondslag zag voor de stap van de overheid.
De richtlijn volgde op een presidentieel besluit van president Donald Trump dat federale toetsing instelde van de meest geavanceerde AI‑systemen tot een maand vóór hun release. Deelname door ontwikkelaars zou vrijwillig zijn, aldus het besluit, al zijn de spanningen met het op veiligheid gerichte bedrijf hoog opgelopen.
Cybertrackrecord van Mythos gaat aan de clash vooraf
Het model verscheen dit voorjaar met een gedocumenteerd talent om softwarelekken naar boven te halen die zelfs door doorgewinterde menselijke onderzoekers worden gemist. Het Britse AI Security Institute heeft Mythos eerder goedgekeurd op capture‑the‑flag‑uitdagingen op expertniveau die geen enkel systeem daarvoor had opgelost, waarbij het model 73% ervan haalde. Mozilla heeft afzonderlijk een vroege versie de eer gegeven voor het vinden van 271 kwetsbaarheden in Firefox, die het heeft gepatcht in de 150e release van de browser.
Lees verder: Mane City Mobile landt op iOS en Android in meer dan 100 landen