Le modèle Claude Mythos d’Anthropic n’a eu besoin que de quelques heures pour mettre au jour des failles de sécurité dans des systèmes informatiques américains hautement sensibles lors d’un test de renseignement classifié, a indiqué un responsable.
Points clés :
- L’IA Mythos d’Anthropic a identifié en quelques heures des vulnérabilités dans des systèmes américains classifiés lors d’un test de renseignement, selon un responsable.
- Découvrir une faiblesse n’est pas la même chose que l’exploiter, a averti ce responsable.
- Plus de 100 experts en cybersécurité demandent au gouvernement de revenir sur les restrictions à l’exportation qui ont mis Mythos et Fable 5 hors ligne.
Le test Mythos révèle des failles dans des systèmes gouvernementaux classifiés
Un responsable américain, s’exprimant sous couvert d’anonymat au sujet de ces travaux sensibles, a déclaré que les agences de renseignement avaient mené l’exercice avec l’entreprise dans le cadre d’un programme appelé Project Glasswing. Cette initiative rassemblait des géants de la tech et d’autres entreprises afin de renforcer des logiciels critiques avant que des failles ne puissent causer de graves dommages à la sécurité publique et à l’économie. Anthropic avait retardé la sortie publique de Mythos, accordant plutôt un accès anticipé à un groupe restreint d’entreprises pour qu’elles puissent détecter et corriger des bogues critiques avant tout attaquant.
Le sénateur démocrate Mark Warner, de Virginie, a d’abord évoqué ces tests le 11 juin, lors d’une audition devant la Commission bancaire, du logement et des affaires urbaines du Sénat. Il a affirmé que l’outil avait réussi à pénétrer presque tous les systèmes classifiés du gouvernement en quelques heures plutôt qu’en quelques semaines, attribuant ce récit à Joshua Rudd, qui dirige la National Security Agency et le U.S. Cyber Command.
Identifier une faiblesse, a mis en garde le responsable, n’est pas la même chose que l’exploiter.
À lire aussi : La vente massive d’Anthropic Perp est-elle un avertissement pour les paris crypto pré-IPO ?
Des experts en cybersécurité contestent les restrictions à l’exportation
Plus de 100 dirigeants de la cybersécurité, dont des figures de Adobe et Nvidia, ont pressé le gouvernement d’annuler les restrictions à l’exportation et de s’engager à un processus transparent pour évaluer les risques liés à l’IA. Ils ont qualifié Mythos de performant pour trouver et militariser des failles logicielles, mais pas de manière unique, puisque beaucoup d’entre eux s’appuient sur des modèles concurrents ou open source pour le même travail. Les systèmes chinois ne sont en retard sur les meilleurs modèles américains que de quelques mois, ont‑ils fait valoir, ce qui rend le calendrier particulièrement risqué.
Cette contestation fait suite à une directive d’exportation du 12 juin qui a interdit l’accès des ressortissants étrangers à Mythos 5 et à Fable 5, la version plus largement déployée du palier Mythos. Anthropic a désactivé les deux modèles pour tous ses clients afin de se conformer à la mesure, tout en maintenant qu’elle ne voyait aucun fondement en matière de sécurité à la décision du gouvernement.
La directive faisait suite à un décret du président Donald Trump instaurant un examen fédéral des systèmes d’IA les plus avancés pendant une durée pouvant aller jusqu’à un mois avant leur sortie. La participation des développeurs serait volontaire, précisait le texte, même si les tensions avec cette entreprise axée sur la sécurité restent vives.
Le bilan cyber de Mythos précède l’affrontement
Le modèle était arrivé au printemps avec une aptitude documentée à faire remonter des failles logicielles que même des chercheurs humains chevronnés ne détectent pas. L’AI Security Institute britannique avait auparavant validé Mythos sur des défis de type capture-the-flag de niveau expert qu’aucun système n’avait résolus auparavant, le modèle réussissant 73 % d’entre eux. Mozilla a, de son côté, attribué à une première version la découverte de 271 vulnérabilités dans Firefox, qu’elle a corrigées dans la 150e version du navigateur.
À suivre : Mane City Mobile arrive sur iOS et Android dans plus de 100 pays