L’une des compétitrices les plus performantes de l’édition de cette année de Pwn2Own Berlin affirme que des outils d’IA puissants pourraient bientôt rendre les concours de hacking humains obsolètes.
Points clés :
- Une grande gagnante de Pwn2Own Berlin affirme que des modèles d’IA comme Claude Mythos pourraient bientôt travailler mieux que même les meilleurs hackers.
- Les hackers du concours ont gagné collectivement près de 1,3 million de dollars pour 47 nouvelles vulnérabilités.
- Anthropic limite Mythos à un petit groupe de gouvernements et de sociétés de sécurité en raison de craintes d’abus.
La championne de Pwn2Own tire la sonnette d’alarme
Valentina Palmiotti, chercheuse en sécurité connue sous le nom de Chompie, a été la participante individuelle la plus performante au concours annuel Pwn2Own à Berlin. Elle a déclaré à la BBC qu’elle s’était présentée en pensant que cela pourrait être sa dernière participation, une inquiétude rooted dans la montée fulgurante des outils d’IA conçus pour trouver des failles logicielles.
C’est une position frappante de la part d’une vétérane des concours.
Palmiotti a remporté 20 000 $ le premier jour pour avoir cassé un système lié à Nvidia, puis a gagné 50 000 $ le lendemain en piratant un système basé sur Linux. Elle a décrit la nuit blanche entre les deux comme épuisante et mauvaise pour la santé, alimentée par les boissons énergétiques et l’adrénaline.
Les hackers présents à l’événement ont collectivement uncovered 47 nouvelles méthodes et empoché près de 1,3 million de dollars. Chaque faille a été signalée aux entreprises concernées, qui sont maintenant en train de les corriger.
À lire aussi : XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Pourquoi Claude Mythos inquiète les chercheurs
Palmiotti indique que l’IA se trouve actuellement dans un « sweet spot » où elle sert d’aide, l’aidant à aller plus vite à la fois en compétition et dans son travail quotidien chez IBM X-Force. Elle s’attend à ce que cet équilibre change bientôt.
Elle a désigné des modèles comme Anthropic's Claude Mythos comme un tournant. L’entreprise says que ce modèle dépasse largement tout rival en matière de capacités cyber et qu’il est réservé à un groupe restreint de gouvernements et d’institutions de sécurité.
Palmiotti pense que, bientôt, les bons hackers ne seront plus vraiment nécessaires et que seuls les tout meilleurs continueront à découvrir de nouveaux bugs.
Tout le monde ne partage pas ce pessimisme. Orange Tsai, un hacker taïwanais qui a mené son équipe à un gain de 375 000 $ à Berlin, a described l’IA comme un assistant performant plutôt qu’un remplacement. Il espère que l’intuition humaine continuera à repérer des failles que les machines manquent.
Palmiotti soutient que la tendance générale favorise les défenseurs, à condition que les outils les plus puissants parviennent d’abord entre des mains responsables.
Le débat survient alors que les responsables publics évaluent la même technologie. Le secrétaire au Trésor Scott Bessent et le président de la Réserve fédérale Jerome Powell ont rencontré en avril les patrons des grandes banques de Wall Street pour discuter des risques de cybersécurité risks tied to Mythos, signe de la gravité avec laquelle les régulateurs envisagent désormais le hacking dopé à l’IA.
À lire ensuite : Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply