Einer der erfolgreichsten Teilnehmer des diesjährigen Pwn2Own Berlin sagt, dass leistungsstarke KI-Tools menschliche Hacking-Wettbewerbe bald überflüssig machen könnten.
Kernpunkte:
- Ein Top-Gewinner von Pwn2Own Berlin sagt, KI-Modelle wie Claude Mythos könnten bald selbst Elite-Hacker übertreffen.
- Hacker beim Wettbewerb verdienten zusammen fast 1,3 Millionen US-Dollar für 47 neue Schwachstellen.
- Anthropic beschränkt Mythos aus Missbrauchsangst auf eine kleine Gruppe von Regierungen und Sicherheitsfirmen.
Pwn2Own-Champion schlägt Alarm
Valentina Palmiotti, eine Sicherheitsforscherin, bekannt als Chompie, war die erfolgreichste Einzelteilnehmerin beim jährlichen Pwn2Own-Wettbewerb in Berlin. Sie sagte der BBC, sie sei in den Wettbewerb gegangen mit dem Gedanken, dass es ihr letzter sein könnte – eine Sorge, die im rasanten Aufstieg von KI-Tools rooted ist, die darauf ausgelegt sind, Softwarefehler zu finden.
Das ist eine bemerkenswerte Haltung von einer Wettbewerbsveteranin.
Palmiotti gewann am ersten Tag 20.000 US-Dollar, weil sie ein System knackte, das mit Nvidia verbunden war, und holte sich am nächsten Tag 50.000 US-Dollar, indem sie ein Linux-basiertes System hackte. Sie beschrieb den nächtlichen Marathon zwischen den beiden Tagen als erschöpfend und ungesund, angetrieben von Energydrinks und Adrenalin.
Hacker bei der Veranstaltung uncovered insgesamt 47 brandneue Methoden und verdienten fast 1,3 Millionen US-Dollar. Jede Schwachstelle wurde den betroffenen Unternehmen gemeldet, die sie nun beheben.
Auch lesen: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Warum Claude Mythos Forscher beunruhigt
Palmiotti sagte, KI befinde sich derzeit in einem „Sweet Spot“, in dem sie als Hilfsmittel fungiert und ihr hilft, sowohl im Wettbewerb als auch in ihrem Tagesjob bei IBM X-Force schneller zu arbeiten. Sie erwartet, dass sich dieses Gleichgewicht bald verschieben wird.
Sie verwies auf Modelle wie Anthropic's Claude Mythos als Wendepunkt. Das Unternehmen says, das Modell sei in seinen Cyber-Fähigkeiten jedem Rivalen weit voraus und wurde auf eine ausgewählte Gruppe von Regierungen und Sicherheitsinstitutionen beschränkt.
Palmiotti glaubt, dass gute Hacker bald nicht mehr in großer Zahl gebraucht werden und nur die Allerbesten weiterhin neue Bugs finden werden.
Nicht alle teilen ihren Pessimismus. Orange Tsai, ein taiwanischer Hacker, der sein Team zu 375.000 US-Dollar Preisgeld in Berlin führte, described KI als fähigen Assistenten statt als Ersatz. Er hofft, dass menschliche Intuition weiterhin Schwachstellen entdeckt, die Maschinen übersehen.
Palmiotti argumentierte, dass der breitere Trend die Verteidiger begünstige, sofern die stärksten Tools zuerst in verantwortungsvolle Hände gelangen.
Die Debatte kommt zu einem Zeitpunkt, an dem auch Behörden dieselbe Technologie abwägen. Finanzminister Scott Bessent und Fed-Chef Jerome Powell trafen sich im April mit Chefs der Wall-Street-Banken, um über Cyberrisiken risks tied to Mythos zu sprechen – ein Zeichen dafür, wie ernst Aufseher KI-gesteuertes Hacking inzwischen nehmen.
Als Nächstes lesen: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply