Jedna z najbardziej utytułowanych uczestniczek tegorocznego Pwn2Own Berlin twierdzi, że potężne narzędzia AI wkrótce mogą uczynić ludzkie konkursy hakerskie zbędnymi.
Kluczowe punkty:
- Najlepsza zwyciężczyni Pwn2Own Berlin mówi, że modele AI, takie jak Claude Mythos, wkrótce mogą przepracować nawet elitarnych hakerów.
- Hakerzy na konkursie łącznie zarobili prawie 1,3 mln dolarów za 47 nowych podatności.
- Anthropic ogranicza dostęp do Mythos do niewielkiej grupy rządów i firm bezpieczeństwa z obawy przed nadużyciami.
Mistrzyni Pwn2Own bije na alarm
Valentina Palmiotti, badaczka bezpieczeństwa znana jako Chompie, była najskuteczniejszą indywidualną uczestniczką dorocznego konkursu Pwn2Own w Berlinie. Powiedziała BBC, że przystępowała do zawodów z myślą, że mogą to być jej ostatnie, obawa ta jest zakorzeniona w gwałtownym rozwoju narzędzi AI tworzonych do wyszukiwania błędów w oprogramowaniu.
To znaczące stanowisko jak na weterankę konkursu.
Palmiotti wygrała 20 000 dolarów pierwszego dnia za złamanie systemu związanego z Nvidia, a następnego dnia zgarnęła 50 000 dolarów, atakując system oparty na Linuksie. Nocną harówkę między jednym a drugim określiła jako wyczerpującą i niezdrową, napędzaną napojami energetycznymi i adrenaliną.
Hakerzy na wydarzeniu wspólnie ujawnili 47 zupełnie nowych metod ataku i zarobili w sumie blisko 1,3 mln dolarów. Każda podatność została zgłoszona dotkniętym firmom, które teraz je łatają.
Przeczytaj także: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Dlaczego Claude Mythos niepokoi badaczy
Palmiotti powiedziała, że AI znajduje się obecnie w „strefie komfortu”, w której działa jako pomoc, pozwalając jej pracować szybciej zarówno w zawodach, jak i w codziennej pracy w IBM X-Force. Spodziewa się jednak, że ta równowaga wkrótce się zmieni.
Wskazała na modele takie jak Anthropic's Claude Mythos jako punkt zwrotny. Firma says, że model zdecydowanie wyprzedza wszelką konkurencję pod względem możliwości cybernetycznych i został ograniczony do wybranej grupy rządów oraz instytucji zajmujących się bezpieczeństwem.
Palmiotti uważa, że wkrótce dobrzy hakerzy przestaną być potrzebni, a nowe błędy będą znajdować tylko absolutnie najlepsi.
Nie wszyscy podzielają jej pesymizm. Orange Tsai, tajwański haker, który poprowadził swój zespół do zdobycia 375 000 dolarów w Berlinie, described AI jako kompetentnego asystenta, a nie zamiennik człowieka. Ma nadzieję, że ludzka intuicja nadal będzie odkrywać luki, których maszyny nie dostrzegają.
Palmiotti argumentowała, że szerszy trend sprzyja obrońcom, o ile najsilniejsze narzędzia najpierw trafią w odpowiedzialne ręce.
Debata ta toczy się równolegle z dyskusjami urzędników nad tą samą technologią. Sekretarz Skarbu Scott Bessent i przewodniczący Rezerwy Federalnej Jerome Powell spotkali się w kwietniu z szefami banków z Wall Street, aby omówić zagrożenia cybernetyczne risks tied to Mythos, co pokazuje, jak poważnie regulatorzy traktują dziś hacking napędzany AI.
Czytaj dalej: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply