올해 Pwn2Own 베를린에서 가장 두각을 나타낸 참가자 중 한 명은 강력한 AI 도구들이 머지않아 인간 해킹 대회를 시대에 뒤떨어지게 만들 수 있다고 말한다.
Key Points:
- A top Pwn2Own Berlin winner says AI models like Claude Mythos could soon outwork even elite hackers.
- Hackers at the contest collectively earned nearly $1.3 million for 47 new vulnerabilities.
- Anthropic restricts Mythos to a small group of governments and security firms over abuse fears.
Pwn2Own 챔피언이 경고음을 울리다
발렌티나 팔미오티(Valentina Palmiotti) 는 Chompie라는 이름으로 알려진 보안 연구자로, 베를린에서 열린 연례 Pwn2Own 대회에서 가장 뛰어난 성과를 낸 개인 참가자였다. 그녀는 BBC와의 인터뷰에서, 소프트웨어 취약점을 찾도록 설계된 AI 도구가 급속히 발전하고 있기 때문에 이번 대회가 자신의 마지막이 될 수도 있다는 생각을 안고 참가했다고 말했다. 그 걱정은 AI 도구의 빠른 성장에 rooted 해 있다고 했다.
이는 대회 베테랑에게서 나온, 상당히 인상적인 입장이다.
팔미오티는 첫날 엔비디아(Nvidia) 관련 시스템을 뚫어 2만 달러를 받았고, 다음 날에는 리눅스 기반 시스템을 해킹해 5만 달러를 추가로 받았다. 그녀는 이틀 사이 밤샘 작업이 에너지 음료와 아드레날린에 의존한, 지치고 건강에 좋지 않은 과정이었다고 묘사했다.
행사에 참가한 해커들은 함께 47개의 완전히 새로운 공격 기법을 uncovered 해냈고, 총 130만 달러에 가까운 상금을 수령했다. 발견된 모든 취약점은 해당 기업들에 보고됐고, 현재 패치가 진행 중이다.
Also Read: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
왜 Claude Mythos가 연구자들을 걱정하게 만드는가
팔미오티는 현재 AI가 자신을 도와주는 “스위트 스폿”에 있다고 표현했다. 대회에서도, IBM X-Force에서의 본업에서도 작업 속도를 높여주는 보조 역할이라는 것이다. 하지만 그녀는 이 균형이 곧 바뀔 것이라고 예상한다.
그녀는 전환점으로 Anthropic의 Claude Mythos 같은 모델을 지목했다. 이 회사는 이 모델이 사이버 능력 측면에서 경쟁사들을 한참 앞서 있다고 says 하며, 남용 우려 때문에 소수의 정부 기관과 보안 기관에만 제한적으로 제공하고 있다.
팔미오티는 머지않아 ‘좋은 해커’들은 더 이상 많이 필요하지 않게 되고, 극소수의 최고 전문가만이 새로운 버그를 계속 찾아낼 수 있을 것이라고 본다.
모두가 이런 비관론에 동의하는 것은 아니다. 대만의 해커 오렌지 차이(Orange Tsai) 는 팀을 이끌고 베를린 대회에서 37만 5천 달러를 따냈는데, 그는 AI를 대체자가 아니라 유능한 조수에 가깝다고 described 했다. 그는 인간의 직관이 여전히 머신이 놓치는 결함을 찾아낼 수 있기를 바란다고 말한다.
팔미오티는 더 강력한 도구가 먼저 책임 있는 이들의 손에 들어가기만 한다면, 전반적인 흐름은 방어자에게 유리하다고 주장했다.
이런 논쟁은 정책 결정자들이 같은 기술을 평가하는 시점과 맞물려 있다. 재무장관 스콧 베슨트(Scott Bessent)와 연준 의장 제롬 파월(Jerome Powell)은 4월 월가 대형 은행 최고경영자들과 만나, Mythos와 관련된 사이버 보안 risks tied to Mythos 를 논의했다. 이는 규제 당국이 AI 기반 해킹을 얼마나 심각하게 받아들이는지 보여주는 신호다.
Read Next: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply