Anthropic이 가장 강력한 인공지능 모델 Claude Mythos에 대한 접근을, 회사가 비공개로 기업공개를 신청한 지 하루 만에, 약 150개 신규 기관으로 확대하고 있다.
핵심 포인트:
- Anthropic은 Claude Mythos에 대한 접근 프로그램인 Project Glasswing에 15개국 이상에서 약 150개 신규 기관을 추가했다.
- 이 확장은 회사가 비공개로 기업공개를 신청한 바로 다음 날 이뤄졌다.
- 연구자들은 Anthropic이 이를 방어 도구로 홍보하는 동시에, 이 모델이 사이버 공격을 더 쉽게 만들 수 있다고 경고한다.
15개국으로 확대한 Glasswing
회사는 화요일 발표를 통해, 모델이 대중에게 공개되기 전에 소프트웨어 취약점을 찾아 패치하기 위해 설계된 통제 프로그램인 Project Glasswing을 확대한다고 밝혔다.
새로운 파트너들은 15개국 이상에 걸쳐 있다. 각 기관은 참여 전에 보안 요건을 충족해야 한다.
4월에는 약 50개 기관이 1차로 참여했으며, 그중에는 Google, Microsoft, Palo Alto Networks, JPMorganChase 등이 포함됐다. 이 초기 사용자들은 이후 10,000건이 넘는 중대 또는 치명적 소프트웨어 취약점을 신고했다. 이번 신규 참여로 전체 규모는 약 200개로 늘어났다.
최신 코호트는 중요한 공백을 메운다. 1차에서 상대적으로 뒤처졌던 전력, 수도, 헬스케어, 통신, 하드웨어 등 주요 분야를 포괄한다.
회사의 추산에 따르면, 이들 기업 가운데 단 한 곳에서라도 침해가 발생할 경우 1억 명이 훨씬 넘는 인원이 피해를 입을 수 있다.
함께 읽기: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
연구자들이 Claude Mythos를 걱정하는 이유
연구자들과 정부 기관들은, 이렇게 강력한 모델이 복잡한 사이버 공격을 더 쉽게 수행하도록 만들 수 있는지 의문을 제기해 왔다. Anthropic은 정반대 입장을 보이며, 공격자가 먼저 강력한 도구를 갖기 전에 수비 측이 더 날카로운 도구를 갖춰야 한다고 주장한다. 회사는 이번 출시를 방어 측의 지속적인 우위 확보로 설명한다.
독립적인 시험 결과는 논쟁에 더 불을 붙였다. 영국 AI Security Institute는 모델이 스스로 수행한 32단계 시뮬레이션 네트워크 공격을 기록했다. Mozilla는 Mythos가 Firefox 브라우저에서 271개의 취약점을 찾아 직접 수정했다고 밝혔고, 스타트업 Calif는 Apple의 M5 칩을 겨냥한 익스플로잇 체인을 보고했다.
회사는 경쟁 개발사들이 6~12개월 안에 유사한 모델을 출시할 것으로 예상하면서, 그중 일부는 더 약한 안전장치를 탑재할 수 있다고 본다.
Anthropic은 이 격차가 더 잦은 공격으로 이어질 수 있다고 경고한다. 그 사이, 회사는 공개 모델 위에서 구동되는 도구인 Claude Security를 내놓았고, 이 도구는 3주 만에 2,100건이 넘는 취약점을 패치했다.
Claude Mythos는 이미 3월에 처음 대중의 시야에 올랐다. 회사의 초안 자료가 온라인에 유출된 뒤, Anthropic은 더 강력한 안전장치가 갖춰지기 전까지 전체 모델을 모두에게 제공하길 거부해 왔다. 예측 시장 Myriad에서 6월 말까지 전체 공개가 이뤄질 확률은 현재 약 26.5%로, 일주일 전 58.5%에서 크게 떨어졌다.
다음 기사: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return