Anthropic은 가장 강력한 artificial intelligence model Claude Mythos에 대한 접근을, 회사가 confidentially filed for a public offering을 한 지 하루 만에, 약 150개 신규 기관으로 확대하고 있다.
핵심 요점:
- Anthropic은 Claude Mythos 접근 프로그램인 Project Glasswing에 15개국 이상에서 약 150개 신규 기관을 추가했다.
- 이번 확대는 회사가 비공개로 IPO를 신청한 지 하루 만에 이뤄졌다.
- 연구자들은 Anthropic이 방어 도구로 내세우는 이 모델이 오히려 사이버 공격을 쉽게 만들 수 있다고 경고한다.
Glasswing 확대, 15개국으로 확산
회사는 화요일 announced를 통해, 모델이 대중에게 공개되기 전에 소프트웨어 결함을 찾고 패치하기 위해 설계된 통제 프로그램인 Project Glasswing의 범위를 넓히고 있다고 밝혔다.
새 파트너들은 15개국 이상에 걸쳐 있다. 각 기관은 참여 전에 일정 수준의 보안 요건을 충족해야 한다.
4월에는 약 50개 기관이 1차로 참여했으며, 여기에는 Google, Microsoft, Palo Alto Networks, JPMorganChase 등이 포함됐다. 이 초기 이용자들은 이후 1만 건이 넘는 중대 또는 치명적 소프트웨어 취약점을 flagged했다. 이번 신규 참여로 총 참여 기관 수는 약 200개에 이른다.
최신 코호트는 그동안 비어 있던 핵심 분야를 채운다. 전력, 수도, 헬스케어, 통신, 하드웨어 등 1차 라운드에서 상대적으로 뒤처졌던 부문들이 포함됐다.
회사의 estimates에 따르면, 이들 기업 가운데 단 한 곳에서만 침해 사고가 발생해도 1억 명이 훌쩍 넘는 인구가 피해를 볼 수 있다.
또한 읽어보기: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
연구자들이 Claude Mythos를 우려하는 이유
연구기관과 정부 기관들은, 이렇게 강력한 모델이 complex cyberattacks을 더 쉽게 실행하게 만들 수 있는지에 대해 questioned해 왔다. Anthropic은 정반대를 주장하며, 공격자가 이런 능력을 갖기 전에 수비 측이 더 날카로운 도구를 확보해야 한다고 말한다. 회사는 이번 출시를 방어 측에 장기적인 우위를 제공하는 조치로 포지셔닝한다.
독립적인 테스트는 이 논쟁에 기름을 부었다. 영국 AI Security Institute는 이 모델이 스스로 수행한 32단계 모의 네트워크 공격을 documented했다. Mozilla는 Mythos가 파이어폭스 브라우저에서 271개의 취약점을 찾아 직접 수정했다고 보고했고, 스타트업 Calif는 Apple의 M5 칩을 겨냥한 익스플로잇 체인을 설명했다.
회사는 경쟁 개발사들이 6~12개월 안에 비슷한 수준의 모델을 내놓을 것으로 예상하지만, 그 보안장치는 더 약할 수 있다고 본다.
이 격차는 더 잦은 공격으로 이어질 수 있다고 회사는 warns한다. 그 사이 Anthropic은 공개형 모델 위에 구동되는 도구인 Claude Security를 출시했고, 이 도구는 3주 만에 2,100개가 넘는 결함을 패치했다.
Claude Mythos surfaced publicly는 지난 3월로 거슬러 올라간다. 당시 회사의 초안 자료가 온라인에 유출됐고, 그 후 Anthropic은 더 강력한 안전장치가 마련되기 전까지 전체 모델을 모두에게 제공하는 것을 거부해 왔다. 예측 시장 Myriad에서, 6월 말까지 공개 배포가 이뤄질 확률은 일주일 전 58.5%에서 약 26.5%로 떨어진 상태다.
다음 읽기: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return