Anthropic открывает доступ к своей самой мощной artificial intelligence model Claude Mythos примерно для 150 новых организаций — всего через день после того, как компания confidentially filed for a public offering.
Ключевые моменты:
- Anthropic добавила примерно 150 новых организаций из более чем 15 стран в Project Glasswing — программу доступа к Claude Mythos.
- Расширение состоялось через день после того, как компания конфиденциально подала заявку на первичное публичное размещение акций.
- Исследователи предупреждают, что модель может упростить проведение кибератак, даже несмотря на то, что Anthropic продвигает её как защитный инструмент.
Расширение Glasswing охватывает 15 стран
Компания во вторник announced, что расширяет Project Glasswing — контролируемую программу, созданную для поиска и устранения уязвимостей в ПО до того, как модель станет общедоступной.
Новые партнёры находятся более чем в 15 странах. Каждая организация должна пройти проверку на соответствие требованиям безопасности, прежде чем получить доступ.
Первая группа из примерно 50 организаций присоединилась в апреле, среди них Google, Microsoft, Palo Alto Networks и JPMorganChase. С тех пор эти ранние участники flagged более 10 000 серьёзных или критических уязвимостей в программном обеспечении. Новая волна доводит общее число участников примерно до 200.
Последний набор закрывает важные пробелы. В него входят компании из отраслей электроэнергетики, водоснабжения, здравоохранения, связи и аппаратного обеспечения — секторов, которые были менее представлены в первом раунде.
По оценкам компании, одна успешная атака на любую из этих фирм, как она estimates, может нанести ущерб более чем 100 миллионам человек.
Также читайте: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Почему Claude Mythos тревожит исследователей
Исследователи и госструктуры questioned, могут ли настолько мощные модели упростить проведение complex cyberattacks. Anthropic утверждает обратное, настаивая, что защитникам нужны более острые инструменты до того, как они окажутся в руках у злоумышленников. Компания подаёт развёртывание модели как долгосрочное преимущество для киберзащиты.
Независимые тесты лишь подпитывают спор. Институт безопасности ИИ Великобритании documented 32‑шаговую моделируемую сетевую атаку, которую модель выполнила самостоятельно. Mozilla сообщила, что Mythos обнаружил 271 уязвимость в браузере Firefox и затем сам их исправил, а стартап Calif описал цепочку эксплойтов, нацеленную на чипы Apple M5.
Компания ожидает, что конкурирующие разработчики выпустят сопоставимые модели в течение ближайших шести–двенадцати месяцев, возможно с более слабыми мерами защиты.
Этот разрыв, как она warns, может привести к учащению атак. Тем временем Anthropic выпустила Claude Security — инструмент на базе публичной модели, который за три недели помог устранить более 2 100 уязвимостей.
Claude Mythos surfaced publicly ещё в марте. Черновые внутренние материалы компании утекли в сеть, и с тех пор Anthropic отказывается предоставлять полную модель широкому кругу пользователей без более жёстких гарантий безопасности. На предсказательном рынке Myriad вероятность публичного релиза до конца июня снизилась до примерно 26,5% с 58,5% неделей ранее.
Read Next: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return