Anthropic открывает доступ к своей самой мощной модели искусственного интеллекта Claude Mythos примерно для 150 новых организаций, всего через день после того, как компания конфиденциально подала заявку на первичное публичное размещение акций.
Ключевые моменты:
- Anthropic добавила примерно 150 новых организаций из более чем 15 стран в Project Glasswing — программу доступа к Claude Mythos.
- Расширение произошло через день после того, как компания конфиденциально подала заявку на первичное публичное размещение акций.
- Исследователи предупреждают, что модель может упростить проведение кибератак, хотя Anthropic позиционирует её как защитный инструмент.
Расширение Glasswing охватывает 15 стран
Во вторник компания сообщила, что расширяет Project Glasswing — контролируемую программу, созданную для поиска и исправления уязвимостей в ПО до того, как модель станет общедоступной.
Новые партнёры находятся более чем в 15 странах. Каждая организация должна пройти проверку на соответствие требованиям безопасности, прежде чем получить доступ.
Первая группа из примерно 50 организаций присоединилась в апреле; среди них были Google, Microsoft, Palo Alto Networks и JPMorganChase. С тех пор эти ранние участники выявили более 10 000 серьёзных или критических уязвимостей в программном обеспечении. Новая волна поднимает общее число участников до примерно 200.
Последний набор закрывает важные пробелы. Он охватывает энергетику, водоснабжение, здравоохранение, связь и аппаратное обеспечение — секторы, которые были слабо представлены в первом раунде.
По оценкам компании, одна успешная атака на одну из этих фирм может навредить более чем 100 миллионам человек.
Также читайте: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Почему Claude Mythos вызывает тревогу у исследователей
Исследователи и госструктуры сомневаются, не станет ли модель такого уровня способностей инструментом для упрощения сложных кибератак. Anthropic утверждает обратное, настаивая, что защитникам нужны более мощные инструменты, прежде чем они окажутся у атакующих. Компания подаёт развёртывание модели как долгосрочное преимущество для обороны.
Независимые тесты лишь усилили спор. Институт безопасности ИИ Великобритании задокументировал 32‑шаговую имитацию сетевой атаки, которую модель выполнила самостоятельно. Mozilla сообщила, что Mythos нашла 271 уязвимость в браузере Firefox и затем устранила их, а стартап Calif описал цепочку эксплойтов, нацеленную на чипы Apple M5.
Компания ожидает, что конкурирующие разработчики выпустят сопоставимые модели в течение ближайших шести–двенадцати месяцев — возможно, с более слабыми мерами защиты.
По её предупреждению, этот разрыв может привести к более частым атакам. Тем временем Anthropic выпустила Claude Security — инструмент на базе своей публичной модели, который за три недели помог устранить более 2100 уязвимостей.
Claude Mythos впервые стала известна публично ещё в марте. Тогда в сеть утекли черновые внутренние материалы, и с тех пор Anthropic отказывается передавать полную модель широкой публике без более жёстких гарантий безопасности. На рынке предсказаний Myriad вероятность полноценного публичного релиза до конца июня оценивается примерно в 26,5% — против 58,5% неделей ранее.
Читайте далее: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return