Модели Claude Mythos от Anthropic понадобилось всего несколько часов, чтобы выявить уязвимости в особо чувствительных компьютерных системах правительства США во время засекреченного разведывательного теста, сообщил один из официальных лиц.
Ключевые моменты:
- Модель Mythos от Anthropic выявила уязвимости в засекреченных государственных системах США в течение нескольких часов во время разведывательного теста, сообщил чиновник.
- Обнаружение слабого места не равнозначно его эксплуатации, предостерёг он.
- Более 100 экспертов по кибербезопасности требуют от правительства отменить экспортные ограничения, из‑за которых Mythos и Fable 5 отключили.
Тест Mythos выявил проблемы в засекреченных госcистемах
Представитель США, говоривший на условиях анонимности из‑за чувствительности работы, сообщил, что разведывательные ведомства провели это учение совместно с компанией в рамках программы под названием Project Glasswing. Инициатива объединила техногигантов и другие фирмы, чтобы укрепить критически важное программное обеспечение до того, как его уязвимости смогут нанести серьёзный ущерб общественной безопасности и экономике. Anthropic отказалась от публичного релиза Mythos, предоставив ранний доступ избранной группе компаний, чтобы они могли найти и исправить критические ошибки раньше любых злоумышленников.
Демократический сенатор от Вирджинии Марк Уорнер впервые упомянул эти тесты 11 июня на слушаниях в банковском комитете Сената по вопросам жилья и городских дел. Он заявил, что инструмент взломал почти все засекреченные государственные системы не за недели, а за часы, сославшись на Джошуа Радда, возглавляющего Агентство национальной безопасности и Киберкомандование США.
Обнаружение слабого места, предостерёг чиновник, не то же самое, что его эксплуатация.
Также читайте: Является ли распродажа Anthropic Perp предупреждением для до‑IPO крипто‑ставок?
Эксперты по кибербезопасности оспаривают экспортные ограничения
Более 100 лидеров в области кибербезопасности, включая представителей Adobe и Nvidia, настояли на том, чтобы правительство отменило экспортные ограничения и взяло на себя обязательство обеспечить прозрачный процесс оценки рисков ИИ. По их словам, Mythos способен находить и превращать уязвимости ПО в оружие, но не является в этом уникальным, поскольку многие специалисты используют для той же работы конкурирующие и открытые модели. Китайские системы, по их утверждению, отстают от лучших американских всего на несколько месяцев, что делает момент особенно рискованным.
Ответная реакция последовала за экспортной директивой от 12 июня, которая запретила иностранным гражданам доступ к Mythos 5 и Fable 5, более широкой версии семейства Mythos. Anthropic отключила обе модели для всех клиентов, чтобы выполнить требования, одновременно заявив, что не видит под собой никаких оснований в сфере безопасности.
Директива последовала за указом президента Дональда Трампа, который ввёл федеральную проверку самых передовых систем ИИ сроком до месяца перед выпуском. Участие разработчиков в процессе, как указано в документе, будет добровольным, однако напряжённость в отношениях с ориентированной на безопасность компанией остаётся высокой.
Киберпослужной список Mythos предшествовал конфликту
Модель появилась этой весной уже с подтверждённой репутацией инструмента, способного выявлять уязвимости в программном обеспечении, которые пропускают даже опытные исследователи. Британский Институт безопасности ИИ ранее допустил Mythos к экспертному уровню соревнований capture‑the‑flag, которые ранее не удавалось пройти ни одной системе, и модель успешно решила 73% задач. Mozilla отдельно засчитала ранней версии Mythos обнаружение 271 уязвимости в Firefox, которые были устранены в 150‑м выпуске браузера.
Читайте далее: Mane City Mobile выходит на iOS и Android более чем в 100 странах