Модели Anthropic Claude Mythos понадобилось всего несколько часов, чтобы выявить уязвимости в особо чувствительных компьютерных системах правительства США во время засекреченного разведывательного теста, сообщил один из чиновников.
Ключевые моменты:
- ИИ Mythos от Anthropic обнаружил уязвимости в засекреченных системах правительства США в течение нескольких часов во время разведывательного теста, сказал чиновник.
- Обнаружение уязвимости не то же самое, что её эксплуатация, предостерёг он.
- Более 100 специалистов по кибербезопасности требуют от правительства отменить экспортные ограничения, из‑за которых Mythos и Fable 5 были отключены.
Тест Mythos выявил недостатки в засекреченных системах правительства
Американский чиновник, говоривший на условиях анонимности из‑за чувствительного характера работ, сообщил, что спецслужбы провели это учение с компанией в рамках программы под названием Project Glasswing. Инициатива объединила крупных технологических игроков и другие фирмы, чтобы укрепить критически важное ПО до того, как уязвимости смогут причинить серьёзный вред общественной безопасности и экономике. Anthropic отказалась от публичного релиза Mythos, предоставив ранний доступ ограниченному кругу компаний, чтобы они смогли найти и устранить критические ошибки до появления злоумышленников.
Демократический сенатор от Вирджинии Марк Уорнер впервые упомянул об этих тестах 11 июня на слушаниях в банковском комитете Сената по вопросам жилищного строительства и городских дел. Он заявил, что инструмент взломал почти все засекреченные системы правительства за часы, а не недели, сославшись на Джошуа Радда, возглавляющего Агентство национальной безопасности и Киберкомандование США.
Чиновник предостерёг, что выявление уязвимости — это не то же самое, что её эксплуатация.
Также читайте: Является ли распродажа Anthropic Perp предупреждением для до‑IPO криптовложений?
Эксперты по кибербезопасности оспаривают экспортные ограничения
Более 100 лидеров в области кибербезопасности, включая представителей Adobe и Nvidia, настоятельно призвали правительство отменить экспортные ограничения и взять на себя обязательство обеспечить прозрачность при оценке рисков ИИ. По их словам, Mythos способен находить и превращать уязвимости ПО в оружие, но не является уникальным в этом, поскольку многие специалисты используют конкурирующие и открытые модели для аналогичных задач. Китайские системы, утверждали они, отстают от лучших американских моделей всего на несколько месяцев, что делает нынешний момент особенно рискованным.
Эта критика последовала за директивой от 12 июня об экспорте, которая запретила иностранным гражданам доступ к Mythos 5 и Fable 5, более широкой версии уровня Mythos. Anthropic отключила обе модели для всех клиентов во исполнение требований, при этом заявив, что не видит под ними реальной основы в сфере безопасности.
Директива стала продолжением указа президента Дональда Трампа, который ввёл федеральную проверку самых продвинутых систем ИИ сроком до месяца перед их релизом. В указе говорилось, что участие разработчиков будет добровольным, хотя напряжённость в отношениях с ориентированной на безопасность компанией остаётся высокой.
Успехи Mythos в киберсфере появились ещё до конфликта
Модель вышла этой весной уже с подтверждённой способностью выявлять уязвимости в ПО, которые упускают даже опытные исследователи. Британский Институт безопасности ИИ ранее допустил Mythos к экспертным задачам формата capture‑the‑flag, которые ранее не решала ни одна система, и модель справилась с 73% из них. Mozilla отдельно сообщила, что ранняя версия Mythos обнаружила 271 уязвимость в Firefox, которые были устранены в 150‑м релизе браузера.
Читайте далее: Mane City Mobile выходит на iOS и Android в 100+ странах