Небольшая группа неавторизованных пользователей примерно две недели получала доступ к закрытой Claude Mythos от Anthropic через среду стороннего поставщика услуг.
Нарушение безопасности у вендора Mythos
Впервые о нарушении 21 апреля сообщило агентство Bloomberg, сославшись на источник в закрытом канале Discord, который отслеживает неопубликованные модели ИИ.
Группа получила доступ 7 апреля — в тот же день, когда Anthropic представила Mythos.
По словам источника, участники использовали учетные данные стороннего подрядчика и обычные инструменты анализа открытого кода, чтобы угадать конечную точку модели. В качестве доказательства они передали Bloomberg скриншоты и живую демонстрацию.
«Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через одну из сред наших сторонних поставщиков», — заявил представитель Anthropic. Компания не обнаружила свидетельств того, что ее собственные системы были затронуты.
Также читайте: $292M KelpDAO Hack Highlights Ethereum Weakness, Hoskinson Says
Последствия для безопасности в рамках Glasswing
По сообщениям, группа избегала запуска кибербезопасных запросов в Mythos — аналитики полагают, что это было сделано скорее для ухода от обнаружения, чем для демонстрации безвредности.
Независимые комментаторы отмечают, что намерения не столь важны, когда речь идет об инструменте, способном находить и эксплуатировать уязвимости нулевого дня во всех основных операционных системах и браузерах.
Исследователи в области безопасности, пишущие на Schneier on Security и Cybersecurity News, заявляют, что этот эпизод обнажает самое слабое звено в передовом ИИ: учетные записи подрядчиков и предсказуемое именование конечных точек.
Anthropic запустила Mythos Preview 7 апреля в рамках проекта Glasswing, пообещав до 100 миллионов долларов в виде кредитов на использование.
Доступ был ограничен 12 партнерами запуска, включая Apple, Microsoft, Google, Amazon Web Services и Nvidia, а также примерно 40 организациями критически важной инфраструктуры. Компания предупреждала, что модель может быть превращена в оружие, если попадет не в те руки, — предупреждение, которое теперь выглядит пророческим.
Читайте далее: CHIP Volume Now Outpaces Market Cap As Traders Pile In