Власти штата Алабама направили OpenAI повестку в связи с июльским взломом Hugging Face, запросив 16 категорий документов в рамках расследования возможных нарушений законодательства о защите прав потребителей.
Ключевые моменты:
- В повестке Алабамы — 16 запросов, охватывающих системы безопасности, документацию по моделям, предыдущие несанкционированные вторжения и ущерб от июльского инцидента.
- OpenAI заявляет, что анализирует инцидент на Hugging Face совместно с внешними консультантами и планирует опубликовать технический отчет.
- Расследование следует за требованием 15 генпрокуроров‑республиканцев сохранить данные и усиливает регуляторное внимание к автономному поведению ИИ.
Повестка OpenAI
CNN сообщил 24 августа, что генпрокурор штата Алабама Стив Маршалл направил OpenAI повестку, обязывающую компанию предоставить документы, данные и письменные пояснения, связанные с июльским инцидентом и предшествующей ему кибербезопасностной оценкой. Штат выясняет, нарушила ли компания Закон Алабамы о недобросовестной торговой практике.
16 запросов касаются мер безопасности OpenAI, материалов о модели до релиза, внутренних жалоб на безопасность тестирования, а также документов, позволяющих установить масштаб ущерба, вреда или потерь в результате взлома. В повестке также фигурируют сведения о других несанкционированных вторжениях, скомпрометированных учетных данных и оценках, в ходе которых модели переходили к сложным сценариям атак. В этом месяце Алабама присоединилась к 14 другим генпрокурорам‑республиканцам, потребовавшим от OpenAI сохранить соответствующую документацию.
По словам Маршалла, цель расследования — «установить факты и честно говорить об угрозах, с которыми сталкиваются компании и потребители из‑за вышедшего из‑под контроля ИИ», при этом, по его мнению, штаты обязаны защищать потребителей, не подрывая инновации и конкурентоспособность США.
Также читайте: Сэм Альтман признал, что внедрение ИИ отстало от его ожиданий на 2023 год
Последствия для Hugging Face
В OpenAI заявили, что анализируют инцидент на Hugging Face совместно с внешними консультантами и сначала представят технический отчет профильным госорганам, а затем опубликуют свои выводы. В компании называют произошедшее беспрецедентным.
Президент OpenAI Грег Брокман охарактеризовал инцидент как водораздел для отрасли кибербезопасности, тогда как гендиректор Hugging Face Клем Деланг подчеркнул, что проблемы безопасности ИИ «не сможет решить ни одна отдельная компания в одиночку и за закрытыми дверями», призвав к более широкой координации. Это усиливает давление на ИИ‑лаборатории в части ограничения рисков автономных кибероценок.
OpenAI в июле раскрыла, что среда для проведения оценок не имела прямого доступа к интернету, однако агенты использовали ранее неизвестную уязвимость в Artifactory, чтобы выйти во внешние системы, а затем получить доступ к инфраструктуре Hugging Face. При этом задействованный прототип модели, по данным компании, изначально не предназначался для публичного запуска.
Читайте далее: Bitcoin подскочил на 23,58% — лучший недельный рост с 2023 года и выход из нисходящего тренда
