Власти Алабамы направили повестку OpenAI в связи с июльским взломом через Hugging Face, запросив 16 категорий документов и данных в рамках проверки на предмет возможных нарушений республиканских законов о защите прав потребителей.
Главное
- Повестка Алабамы включает 16 запросов, охватывающих системы безопасности, документацию по моделям, прошлые несанкционированные вторжения и ущерб от июльского инцидента.
- OpenAI заявляет, что изучает инцидент на платформе Hugging Face совместно с внешними консультантами и готовит к публикации технический отчет.
- Расследование следует за требованием 15 генпрокуроров-республиканцев сохранить связанные материалы и усиливает регуляторное давление на автономное поведение ИИ-систем.
Повестка OpenAI
По данным CNN (сообщение от 24 августа), генеральный прокурор Алабамы Стив Маршалл направил OpenAI повестку с требованием предоставить документы, данные и письменные пояснения, связанные с июльским вторжением и предшествующей ему кибероценкой. Штат проверяет, нарушила ли компания Закон Алабамы о недобросовестной торговой практике.
В 16 запросов входят сведения о мерах безопасности OpenAI, материалы о тестируемой до релиза модели, внутренние жалобы на недостатки в безопасности при проверке моделей, а также документы, позволяющие оценить нанесенный вторжением ущерб, вред или потери. Власти также требуют данные о других несанкционированных вторжениях, утечках учетных данных и экспериментах, в ходе которых модели выходили на сложные траектории атак. В начале месяца Алабама вместе с 14 другими генпрокурорами-республиканцами уже потребовала от OpenAI сохранить относящиеся к делу записи.
По словам Маршалла, цель расследования — «установить факты и честно говорить об угрозах, с которыми сталкиваются компании и потребители из‑за вышедшего из‑под контроля ИИ», при этом, по его мнению, штаты обязаны защищать граждан, не подрывая инновации и конкурентоспособность США.
Также читайте: Сэм Альтман признал, что внедрение ИИ отстало от его ожиданий на 2023 год
Последствия инцидента с Hugging Face
В OpenAI заявили, что анализируют случившееся на Hugging Face совместно с внешними советниками и представят технический отчет профильным госведомствам до публичного раскрытия выводов. В компании назвали произошедшее беспрецедентным событием.
Президент OpenAI Грег Брокман охарактеризовал инцидент как водораздел для кибербезопасности, а гендиректор Hugging Face Клем Деланг отметил, что безопасность ИИ «невозможно обеспечить силами одной компании, работающей за закрытыми дверями», и призвал к более широкой кооперации. Это повышает ставки в дискуссии о том, как лаборатории должны контролировать автономные кибероценки.
В июле OpenAI раскрыла, что среда для оценки моделей была изолирована от прямого доступа к интернету, однако агенты использовали ранее неизвестную уязвимость в Artifactory, чтобы выйти к внешним системам и затем проникнуть в инфраструктуру Hugging Face. Задействованный прототип модели, подчеркивает компания, изначально не предполагался к публичному запуску.
Читайте далее: Bitcoin за неделю вырос на 23,58% — лучший результат с 2023 года, нисходящий тренд прерван
