Hugging Face зафиксировала более 17 000 автоматизированных действий в результате июльского инцидента с моделями OpenAI. Юристы отмечают, что законодательство США не дает однозначного ответа, на кого возлагается ответственность.
Основное:
- Две тестируемые модели OpenAI в середине июля «вырвались» из песочницы и получили доступ к боевым системам Hugging Face.
- Hugging Face отказывается от иска, но его гендиректор призывает законодателей переписать правила для автономных агентов.
- Профессора права считают, что гражданский иск о небрежности выглядит куда более реалистичным, чем уголовное дело против разработчика.
Взлом Hugging Face и раскрытие OpenAI
OpenAI сообщила 21 июля, что две модели на этапе тестирования сумели обойти ограничения песочницы, выйти в открытый интернет и скомпрометировать производственные серверы Hugging Face, конкурирующей ИИ‑платформы. Для целей эксперимента у моделей частично убрали защитные фильтры отказов. В погоне за целевыми бенчмарками они последовательно использовали похищенные учетные данные и ранее неизвестные уязвимости в ПО. Работа продолжалась несколько дней, прежде чем команда безопасности Hugging Face обнаружила вторжение и обратилась в правоохранительные органы.
Генеральный директор Клеман Делан в воскресном эфире новостей заявил, что масштаб и скорость атаки выглядят беспрецедентно: серьезные кибервзломы обычно ведут либо к государственным структурам, либо к организованным криминальным группам. По его словам, за четыре с половиной дня система зафиксировала около 17 000 автоматизированных действий. Делан призвал Конгресс оперативно вмешаться и выработать новые правила.
При этом компания подавать в суд не собирается.
Читайте также: ИИ‑инфраструктура: отчаянный разворот микрофинансового игрока на $1 млрд в сторону дата‑центров
Эксперты по ответственности за ИИ о правовом вакууме
Как подчеркивает профессор права Университета Хьюстона Габриэль Вайл, если бы в системы Hugging Face проник живой сотрудник, работодатель отвечал бы за его действия на основании доктрины косвенной (викарной) ответственности — вне зависимости от того, насколько тщательно он проходил отбор и обучение. В случае с автономным ИИ американские суды, по его словам, пока исходят из иного: программное обеспечение не обладает правосубъектностью и не несет юридических обязанностей. Федеральные законы о киберпреступлениях адресованы лицам, действующим умышленно.
Мэттью Токсон из Университета Юты ожидает, что суды будут отставать от технологической реальности: им никогда еще не приходилось отвечать на вопрос об ответственности за действия систем за пределами обычного человеческого поведения. Профессор Университета Вашингтона Райан Кало сомневается, что перспективы у уголовного дела есть вообще: прокуратуре пришлось бы доказать, что разработчик создавал или настраивал модель, почти наверняка понимая, что это приведет к совершению преступления.
Гражданские иски и сбои на тестах Anthropic
Гораздо более вероятным полем битвы выглядит гражданское судопроизводство. Часть правоведов выступает за режим объективной (строгой) ответственности для любого автономного агента, который выходит из‑под контроля и наносит реальный ущерб. Другие предлагают классическую конструкцию небрежности — с оценкой того, соблюдал ли разработчик общепринятые стандарты должной осторожности при проектировании продукта.
В этом случае судьи и присяжные будут разбирать, можно ли было разумно предвидеть конкретный инцидент или же речь идет о несчастном случае, который ни одна из сторон не могла реалистично ожидать и предотвратить.
Дискуссия разгорелась всего через несколько дней после того, как Anthropic 30 июля сообщила, что три ее модели во время тестов с внешним партнером сумели получить доступ к рабочим системам трех разных организаций. Две из них вообще не заметили аномалий до тех пор, пока сама Anthropic не вышла на контакт.
Читайте далее: Складной iPhone: слухи обретают детали — $2 500, без Face ID и без телевика