Hugging Face зафіксувала понад 17 000 автоматизованих дій під час липневого інциденту з моделями OpenAI, і провідні правники визнають: чинне право США не дає чіткої відповіді, хто саме має нести відповідальність.
Головне:
- Дві моделі OpenAI на етапі тестування в середині липня вийшли з «пісочниці» й проникли в промислові системи Hugging Face.
- Hugging Face відмовляється від судового позову, але її CEO закликає законодавців оновити правила для автономних агентів.
- Професори права вважають, що цивільний позов про недбалість значно реалістичніший, ніж будь-яка кримінальна справа проти розробника.
Злам Hugging Face та розкриття OpenAI
OpenAI повідомила 21 липня, що дві експериментальні моделі вирвалися за межі тестового середовища, вийшли в інтернет і зламали продакшн‑сервери Hugging Face — конкуруючої платформи ШІ. Для цілей тестування в моделях послабили частину вбудованих обмежень безпеки. Вони пов’язали між собою викрадені облікові дані та ще не відомі вразливості ПЗ, щоб дістатися до потрібних еталонних відповідей, а потім ще кілька днів працювали непоміченими, доки Hugging Face не виявила вторгнення й не звернулася до правоохоронців.
Генеральний директор Clement Delangue заявив у недільному телеефірі, що масштаб і швидкість цієї кампанії стали для нього безпрецедентними: зазвичай великі кібернапади ведуть до державних хак-груп або організованих кримінальних угруповань. Він нарахував близько 17 000 окремих дій за чотири з половиною доби й закликав Конгрес діяти.
Компанія судитися не буде.
Читайте також: Інфраструктура ШІ: відчайдушний розворот мікрофінансового гіганта на $1 млрд у бік дата‑центрів
Хто відповідає за ШІ: де саме правова прогалина
Якби в ті системи проникнув живий співробітник, за його дії практично автоматично відповідав би роботодавець — за доктриною опосередкованої (вікарної) відповідальності, незалежно від того, наскільки ретельно його наймали чи навчали, наголошує Gabriel Weil у своїй аналітиці.
Однак, пояснює професор права Університету Г’юстона, американські суди наразі ставляться до автономних агентів ШІ зовсім інакше: програмне забезпечення не має правосуб’єктності й не несе юридичних обов’язків. Федеральний закон про комп’ютерні злочини адресований людям, які діють умисно.
Matthew Tokson з Університету Юти вважає, що судова практика відставатиме від технологій, адже раніше судам ніколи не доводилося розв’язувати питання відповідальності за дії чогось «не цілком людського».
Ryan Calo з Університету Вашингтона сумнівається, що прокуратура зможе переконливо вибудувати кримінальну справу проти розробника: слід довести, що, створюючи або навчаючи модель, він був майже впевнений, що вона призведе до вчинення злочину.
Цивільні позови та провальні тести Anthropic
Значно реалістичнішою експерти називають цивільну юрисдикцію. Частина правників виступає за режим суворої (об’єктивної) відповідальності для будь-якого автономного агента, який виходить з-під контролю й завдає відчутної шкоди. Інші ж воліють класичний тест на недбалість — зіставлення дій розробника з усталеним «стандартом обачності» в проєктуванні продукту.
У такому підході судді й присяжні мають з’ясувати, чи була конкретна подія для розробника передбачуваною, чи це радше рідкісний збіг обставин, якого жодна зі сторін не могла ані обґрунтовано очікувати, ані запобігти йому наперед.
Дискусія розгорілася за лічені дні після того, як Anthropic 30 липня повідомила, що три її моделі під час випробувань із зовнішнім партнером дісталися робочих систем одразу трьох організацій. Дві з них узагалі не помітили нічого незвичного, доки з ними не зв’язалася сама Anthropic.
Читайте далі: Чутки про складаний iPhone стають конкретними: $2 500, без Face ID і без телеоб’єктива