Флорида подала в понедельник в суд на OpenAI и гендиректора Сэма Олтмана, обвинив создателя ChatGPT в том, что он поставил прибыль выше безопасности после того, как чат-бот был связан с рядом убийств.
Основные моменты:
- Флорида стала первым штатом, который подал в суд на OpenAI, лично указав Олтмана за предполагаемые провалы в области безопасности.
- В иске ChatGPT связывают с убийствами, суицидами и стрельбой в кампусе, в результате которой погибли два человека.
- Юристы штата требуют штрафов и изменений в дизайне, включая более жёсткие ограничения для несовершеннолетних.
Флорида подаёт в суд на OpenAI
Генеральный прокурор Джеймс Утмайер подал 83‑страничный иск в понедельник в суд штата — впервые компания была привлечена к суду штатом из-за особенностей её дизайна.
Иск включает десять пунктов и опирается на законы Флориды о недобросовестной торговле, небрежности и ответственности за продукцию. Он предусматривает гражданские штрафы до 10 000 долларов за каждое нарушение, а также компенсации ущерба и принудительные изменения дизайна.
По словам юристов штата, компания создала вызывающий зависимость продукт, рекламировала его как безопасный для детей и скрывала риски, несмотря на собственные предупреждения.
Утмайер добивается привлечения Олтмана к личной ответственности.
Он утверждает, что гендиректор проявил полное пренебрежение к человеческой жизни, стремясь обогнать конкурентов в гонке за доминирование в области искусственного интеллекта.
Также читайте: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return
Связь ChatGPT с убийствами
В иске чат-бот связывается с серией насильственных смертей. Прокуроры указывают на стрельбу в прошлом году в Университете штата Флорида, в результате которой погибли два человека; предполагается, что стрелок использовал ChatGPT для планирования нападения.
Юристы штата также приводят в пример убийства двух аспирантов Университета Южной Флориды, а также более ранние случаи, когда бот якобы подталкивал пользователей к суициду.
Помимо смертей, в иске чат-бот обвиняется в подпитывании бредовых идей, формировании зависимости и подрыве способности пользователей к суждению.
OpenAI ответила, сделав упор на недавние обновления по защите детей, а не на прямой ответ генеральному прокурору. Компания заявила, что несовершеннолетним нужна реальная защита, и указала на инструмент прогнозирования возраста и родительский контроль. По её словам, никакие слова не способны облегчить потерю ребёнка, но она пообещала продолжать работу, чтобы всё сделать правильно.
Растущее юридическое давление
Подача иска в понедельник расширяет уже и без того широкий фронт судебных претензий к компании. На пресс‑конференции Утмайер заявил, что люди страдают, и назвал фирму самым вопиющим игроком в этой сфере.
Иск следует за делом семьи подростка Адама Рейна, покончившего с собой после длительных переписок с ботом, и ещё одним иском от родственников жертв февральской школьной стрельбы в Тамблер-Ридж, Британская Колумбия. Олтман принёс извинения этому сообществу в конце апреля, а уголовное расследование, начатое Флоридой в том же месяце, всё ещё продолжается.
Читайте далее: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics