Сооснователь Microsoft Билл Гейтс заявил, что современные системы искусственного интеллекта уже достаточно мощны, чтобы спровоцировать события, которые могут унести жизни до миллиарда человек. По его словам, политики обязаны вмешаться и установить жёсткие правила игры.
Главное
- По оценке Гейтса, ИИ в руках злоумышленников способен привести к событиям с миллиарным числом жертв.
- Он отверг идею саморегулирования индустрии и выступил за принятие новых законов.
- Его заявление прозвучало на фоне растущей тревоги среди самих разработчиков ИИ, требующих замедлить гонку за сверхразумными системами.
Предупреждение Гейтса об угрозах ИИ
Как сообщает издание, Гейтс высказался в интервью ведущей Кристен Уэлкер в программе NBC «Meet the Press», выпуск которой выйдет в эфир в воскресенье. «ИИ уже достаточно мощен, чтобы спровоцировать события, которые… приведут к гибели миллиарда человек», — заявил он. Политик сравнил использование новейших ИИ-инструментов людьми с преступными намерениями с «самым мощным оружием, с которым когда‑либо сталкивался мир».
При этом Гейтс сосредоточился не на сценариях полного уничтожения человечества ИИ, а именно на злоупотреблениях со стороны людей.
Отвечая на вопрос Уэлкер, можно ли доверить регулирование самим компаниям, занимающимся разработкой ИИ, Гейтс был предельно прямолинеен.
«Никто всерьёз не считает, что саморегулирования достаточно», — сказал он, подчеркнув, что правоохранительные органы и политики должны определить, какими должны быть защитные барьеры и системы мониторинга. По его словам, эти меры обязаны носить обязательный характер. На вопрос, должен ли Вашингтон принять соответствующие законы, он ответил: «Безусловно».
Читайте также: Резервы Ethereum на биржах обновили минимум на фоне торгов ETH около $2,660
Предостережения от Anthropic и OpenAI
Заявления Гейтса прозвучали на фоне растущей обеспокоенности безопасностью ИИ среди самих создателей технологий. В начале месяца Джейкоб Коксон покинул Anthropic и обвинил компанию, а также OpenAI, где он ранее работал, в том, что они «играют жизнями людей» в гонке за созданием сверхразумного ИИ.
Другой сотрудник Anthropic оценил вероятность того, что ИИ полностью уничтожит человечество в течение следующего десятилетия, более чем в 10%. После этого гендиректор Anthropic Дарио Амодеи публично призвал индустрию замедлить разработку самых продвинутых моделей.
Главы OpenAI Сэм Альтман и Илон Маск оперативно поддержали идею сдерживания гонки. Согласно недавнему опросу YouGov совместно с The Economist, 69% американцев считают ИИ серьёзной угрозой, способной причинить значительный вред.
В Европе уже действуют типы обязательных норм, о которых говорит Гейтс, тогда как в США дискуссия продолжается — после того как президент Дональд Трамп в начале месяца отверг призывы притормозить развитие ИИ. С 2 августа Европейская комиссия получила полномочия штрафовать провайдеров универсальных моделей ИИ на сумму до 3% их глобальной годовой выручки, однако о фактических мерах против конкретных поставщиков пока не сообщалось.
В последние месяцы Гейтс всё чаще говорит о рисках ИИ, оставаясь при этом одним из самых известных оптимистов в отношении технологий. В августовском эссе он предупреждал, что злоумышленники могут использовать всё более мощные модели ИИ для кибератак, финансового мошенничества и кампаний дезинформации — против больниц, финансовых организаций, энергосетей и государственных систем. Он также писал, что ИИ «либо станет величайшим в истории инструментом выравнивания возможностей, либо худшим источником несправедливости».
Далее по теме: Polygon достиг 11 млн платежей в секунду в тестах инфраструктуры для ИИ-агентов
