Сооснователь Microsoft Билл Гейтс заявил, что уже сейчас системы искусственного интеллекта достаточно мощны, чтобы спровоцировать события, которые могут привести к гибели до 1 млрд человек. По его словам, к регулированию ИИ должны подключиться законодатели и силовые структуры.
Главное:
- По мнению Гейтса, ИИ в руках злоумышленников может привести к событиям, унесшим жизнь миллиарда людей.
- Он отверг идею саморегулирования индустрии ИИ и поддержал принятие нового законодательства.
- Его предупреждение звучит на фоне растущей тревоги внутри самой ИИ-индустрии и призывов притормозить разработку.
Предупреждение Билла Гейтса об ИИ
Гейтс заявил об этом в интервью ведущей Кристен Уэлкер для программы NBC «Meet the Press», эфир которой запланирован на воскресенье. «ИИ уже достаточно мощен, чтобы запустить цепочку событий, которая… приведет к гибели миллиарда человек», — сказал он. По его словам, использование новейших ИИ-инструментов людьми с преступными намерениями превращает их в «самое мощное оружие, с которым когда-либо сталкивался мир».
Гейтс акцентировал внимание именно на злоупотреблениях со стороны «плохих акторов», а не на сценариях полного уничтожения человечества ИИ.
На вопрос Уэлкер, можно ли доверить ИИ-компаниям саморегулирование, Гейтс ответил предельно жестко.
«Никто не считает, что саморегулирования достаточно», — отметил он, добавив, что правоохранительные органы и политики должны совместно определить, как должны выглядеть защитные барьеры и система мониторинга. По его словам, эти требования должны носить обязательный характер, а на вопрос, нужно ли Вашингтону принимать соответствующий закон, он ответил: «Безусловно».
Также по теме: Резервы Ethereum на биржах обновили минимум, пока ETH торгуется около $2 660
Предупреждения от Anthropic и OpenAI
Заявления Гейтса прозвучали на фоне нарастающих опасений относительно безопасности ИИ среди самих разработчиков технологий. В начале месяца Джейкоб Коксон покинул Anthropic и обвинил компанию, а также OpenAI, где он ранее работал, в том, что они «играют жизнями людей», участвуя в гонке за создание сверхинтеллектуального ИИ.
Другой сотрудник Anthropic оценил вероятность того, что ИИ полностью уничтожит человечество в течение следующего десятилетия, более чем в 10%. На этом фоне гендиректор Anthropic Дарио Амодеи призвал отрасль замедлить разработку наиболее передовых, так называемых frontier‑моделей ИИ.
Главы OpenAI Сэм Альтман и Илон Маск быстро поддержали идею притормозить «гонку вооружений» в ИИ. Согласно недавнему опросу YouGov/Economist, 69% американцев считают ИИ серьезным источником риска нанесения вреда.
В Европе уже действуют именно такие жесткие, юридически обязательные правила, о которых говорит Гейтс, тогда как в США дискуссия продолжается. В этом месяце президент Дональд Трамп отверг призывы замедлить разработку ИИ. С 2 августа Европейская комиссия получила право оштрафовать поставщиков универсальных моделей ИИ на сумму до 3% их глобальной годовой выручки, однако о применении этих санкций к конкретным компаниям пока не сообщалось.
В последние месяцы Гейтс все чаще говорит о рисках ИИ, хотя по‑прежнему остается одним из самых заметных оптимистов в отношении этой технологии. В августовской колонке он предупреждал, что злоумышленники смогут использовать все более мощный ИИ для кибератак, мошенничества и масштабных кампаний дезинформации, нацеленных на больницы, финансовые организации, энергосистемы и государственную инфраструктуру. Он также писал, что ИИ «либо станет величайшим уравнителем возможностей в истории, либо источником беспрецедентной несправедливости».
Читайте далее: Polygon в тестах для ИИ-агентов вышел на 11 млн платежей в секунду
