Співзасновник Microsoft Білл Гейтс заявив, що штучний інтелект уже сьогодні є настільки потужним, що його зловмисне використання може спровокувати події, які призведуть до загибелі до 1 млрд людей. Він закликав законодавців оперативно втрутитися.
Основні тези:
- За словами Гейтса, інструменти ШІ в руках людей зі зловмисними намірами можуть спричинити події, що призведуть до загибелі 1 млрд людей.
- Він відкинув ідею, що розробники ШІ здатні ефективно саморегулюватися, і підтримав ухвалення жорсткого законодавства.
- Його заява пролунала на тлі хвилі занепокоєння серед інсайдерів індустрії ШІ, які закликають сповільнити розробку найпотужніших моделей.
Попередження Білла Гейтса щодо ШІ
Гейтс зробив ці заяви в інтерв’ю ведучій Крістен Велкер у програмі NBC «Meet the Press», вихід якої запланований на неділю. «ШІ уже достатньо потужний, щоб запустити ланцюг подій, які… спричинять загибель мільярда людей», — сказав він. Гейтс описав зловмисників, які користуються новітніми інструментами ШІ, як «найпотужнішу зброю», з якою коли-небудь стикався світ.
Він акцентував саме на ризиках зловживання технологією з боку «поганих акторів», а не на сценаріях повного знищення людства ШІ.
На запитання Велкер, чи можна довірити компаніям, що розробляють ШІ, саморегулювання, Гейтс відповів без дипломатії.
«Ніхто не вважає, що саморегулювання достатньо», — наголосив він, додавши, що правоохоронні органи та політики мають визначити, якими повинні бути запобіжники й система нагляду. За його словами, ці норми мають бути обов’язковими. На запитання, чи слід Вашингтону ухвалити відповідні закони, він відповів: «Безумовно».
Також читайте: Резерви Ethereum на біржах впали до мінімуму, поки ETH торгується біля $2,660
Попередження від Anthropic та OpenAI
Коментарі Гейтса пролунали на тлі посилення занепокоєння безпечністю ШІ серед тих, хто безпосередньо створює ці технології. На початку місяця Джейкоб Коксон звільнився з Anthropic і звинуватив компанію та OpenAI, де він також працював раніше, у «грі людськими життями» в гонитві за створенням надінтелектуального ШІ.
Інший співробітник Anthropic оцінив імовірність того, що ШІ протягом наступного десятиліття повністю знищить людство, більш ніж у 10%. Після цього CEO Anthropic Даріо Амодей закликав галузь пригальмувати розробку так званого frontier-AI — найпросунутіших моделей.
CEO OpenAI Сем Альтман і Ілон Маск швидко підтримали ідею сповільнення, а свіже опитування YouGov/Economist показало, що 69% американців розглядають ШІ як серйозне джерело ризику.
У Європі вже діють саме ті обов’язкові правила, про які говорить Гейтс, тоді як дискусія у США триває, зокрема після того, як президент Дональд Трамп на початку місяця відкинув заклики до сповільнення розробки ШІ. З 2 серпня Європейська комісія отримала право штрафувати постачальників загальновживаних моделей ШІ на суму до 3% їхнього глобального річного обороту, однак поки що про реальні випадки застосування санкцій до таких провайдерів не повідомлялося.
Останніми місяцями Гейтс дедалі частіше публічно говорить про ризики ШІ, хоча залишається одним із найвідоміших оптимістів щодо цієї технології. В есе, опублікованому в серпні, він попереджав, що зловмисники можуть використовувати дедалі потужніший ШІ для кібератак, шахрайства та кампаній дезінформації проти лікарень, фінансових установ, енергомереж і державних систем. Він також писав, що ШІ «або стане найбільшим інструментом вирівнювання можливостей в історії, або ж найпотужнішим джерелом несправедливості».
Читайте далі: Polygon досяг 11 млн платежів за секунду в тестах для агентів на базі ШІ
