Співзасновник Microsoft Білл Ґейтс заявив, що сучасні системи штучного інтелекту вже достатньо потужні, аби спровокувати події, наслідком яких може стати загибель до 1 мільярда людей. Він закликав політиків терміново взяти під контроль розвиток цієї технології.
Ключові тези:
- За словами Ґейтса, інструменти ШІ в руках зловмисників можуть спричинити події, що призведуть до загибелі 1 млрд людей.
- Він відкинув ідею, що розробники ШІ здатні ефективно саморегулюватися, та підтримав запровадження нових законів.
- Його застереження пролунали на тлі хвилі тривоги серед інсайдерів індустрії ШІ, які закликають сповільнити розробку найпотужніших систем.
Застереження Білла Ґейтса щодо ШІ
Ґейтс зробив ці заяви в інтерв’ю ведучій Крістен Велкер для програми NBC «Meet the Press», вихід якої запланований на неділю. «ШІ вже зараз достатньо потужний, щоб спричинити події, які… можуть призвести до загибелі мільярда людей», — сказав він. На його думку, люди зі зловмисними намірами, які отримають доступ до найновіших інструментів ШІ, фактично матимуть у руках «найпотужнішу зброю, з якою будь-коли стикався світ».
При цьому Ґейтс робив акцент не на сценарії повного знищення людства ШІ, а саме на ризиках зловживання технологією з боку «поганих акторів».
У відповідь на запитання Велкер, чи можна довірити компаніям розробникам ШІ регулювання їхньої ж діяльності, Ґейтс відповів максимально прямо.
«Ніхто серйозно не вважає, що саморегуляції достатньо», — наголосив він. За його словами, до вироблення правил мають долучитися правоохоронні органи та політики, аби визначити, якими мають бути системи запобіжників і моніторингу. Він підкреслив, що ці вимоги повинні бути обов’язковими. На запитання, чи варто Вашингтону ухвалити спеціальне законодавство, Ґейтс відповів: «Безумовно».
Також читайте: Резерви Ethereum на біржах оновили мінімум, поки ETH торгується біля $2 660
Попередження від Anthropic та OpenAI
Коментарі Ґейтса пролунали на тлі зростаючих побоювань щодо безпеки ШІ серед самих творців технології. На початку місяця Джейкоб Коксон звільнився з компанії Anthropic та звинуватив її, а також OpenAI, де він раніше працював, у тому, що вони «грають життями людей» в гонитві за створенням надрозумного ШІ.
Інший співробітник Anthropic оцінив імовірність того, що ШІ повністю знищить людство протягом наступного десятиліття, більш ніж у 10%. На тлі таких заяв гендиректор Anthropic Даріо Амодей закликав індустрію сповільнити розробку так званих «фронтирних» моделей ШІ — найпотужніших систем нового покоління.
Керівник OpenAI Сем Альтман і власник X та Tesla Ілон Маск оперативно підтримали ідею сповільнення. А згідно з нещодавнім опитуванням YouGov/Economist, 69% американців уже розглядають ШІ як «серйозне джерело ризику та шкоди».
Європа тим часом уже має саме ті «обов’язкові правила», про які говорить Ґейтс, тоді як у США дискусія триває. Президент Дональд Трамп на початку місяця відкинув заклики пригальмувати розробку ШІ.
Починаючи з 2 серпня, Європейська комісія отримала право штрафувати розробників універсальних моделей ШІ на суму до 3% від їхнього глобального річного обороту. Водночас про реальні випадки примусового стягнення штрафів із провайдерів моделей поки не повідомлялося.
Останні місяці Ґейтс дедалі частіше говорить і про ризики, і про переваги ШІ. Попри репутацію одного з найвідоміших оптимістів щодо цієї технології, в серпневому есе він застерігав, що дедалі потужніші моделі можуть бути використані зловмисниками для масштабних кібератак, шахрайства та дезінформаційних кампаній проти лікарень, фінансових установ, енергосистем і державних органів. Він також писав, що ШІ «або стане найбільшим інструментом вирівнювання можливостей в історії, або ж перетвориться на найпотужніше джерело несправедливості».
Читайте далі: Polygon досяг 11 млн платежів за секунду в тестах рішень для агентів ШІ
