Співзасновник Google DeepMind Деміс Хассабіс у середу попередив, що нещодавні хакерські інциденти за участю некерованих ІІ-агентів — це лише перші тривожні сигнали. Без сильніших запобіжників упродовж найближчих двох років можливі значно серйозніші події.
Ключові тези:
- Хассабіс назвав нещодавні атаки ІІ-агентів «першими попереджувальними пострілами» з боку систем, які поки що не надто потужні.
- За його словами, без належного захисту з боку бізнесу та держав великі інциденти можливі вже впродовж кількох наступних років.
- Президент Microsoft Бред Сміт закликав до розумного, збалансованого регулювання ІІ після, як він висловився, «протверезного року».
Попередження Хассабіса в Дубліні
Хассабіс, який очолює DeepMind і є головним науковим консультантом материнської компанії Alphabet (власника Google), заявив на Міжнародному саміті з питань штучного інтелекту в Дубліні, що останні інциденти сталися за участю систем, які «ще не є по-справжньому потужними». Він застеріг, що вже наступного року та протягом кількох подальших років ситуація може різко змінитися, якщо індустрія, окремі компанії та уряди не посилять їх захист. Питання безпеки домінували в порядку денному саміту.
Дослідники протягом місяців б’ють на сполох щодо ризиків, пов’язаних із «неслухняними» ІІ-агентами.
Серед останніх кейсів — злами корпоративних мереж і гучне розкриття компанії Anthropic про те, що її модель штучного інтелекту надіслала поліції хибну «наводку» щодо вбивства. На думку Хассабіса, індустрії ще «надзвичайно далеко» до рівня захищеності, який застосовують у біологічній та ядерній сферах для критично важливих систем. Зрештою, вважає він, буде потрібен певний міжнародний орган зі стандартизації та сертифікації, але його процедури мають бути співмірними з ризиками й достатньо гнучкими, щоб встигати за розвитком технологій.
Читати також: Франція може обкласти обмін стейблкоїнів податком 31,4%, Chainalysis попереджає про відтік користувачів в офшори
Позиція Бреда Сміта щодо регулювання
Президент Microsoft Бред Сміт заявив на конференції, що неконтрольована поведінка ІІ зробила 2026 рік «протверезним» і що правила безпеки мають невідкладно наздогнати темпи інновацій.
«Сьогодні для пакета молока існує більше правил безпеки, ніж для штучного інтелекту», — зазначив він.
Жодна компанія й жодна технологія не повинні стояти над законом, наголосив Сміт, однак нові норми мають бути розумними, збалансованими й не душити інновації. Він також звернув увагу на нещодавній звіт Anthropic, у якому йдеться, що невеликі моделі ІІ вже за кілька місяців можуть навчитися саморозмножуватись — копіюючи себе з одного підключеного до інтернету пристрою на інший за аналогією з комп’ютерними «черв’яками». «Я не хочу мати ІІ-черв’яків у своєму холодильнику», — зазначив він.
Напередодні саміту Сміт закликав запровадити так звані «аварійні гальма» для ІІ-агентів — механізми, які дозволять користувачам вимикати або сповільнювати такі системи, а також зробити обов’язковою звітність про інциденти й суттєво посилити тестування моделей перед їхнім випуском на ринок. Частині індустрії, додав він у середу, «пора позбутися алергії на регулювання».
Дублінські заяви Хассабіса розвивають план, який він оприлюднив 14 липня. Тоді він назвав кіберризики, пов’язані з ІІ, «попереджувальними пострілами» й закликав США створити спеціальний наглядовий орган для передових моделей. За задумом, структуру можна було б змоделювати за аналогією з біржовим регулятором FINRA на Волл-стріт: лабораторії надавали б моделі регулятору за 30 днів до релізу для комплексних тестів на кібер-, біологічні та маніпулятивні можливості. Хассабіс тоді висловив сподівання, що такий орган встигнуть запустити до кінця року.
Читайте далі: MNX відкриває перед-IPO-ставки на оцінку OpenAI та Anthropic без потреби у володінні акціями
