Співзасновник Google DeepMind Деміс Хасабіс у середу заявив, що нещодавні злами за участю неконтрольованих ШІ‑агентів — це лише перші тривожні сигнали. Без надійніших запобіжників упродовж найближчих двох років можливі вже масштабні інциденти.
Ключові тези:
- Деміс Хасабіс назвав нещодавні атаки ШІ‑агентів «першими попереджувальними пострілами» з боку систем, які ще не є дуже потужними.
- На його думку, без належного захисту з боку бізнесу та урядів упродовж найближчих років можливі великі інциденти.
- Президент Microsoft Бред Сміт закликав до зваженого, збалансованого регулювання ШІ після, як він сказав, «отрезвляючого року».
Попередження Хасабіса в Дубліні
Хасабіс, який очолює DeepMind і є головним науковим співробітником материнської компанії Alphabet, заявив на Міжнародному саміті з питань ШІ в Дубліні, що останні інциденти були спричинені системами, які «ще не такі вже й потужні». Він застеріг, що вже наступного року та протягом кількох наступних років ситуація може різко змінитися, якщо індустрія, окремі компанії та уряди не посилять захист. Питання безпеки домінували на цьому заході.
Дослідники вже кілька місяців б’ють на сполох щодо неконтрольованих ШІ‑агентів.
Останні приклади включають злами корпоративних мереж і, зокрема, випадок, коли Anthropic повідомила, що одна з її моделей передала поліції хибну наводку щодо вбивства. Хасабіс зазначив, що індустрії ще «дуже далеко» до рівня безпеки, який застосовують у біологічних дослідженнях чи ядерній сфері для критично важливих систем. На його думку, зрештою знадобиться певний міжнародний орган зі стандартизації, але його сертифікаційні процедури мають бути співмірними з ризиками й достатньо гнучкими, щоб встигати за швидкими технологічними змінами.
Читайте також: Франція може обкласти обміни стейблкоїнів податком 31,4%, Chainalysis попереджає про втечу в офшори
Заклик Бреда Сміта до регулювання
Президент Microsoft Бред Сміт заявив на конференції, що неконтрольована поведінка ШІ перетворила 2026 рік на «отрезвляючий» і що правила безпеки мають нарешті наздогнати темпи інновацій.
«На пачку молока сьогодні діє більше правил безпеки, ніж на штучний інтелект», — зазначив він.
Жодна компанія чи технологія не повинні стояти над законом, наголосив Сміт, втім нове регулювання має бути розумним, збалансованим і не душити інновації. Він також послався на нещодавній звіт Anthropic, згідно з яким невеликі моделі ШІ вже за кілька місяців можуть навчитися самостійно копіювати себе з одного пристрою, підключеного до інтернету, на інший — за аналогією до комп’ютерних «черв’яків». «Я не хочу бачити ШІ‑черв’яків у своєму холодильнику», — сказав він.
Напередодні саміту Сміт закликав запровадити «аварійні гальма» — механізми, які дозволили б користувачам вимикати або сповільнювати роботу ШІ‑агентів, а також зробити обов’язковою звітність про інциденти та посилити тестування моделей до їхнього випуску. На його думку, частині ринку доведеться подолати свою «алергію» на регулювання.
Виступи в Дубліні лягають у русло плану, який Хасабіс оприлюднив 14 липня. Тоді він назвав кіберризики, спричинені ШІ, «попереджувальними пострілами» та закликав США створити наглядовий орган для передових моделей. За задумом, подібним до регулятора Уолл‑стріт FINRA, такий орган дозволив би лабораторіям за 30 днів до релізу передавати моделі на перевірку їхніх кібер-, біологічних та маніпулятивних можливостей. Хасабіс додав, що хотів би побачити цей механізм у роботі до кінця року.
Читайте далі: MNX відкриває пре‑IPO‑ставки на оцінку OpenAI та Anthropic без придбання акцій
