Голова Bank of England Ендрю Бейлі вважає, що перед запровадженням формального регулювання штучного інтелекту (ШІ) слід зосередитись на масштабному тестуванні моделей, зберігаючи за регуляторами право втрутитися в разі зростання ризиків.
Ключові акценти:
- Бейлі визнає, що ризики ШІ зростають, але наполягає: спершу потрібно виявити вразливості, а вже потім будувати формальну регуляторну рамку.
- Він закликає до жорсткого тестування до й після запуску систем, із чіткими запобіжниками та визначеними «точками входу» для людини.
- Його позиція пролунала на тлі дискусій між великими компаніями ШІ та урядом США про добровільні обмеження, уповільнення розробки й майбутнє регулювання.
Підхід Бейлі до тестування ШІ
Бейлі заявив, що ризики ШІ є «реальними та дедалі значнішими», але, на його думку, політикам слід спершу зрозуміти, де й як можуть давати збій такі системи, а вже потім вирішувати, якими мають бути формальні правила. «На мій погляд, регулювання — це не точка старту», — написав він.
На його думку, суспільство має зберегти можливість чітко окреслювати межі для передового ШІ, використовуючи суворе тестування до та після розгортання моделей, щоб виявляти вразливості та перевіряти, наскільки існуючі запобіжники здатні локалізувати збої. Водночас він виступає проти заборони розробки, адже «потенційні вигоди є колосальними».
Велика Британія вже створила Інститут безпеки ШІ (AI Safety Institute), який, за словами Бейлі, формує наукове й технологічне підґрунтя для довіри до систем ШІ. «Але темпи прогресу мають прискоритися», — підкреслив він. На його думку, неочікувана поведінка моделей не означає провал тестування, а навпаки демонструє, чому воно є критично необхідним.
Також читайте: Ripple допомагає бразильському CSD BR віддзеркалювати право власності на фонди в публічному блокчейні
Дискусія навколо безпеки OpenAI
Провідні розробники ШІ, зокрема OpenAI та Anthropic, виступають за посилення запобіжників та міжнародно узгоджені оцінки ризиків на тлі стурбованості дедалі потужнішими моделями. OpenAI нещодавно заявила, що не випустить свою найновішу модель саме через міркування безпеки.
Президент Дональд Трамп відкинув заклики сповільнити розвиток ШІ у США в конкуренції з Китаєм, заявивши: «Хто переможе в ШІ, той переможе загалом». Після зустрічі в Білому домі 29 вересня з керівниками великих техкомпаній Трамп повідомив, що учасники підписали «морально зобов’язуючий» документ щодо ШІ, який він назвав «формою захисту».
Згідно з цією домовленістю, компанії-учасниці самі відповідають за безпеку власних технологій. Підхід Бейлі відрізняється акцентами: він хоче, аби саме тестування попередньо визначило, де потрібне втручання регуляторів, а вже потім навколо цих зон будувалась жорсткіша регуляторна архітектура для передових систем.
Дискусія останніми тижнями різко загострилася: розробники ШІ, уряди та фінансові регулятори стикаються з надто швидким прогресом моделей і все складнішими питаннями нагляду. Остання заява Бейлі пролунала на тлі закликів індустрії до узгоджених глобальних запобіжників, рішення OpenAI не публікувати модель та ініціатив Білого дому щодо добровільних, компанієорієнтованих механізмів контролю.
Читайте далі: Альткоїни взяли 41% відкритого інтересу у ф’ючерсах, спотовий обсяг у 4 рази перевищив Bitcoin
