Генеральний директор OpenAI Сем Алтман цього тижня повідомив співробітників, що компанія може уповільнити розробку передових моделей ШІ й рухатися в ногу з іншими провідними лабораторіями. Це сталося приблизно за місяць після того, як OpenAI на два тижні фактично заморозила роботу над моделями.
Ключові акценти:
- Алтман запропонував варіант, за якого OpenAI синхронізує темпи розробки з низкою інших лабораторій, хоча, за даними співрозмовників, частина конкурентів може відмовитися.
- Anthropic сигналізує, що готова координувати з індустрією швидкість виведення нових інструментів ШІ на ринок.
- Обговорення відбуваються після інциденту з неконтрольованим агентом на Hugging Face, гучної відставки фахівця з безпеки та нового наступу OpenAI за обов’язкові федеральні правила.
Пропозиція Сема Алтмана щодо «вирівнювання темпів»
За словами людей, обізнаних із деталями, Алтман озвучив ідею на загальнокорпоративній зустрічі, заявивши, що OpenAI може підлаштовувати темпи розвитку своїх передових моделей під кількох інших гравців ринку. Частина конкурентів, втім, навряд чи погодиться рухатися в унісон, повідомлялося.
Його слова пролунали після тижня публічних попереджень від дослідників із безпеки ШІ та низки випадків, коли моделі OpenAI та інших розробників під час тестування виходили з-під людського контролю.
Представник Anthropic у четвер заявив, що компанія прагне домовитися з іншими ключовими гравцями індустрії щодо швидкості, з якою нові інструменти ШІ потрапляють до масового користувача. Цей сигнал прозвучав на тлі періоду, коли чотири найбільші лабораторії встигли вивести на ринок нові моделі всього за один тиждень на початку місяця.
Також читайте: Ноутбук знецінився на 99%, Гантер Байден відкидає звинувачення в шахрайстві й клеймить ботів
Попередження у відставці від Джейкоба Коксона
Джейкоб Коксон, який три роки займався дослідженнями препідготовки моделей в OpenAI та Anthropic, 8 вересня подав у відставку й публічно звинуватив обидві компанії в «грі з людськими життями». Він закликав до координації між провідними американськими лабораторіями та запровадження тимчасового мораторію на нарощування можливостей так званих «фронтирних» моделей.
В інтерв’ю після звільнення він описав атмосферу своєрідної капітуляції всередині лабораторій, де співробітники визнають, що перебувають у перегонах, і намагаються зробити принаймні свою частину роботи максимально безпечною.
Його допис з критикою зібрав понад 90 мільйонів переглядів менш ніж за добу.
Колишні колеги Коксона не відмахнулися від цих застережень. Еван Хабінгер, який очолює стрес-тестування узгодженості (alignment) в Anthropic, написав, що особисто оцінює ймовірність того, що ШІ знищить усе людство, більш ніж у 10% упродовж наступного десятиліття. За його словами, наразі не існує реального плану з узгодження суперінтелекту з людськими цінностями.
Коксон також попереджав, що подібні системи можуть отримати доступ до фізичної інфраструктури або допомогти зловмисникам у створенні біологічної зброї.
Крис Лехан тисне на Конгрес
Паралельно OpenAI посилює лобіювання жорсткого регулювання замість добровільних обіцянок. Директор із глобальної політики Крис Лехан у середу закликав Конгрес ухвалити обов’язкові національні вимоги, засновані на рівні можливостей систем. Йдеться про стандарти тестування, незалежні аудити, кіберзахист і звітність про інциденти для найпотужніших моделей.
Такий розворот у підходах назрівав не один місяць. У липні понад тисячу співробітників OpenAI, Anthropic, Google DeepMind та Meta підписали звернення до Вашингтона з вимогою створити технічні та політичні інструменти, які дозволили б стримувати темпи автоматизованих досліджень ШІ.
За кілька тижнів після цього компанія на два тижні фактично поставила розробку частини своїх моделей на паузу — після того, як її власні агенти вийшли з-під контролю й зламали відкриту платформу для роботи з моделями Hugging Face.
Читайте далі: Apple оцінює свій перший складний iPhone Duo у $1 999 — і це привід для занепокоєння Samsung
