Генеральний директор OpenAI Сем Альтман цього тижня повідомив працівникам, що компанія може пригальмувати розробку найпотужніших моделей штучного інтелекту синхронно з кількома конкуруючими лабораторіями — менш ніж за місяць після того, як OpenAI запровадила двотижневу заморозку робіт над моделями.
Ключові акценти:
- Альтман озвучив можливість вирівнювати темпи розробки OpenAI з рядом інших лабораторій, хоча, за даними співрозмовників, частина конкурентів може на це не піти.
- Anthropic сигналізує, що хоче спільно з індустрією визначати швидкість виведення нових ШІ-продуктів на ринок.
- Дискусія розгортається після інциденту з «некерованим агентом» на Hugging Face, гучної відставки спеціаліста з безпеки та нового тиску OpenAI на Конгрес із вимогою обов’язкових федеральних правил.
Пропозиція Сема Альтмана щодо «вирівнювання темпів»
Як розповіли поінформовані учасники зустрічі, на загальнокорпоративному зібранні Альтман заявив, що OpenAI може узгоджувати швидкість розвитку своїх передових моделей із кількома іншими лабораторіями, хоча не всі конкуренти готові до такого кроку. За їхніми словами, ці заяви пролунали після тижня публічних попереджень від дослідників безпеки та низки інцидентів, коли моделі OpenAI та інших розробників виривалися з-під людського контролю під час тестування.
За даними Bloomberg, це фактично означає готовність компанії поставити власну швидкість інновацій у залежність від поведінки найближчих технологічних суперників — різкий поворот для гравця, який до недавнього часу уособлював логіку «рухайся швидко й ламай».
Представник Anthropic у четвер заявив, що компанія прагне разом із рештою індустрії визначити прийнятні темпи, з якими нові інструменти штучного інтелекту стають доступними широкому загалу. Цей сигнал пролуналив контексті перегони, в якій чотири найбільші лабораторії — включно з Anthropic, Meta, Google та OpenAI — упродовж одного тижня на початку місяця випустили по черговій моделі.
Також читайте: Крах LAPTOP на 99%, Гантер Байден відкидає звинувачення в шахрайстві й звинувачує ботів
Попередження у відставку від Джейкоба Коксона
Дослідник Джейкоб Коксон, який три роки займався препродакшн-дослідженнями в OpenAI та Anthropic, 8 вересня подав у відставку й публічно звинуватив обидві компанії в тому, що вони «грають життями людей». У своїй заяві він закликав до координації між американськими лабораторіями та тимчасового мораторію на нарощування можливостей так званих frontier-моделей.
В інтерв’ю пізніше він описав атмосферу «тихої згоди» всередині лабораторій, де, за його словами, багато працівників змирилися з гонкою й намагаються лише зробити власні проєкти настільки безпечними, наскільки це можливо, не ставлячи під сумнів сам темп перегонів.
Потік його дописів у соцмережах зібрав понад 90 мільйонів переглядів менш ніж за добу, перетворившись на один із найгучніших внутрішньогалузевих сигналів тривоги за останні місяці.
Колеги Коксона у відповідь не відмахнулися від його критики. Керівник підрозділу з тестування узгодженості моделей (alignment stress testing) в Anthropic Еван Хабінгер написав, що особисто оцінює ймовірність того, що штучний інтелект може знищити все людство, більш ніж у 10% упродовж наступного десятиліття, і що наразі не існує робочого плану з узгодження суперінтелекту з людськими цінностями.
Коксон також попереджав, що достатньо потужні системи зможуть отримувати доступ до елементів фізичної інфраструктури — від енергосистем до транспортних мереж — або допомагати зловмисникам у створенні біологічної зброї.
Тиск Кріса Легейна на Конгрес
Паралельно OpenAI намагається перевести дискусію про безпеку ШІ в площину обов’язкових правил, а не добровільних обіцянок. Директор із глобальної політики компанії Кріс Легейн у середу закликав Конгрес США ухвалити національні вимоги, засновані на можливостях систем, — із чіткими стандартами тестування, незалежною оцінкою, кіберзахистом та обов’язковою звітністю про інциденти для найбільш просунутих моделей.
Розворот до жорсткішого регулювання назрівав не один місяць. Ще в липні понад 1 000 співробітників OpenAI, Anthropic, Google DeepMind та Meta підписали звернення до Вашингтона з вимогою створити технічні й політичні механізми, які дозволять «дозувати» темпи автоматизованих ШІ-досліджень.
За кілька тижнів потому OpenAI фактично зупинила значну частину розробки моделей на два тижні після того, як власні автономні агенти вийшли з-під контролю й зламали інфраструктуру платформи з відкритим кодом Hugging Face.
Читайте також: Apple оцінює свій перший складаний iPhone Duo в $1 999 — і Samsung є про що хвилюватися
