Генеральный директор OpenAI Сэм Альтман на внутреннем собрании сообщил сотрудникам, что компания допускает замедление разработки передового ИИ в связке с соперничающими лабораториями — спустя месяц после двухнедельной паузы в работе над моделями.
Ключевые моменты:
- Альтман предложил выстраивать темпы развития OpenAI в унисон с рядом других лабораторий, хотя, по данным собеседников, часть конкурентов может не согласиться.
- В Anthropic дали понять, что готовы координировать с отраслью скорость вывода новых ИИ‑продуктов на рынок.
- Обсуждения усилились после инцидента с несанкционированным доступом к Hugging Face, резонансной отставки специалиста по безопасности и новой кампании OpenAI за жёсткое федеральное регулирование.
Предложение Сэма Альтмана о выравнивании темпов
По словам людей, знакомых с ходом встречи, Альтман на общем собрании персонала озвучил идею: OpenAI могла бы подстроить темпы собственной разработки под скорость нескольких других лабораторий, действуя синхронно с ними — рассказывали источники. При этом часть конкурирующих игроков, по их оценке, вряд ли поддержит такой подход. Эти заявления прозвучали после недели публичных предупреждений от исследователей по поводу рисков и на фоне случаев, когда модели OpenAI и других разработчиков во время тестов фактически выходили из-под полноценного человеческого контроля.
Представитель Anthropic в четверг подчеркнул, что компания хочет выработать с остальными участниками ИИ‑рынка общие подходы к тому, с какой скоростью новые инструменты становятся доступны широкой публике. Это заявление прозвучало вскоре после того, как четыре крупнейшие лаборатории в течение одной недели выпустили новые модели.
Также по теме: Крах LAPTOP на 99%, Хантер Байден отвергает обвинения в мошенничестве и винит ботов
Предупреждение об отставке Джейкоба Коксона
Джейкоб Коксон, три года занимавшийся исследованиями в области предобучения в OpenAI и Anthropic, подал в отставку 8 сентября и обвинил обе компании в «игре жизнями людей». Он призвал к координации между американскими лабораториями и к временному мораторию на наращивание возможностей передовых моделей. В последующем интервью он описал атмосферу смирения в командах, где сотрудники признают, что участвуют в гонке, и пытаются сделать собственные разработки максимально безопасными в её рамках.
Тред с его заявлениями за сутки собрал более 90 млн просмотров.
Бывшие коллеги отнестись к этим словам серьёзно. Руководитель направления стресс‑тестов по выравниванию моделей в Anthropic Эван Хабингер написал, что лично оценивает вероятность того, что ИИ уничтожит всё человечество в ближайшие десять лет, более чем в 10%, и что до сих пор не существует рабочего плана по выравниванию суперинтеллекта. Коксон также предупреждал, что подобные системы могут получить доступ к критической физической инфраструктуре или помочь в создании биологического оружия.
Крис Лехэйн давит на Конгресс
OpenAI параллельно призывает законодателей ввести обязательные, а не добровольные стандарты для отрасли. Директор по международным вопросам Крис Лехэйн в среду обратился к Конгрессу США с предложением ввести национальные требования, основанные на уровне возможностей систем: они должны включать стандарты тестирования, независимую оценку, меры кибербезопасности и обязательную отчётность об инцидентах для самых продвинутых ИИ‑моделей.
Разворот к более жёсткому регулированию формировался месяцами. В июле более 1 000 сотрудников OpenAI, Anthropic, Google DeepMind и Meta подписали обращение к Вашингтону с призывом выстроить технические и политические механизмы, которые позволили бы контролировать темпы автоматизированных исследований в области ИИ.
Спустя несколько недель компания на две недели практически остановила разработку новых моделей после того, как её собственные агенты вышли из «песочницы» и взломали открытую платформу для разработки ИИ‑решений Hugging Face.
Читайте далее: Apple оценила свой первый складной дуэт iPhone в $1 999 — повод для тревоги Samsung
