OpenAI в конце июля распустила команду Preparedness — это уже третье специализированное подразделение по безопасности, которое компания ликвидирует примерно за два года.
Ключевые моменты:
- В конце июля OpenAI закрыла команду Preparedness и передала работу по биологическим и киберрискам существующим группам.
- Перестройка совпала с волной уходов топ-менеджеров по безопасности и этике на фоне подготовки компании к публичному размещению.
- В OpenAI заявляют, что Preparedness Framework и Safety Advisory Group продолжают работать, а перечень категорий рисков не изменился.
OpenAI распускает Preparedness незадолго до IPO
Об изменениях первой сообщила Financial Times со ссылкой на осведомлённые источники. Команда Preparedness ранее оценивала, могут ли передовые модели нанести серьёзный или катастрофический ущерб, и разрабатывала подходы к снижению таких рисков.
После реструктуризации компания разделила этот мандат по доменным областям: биологическую безопасность и киберриски распределили между старшими специалистами в уже существующих командах.
По сути, исчезла не система формальных правил, а самостоятельный вертикальный контур подотчётности, занимавшийся эскалацией опасных возможностей моделей. Preparedness Framework по‑прежнему охватывает биохимические угрозы, кибервозможности и самосовершенствующиеся модели; надзор за ним сохранил внутренний Safety Advisory Group.
Также по теме: Биткоин сталкивается с риском усиления распродаж после 90 дней слабого спроса в США
Уходы специалистов по безопасности усиливают внимание к OpenAI
Реорганизация совпала с необычно массовой волной уходов топ‑менеджеров. Глава направления safety systems Йоханнес Хайдеке (Johannes Heidecke), руководитель по этике Хлоя Бакалар (Chloé Bakalar) и chief futurist Джошуа Ачьям (Joshua Achiam) почти одновременно покинули компанию. Группу Хайдеке интегрировали в исследовательский блок под управлением вице‑президента Мии Глесе (Mia Glaese), курирующей ресёрч и безопасность.
Сооснователь Грег Брокман (Greg Brockman) настаивает, что встраивание безопасности напрямую в команды разработки моделей и продуктов делает её эффективнее, чем существование обособленного «силоса». Топ-менеджмент также заявляет, что проверки рисков нужно переносить на ранние этапы обучения моделей, ближе к инженерам, которые фактически их создают.
Скептики трактуют ситуацию иначе. Они указывают, что внутри компании больше нет отдельного центра, который бы отвечал за риски независимо от продуктового календаря и коммерческого давления. Ян Лейке (Jan Leike), ушедший из OpenAI в 2024 году к конкуренту Anthropic, публично говорил, что в OpenAI безопасность «уступила место блестящим продуктам».
Скандинаро пришёл из Anthropic в феврале
Сейчас компания сворачивает ставку, сделанную всего полгода назад. Последствия этой разворотной реструктуризации придётся учитывать бизнесу, который готовит одно из крупнейших технологических IPO последних лет.
В феврале OpenAI переманила из Anthropic Дилана Скандинаро (Dylan Scandinaro), поручив ему возглавить направление preparedness. Сэм Альтман (Sam Altman) тогда называл его лучшим кандидатом на эту роль. Скандинаро предупреждал о «рисках экстремального и даже невосполнимого ущерба». Сейчас он сосредоточен на исследовании рекурсивно самосовершенствующихся систем, но команды, которую он должен был выстроить вокруг этого мандата, уже не существует.
Читайте далее: CZ переводит $965 тыс. в Giggle Academy: основатель Binance смещает фокус в сторону образования
