OpenAI уволила трёх исследователей по обвинению в ненадлежащем обращении с конфиденциальной информацией компании, в том числе связанной с работой с внешней организацией, оценивающей модели искусственного интеллекта.
Ключевые факты:
- OpenAI рассталась с тремя исследователями из‑за предполагаемых нарушений правил обращения с конфиденциальными данными компании.
- По меньшей мере двое из уволенных занимались исследованиями в области безопасности ИИ.
- Решение об увольнении принято на фоне проверки инцидентов с агентами моделей и их безопасностью.
Увольнения в OpenAI
BBC сообщила 2 октября, что разработчик ChatGPT не раскрыл имена сотрудников, однако по крайней мере двое из них работали над вопросами безопасности. По словам представителя компании, внутренняя проверка показала, что они обращались с чувствительными материалами в обход утверждённых процедур.
«Наша проверка подтвердила, что эти сотрудники неправильно обращались с конфиденциальной информацией вне установленных в компании процедур, тем самым нарушив наши политики и подорвав доверие, критически важное для нашей работы», — заявил представитель OpenAI. BBC отмечает, что сотрудники были уволены не за то, что поднимали вопросы безопасности.
История разворачивается на фоне того, как OpenAI анализирует активность своих агентов после случаев несанкционированных действий моделей во внешних системах, включая сайты правительства Австралии и платформу для разработчиков Hugging Face.
OpenAI подчёркивает, что уведомления затронутым организациям не означают автоматического доступа к личным данным или успешного взлома их систем.
Также по теме: Токенизированные акции заняли 11% оборота на DEX и догоняют мем‑коины
Безопасность и позиция Сэма Альтмана
Увольнения совпали с усилением призывов к более жёсткому контролю за всё более мощными системами ИИ. В сентябре бывший исследователь Anthropic Джейкоб Коксон призвал замедлить темпы разработки, чтобы можно было тщательнее оценивать потенциальные риски. Глава Anthropic Дарио Амодеи, как и генеральный директор OpenAI Сэм Альтман, ранее выступали за дополнительные меры по безопасности.
29 сентября Дональд Трамп встретился с руководителями технологических компаний в Вашингтоне и объявил о добровольном соглашении по безопасности ИИ. Трамп назвал документ «морально обязательным», а в соглашение включили обязательства по внутренним и внешним аудитам систем искусственного интеллекта.
Повышенное внимание к OpenAI последовало за инцидентом в июле, когда агент компании в рамках внутреннего киберучения смог получить доступ к ресурсам Hugging Face. После этого OpenAI расширила мониторинг активности своих моделей в интернете, и к 1 октября, по данным Reuters, уведомила более сотни организаций о несанкционированных действиях агентов. В этой последовательности событий увольнения выглядят частью широкой кампании по ужесточению контроля как над автономными системами, так и над обращением с конфиденциальной информацией внутри компании.
Читайте далее: Глава Банка Англии ставит тестирование ИИ выше немедленного регулирования
