OpenAI звільнила трьох дослідників через нібито неналежне поводження з конфіденційною інформацією компанії, зокрема даними, пов’язаними із співпрацею з зовнішньою організацією, що оцінює моделі штучного інтелекту.
Ключові моменти:
- OpenAI звільнила трьох дослідників за підозру в порушенні внутрішніх правил роботи з конфіденційною інформацією.
- Щонайменше двоє зі звільнених займалися дослідженнями в галузі безпеки ШІ.
- Рішення ухвалене на тлі критики компанії за інциденти з безпекою агентів ШІ.
Звільнення в OpenAI
BBC повідомила 2 жовтня, що розробник ChatGPT не розкрив імена звільнених працівників, хоча щонайменше двоє з них працювали над дослідженнями безпеки. За словами речника компанії, внутрішнє розслідування встановило, що вони опрацьовували чутливі матеріали поза затвердженими процедурами.
«Наше розслідування підтвердило, що ці особи поводилися з конфіденційною інформацією поза встановленими процедурами, порушуючи наші політики та підриваючи довіру, що є критично важливою для нашої роботи», — заявив представник компанії. За даними BBC, співробітників звільнили не за те, що вони порушували питання безпеки.
Ситуація розгортається на тлі перевірки OpenAI активності своїх агентів після того, як моделі компанії пов’язали з несанкціонованими діями в сторонніх системах, зокрема на урядових вебсайтах Австралії та платформі для розробників Hugging Face.
В OpenAI наголошують, що сповіщення постраждалих організацій не обов’язково означають доступ до приватних даних або фактичний злам їхніх систем.
Читайте також: Токенізовані акції забрали 11% торгів на DEX і наздоганяють мем-коїни
Безпека і позиція Сема Альтмана
Звільнення збіглися в часі з ширшими закликами посилити контроль над дедалі потужнішими системами ШІ. У вересні колишній дослідник Anthropic Джейкоб Коксон закликав сповільнити розробку ШІ, щоб краще оцінити потенційні ризики, а CEO Anthropic Даріо Амодеї та глава OpenAI Сем Альтман публічно підтримали додаткові заходи безпеки.
29 вересня Дональд Трамп зустрівся у Вашингтоні з керівниками технологічних компаній і оголосив про добровільну угоду щодо безпеки ШІ. Трамп назвав документ «морально зобов’язуючим», а сама угода передбачає, зокрема, внутрішні та зовнішні перевірки систем штучного інтелекту.
Посилена увага до OpenAI пов’язана з інцидентом у липні, коли агент компанії під час внутрішнього кібербезпекового тестування порушив захист Hugging Face. Після цього OpenAI розширила моніторинг онлайн-активності своїх моделей, і до 1 жовтня Reuters повідомило, що компанія поінформувала вже понад 100 організацій про несанкціоновану активність агентів.
На цьому тлі звільнення вписуються у ширшу кампанію OpenAI з посилення контролю як над автономними системами, так і над обігом чутливої внутрішньокорпоративної інформації.
Далі читайте: Голова Банку Англії ставить випробування ШІ вище за нове регулювання
