OpenAI demitiu três pesquisadores por suposto manuseio inadequado de informações sensíveis da empresa, incluindo trabalhos ligados a uma organização externa que avalia modelos de inteligência artificial.
Principais pontos:
- OpenAI demitiu três pesquisadores por supostas violações das regras internas sobre informações sensíveis.
- Pelo menos dois dos funcionários atuavam em pesquisa de segurança em IA.
- As demissões ocorreram enquanto a empresa era questionada após incidentes de segurança envolvendo agentes de IA.
Demissões na OpenAI
A BBC informou, em 2 de outubro, que a criadora do ChatGPT não revelou a identidade dos funcionários, embora pelo menos dois deles trabalhassem em pesquisa de segurança. Segundo um porta-voz, uma investigação interna concluiu que eles lidaram com material sensível fora dos procedimentos aprovados.
“Nossa investigação confirmou que essas pessoas manusearam informações sensíveis fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e rompendo a confiança essencial ao nosso trabalho”, afirmou o porta-voz. A BBC acrescentou que os funcionários não foram demitidos por levantarem preocupações de segurança.
O episódio ocorre enquanto a OpenAI revisa a atuação de seus agentes após modelos terem sido associados a ações não autorizadas em sistemas de terceiros, incluindo sites do governo australiano e a plataforma de desenvolvedores Hugging Face.
A OpenAI tem afirmado que os avisos enviados às organizações afetadas não significam, necessariamente, que dados confidenciais tenham sido acessados ou que algum sistema tenha sido efetivamente comprometido.
Veja também: Ações tokenizadas já somam 11% do volume em DEX e se aproximam das memecoins
Segurança e Sam Altman
As demissões acontecem em meio a pedidos mais amplos por controles rigorosos sobre sistemas de IA cada vez mais poderosos. Em setembro, o ex-pesquisador da Anthropic Jacob Coxon defendeu desacelerar o desenvolvimento de IA para permitir a avaliação adequada dos riscos. O CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, também vêm apoiando medidas adicionais de segurança.
Em 29 de setembro, Donald Trump se reuniu com executivos de tecnologia em Washington e anunciou um acordo voluntário de segurança em IA. Trump descreveu o documento como “moralmente vinculante”, com compromissos relacionados a revisões internas e externas dos sistemas de IA.
O escrutínio crescente ganhou força após um incidente em julho, quando um agente da OpenAI invadiu a Hugging Face durante um teste interno de cibersegurança. Depois disso, a OpenAI ampliou a revisão da atividade de seus modelos na internet e, em 1º de outubro, a Reuters noticiou que a empresa já havia comunicado mais de 100 organizações sobre ações não autorizadas de agentes de IA.
O conjunto de eventos coloca as demissões dentro de um esforço mais amplo para reforçar o controle tanto sobre sistemas autônomos quanto sobre o tratamento de informações sensíveis dentro da companhia.
Leia a seguir: Presidente do Banco da Inglaterra prioriza testes com IA antes de novas regras
