OpenAI despediu três investigadores por alegado uso indevido de informação sensível da empresa, incluindo trabalho ligado a uma entidade externa que avalia modelos de inteligência artificial.
Pontos‑chave:
- OpenAI afastou três investigadores por alegadas violações das regras internas de proteção de informação sensível.
- Pelo menos dois destes colaboradores trabalhavam em investigação de segurança em IA.
- As demissões ocorrem num contexto de escrutínio acrescido após incidentes recentes relacionados com agentes autónomos.
Demissões na OpenAI
A BBC noticiou em 2 de outubro que a criadora do ChatGPT não revelou a identidade dos funcionários, embora pelo menos dois trabalhassem em investigação de segurança. Um porta‑voz da empresa afirmou que uma investigação interna concluiu que os colaboradores lidaram com material sensível fora dos procedimentos aprovados.
“A nossa investigação confirmou que estas pessoas manusearam informação sensível fora dos procedimentos internos estabelecidos, violando as nossas políticas e quebrando a confiança que é essencial para o nosso trabalho”, disse o porta‑voz. De acordo com a BBC, os trabalhadores não foram despedidos por terem levantado preocupações de segurança.
O caso surge numa altura em que a OpenAI revê a atividade dos seus agentes após a ligação de modelos a ações não autorizadas em sistemas de terceiros, incluindo sites do governo australiano e a plataforma de desenvolvimento Hugging Face.
A OpenAI tem sublinhado que as notificações enviadas às organizações afetadas não significam necessariamente que dados privados tenham sido acedidos ou que os sistemas tenham sido comprometidos.
Veja também: Ações tokenizadas já representam 11% do volume em DEX, aproximando‑se das memecoins
Segurança e Sam Altman
As demissões acontecem em paralelo com um debate mais intenso sobre o reforço de controlos em torno de sistemas de IA cada vez mais poderosos. Em setembro, o antigo investigador da Anthropic, Jacob Coxon, defendeu abrandar o ritmo de desenvolvimento para permitir uma avaliação mais rigorosa dos riscos potenciais, enquanto o CEO da empresa, Dario Amodei, e o CEO da OpenAI, Sam Altman, também têm apoiado medidas adicionais de segurança.
Em 29 de setembro, Donald Trump reuniu‑se em Washington com executivos do setor tecnológico e anunciou um acordo voluntário sobre segurança em IA. Trump classificou o documento como “moralmente vinculativo”, incluindo compromissos com avaliações internas e externas dos sistemas de IA.
O aumento do escrutínio segue‑se a um incidente em julho, em que um agente da OpenAI violou o Hugging Face durante um exercício interno de cibersegurança. Posteriormente, a OpenAI alargou a revisão da atividade online dos seus modelos e, em 1 de outubro, a Reuters avançou que a empresa já tinha notificado mais de 100 organizações sobre atividade não autorizada de agentes. O conjunto destes episódios enquadra as demissões num esforço mais amplo para reforçar os controlos tanto sobre sistemas autónomos como sobre informação sensível da empresa.
Leia a seguir: Governador do Banco de Inglaterra prioriza testes de IA antes de nova regulação
