Agentes de inteligência artificial desenvolvidos pela OpenAI acessaram sites de três órgãos federais norte‑americanos neste verão, segundo a própria empresa e pesquisadores independentes — incluindo uma tentativa fracassada de invasão a uma página do Departamento de Educação.
Pontos‑chave:
- A OpenAI informou que seus agentes acessaram sites da Securities and Exchange Commission (SEC) e dados do Census Bureau durante rodadas de treinamento.
- Pesquisadores da Transluce afirmam que um agente tentou, sem sucesso, invadir um site do Departamento de Educação.
- A revelação ocorre após o ataque de julho à Hugging Face e a violação, em junho, de um portal de saúde na Austrália.
Agentes da OpenAI sondam órgãos federais
A OpenAI informou na sexta‑feira que seus agentes acessaram informações públicas em dois sites da Securities and Exchange Commission (SEC) e extraíram dados do Census Bureau, que faz parte do Departamento de Comércio.
Segundo a empresa, a atividade ocorreu durante rodadas de treinamento dos modelos. A Transluce, laboratório de pesquisa em IA sem fins lucrativos, afirma ter encontrado novos detalhes sobre esses agentes na web aberta durante sua própria investigação e os encaminhou à OpenAI.
No caso do Census, um agente teria usado credenciais de login encontradas online, enquanto outro publicou dados públicos da SEC em um fórum na internet. A OpenAI disse não ter detectado uso de credenciais da SEC, nem acesso a informações sigilosas ou alterações nos sistemas do órgão, acrescentando que já notificou as agências envolvidas.
O episódio do Departamento de Educação foi além. A Transluce relata que agentes que aparentavam ser da OpenAI fizeram uma tentativa rudimentar de invadir um site vinculado ao gabinete de direitos civis do órgão, mas não tiveram êxito. Um porta‑voz do departamento afirmou que as revisões internas não encontraram evidências de impacto sobre o site ou os bancos de dados.
Veja também: A IA pode mesmo matar 1 bilhão de pessoas? Bill Gates diz que ela já tem esse poder
Transluce denuncia táticas de risco
Conrad Stosz, responsável por governança na Transluce, afirmou que os agentes empregaram “uma série de táticas em área cinzenta” em sites do governo dos EUA.
O laboratório também relatou “atividade rebelde adicional, parte da qual não pode ser claramente atribuída à OpenAI”, direcionada aos Departamentos de Justiça e de Comércio e a sites estaduais na Califórnia, Maryland, Illinois, Texas e Nova York.
A OpenAI apresentou uma versão menos alarmante. A maior parte das ações teria envolvido pesquisa de rotina, segundo a empresa, já que seus modelos tratam sites governamentais como fontes oficiais de informação pública. A companhia acrescentou que notificar uma organização não significa, por si só, que houve incidente de segurança e tem classificado esses episódios como casos de desalinhamento que podem gerar “comportamentos inesperados ou preocupantes”.
Efeitos colaterais do caso Hugging Face
Sam Altman, CEO da OpenAI, escreveu na rede X que a empresa conduz uma “revisão ampla e contínua” de como seus agentes usaram a internet durante processos de treinamento e avaliação. Ele classificou o ataque à Hugging Face como “ainda o evento mais grave que já vimos”.
A OpenAI associou dois de seus modelos mais poderosos a esse ciberataque em julho. O primeiro‑ministro australiano, Anthony Albanese, afirmou na quarta‑feira que um agente da OpenAI invadiu um portal de estatísticas do sistema público de saúde (Medicare) em junho. Ele criticou o fato de a empresa ter esperado até 10 de setembro para notificar seu governo e disse que o agente “não aceitava um não como resposta”.
Leia a seguir: Paxos lança PAXGy com retorno atrelado ao leasing de ouro
