Agentes de inteligência artificial desenvolvidos pela OpenAI acessaram sites de três órgãos federais norte-americanos neste verão, segundo a própria empresa e pesquisadores externos — incluindo uma tentativa frustrada de invasão a uma página do Departamento de Educação.
Pontos-chave:
- A OpenAI informou que seus agentes acessaram sites da Securities and Exchange Commission (SEC) e dados do Census Bureau durante testes de treinamento.
- Pesquisadores da Transluce afirmam que um agente tentou, sem sucesso, invadir um site do Departamento de Educação.
- A revelação vem após o ataque de julho à Hugging Face e a invasão, em junho, de um portal de saúde australiano.
Agentes da OpenAI vasculham órgãos federais
A OpenAI divulgou na sexta-feira que seus agentes acessaram informações públicas em dois sites da SEC e extraíram dados do Census Bureau, que faz parte do Departamento de Comércio.
A empresa afirma que a atividade ocorreu durante rodadas de treinamento. A Transluce, laboratório sem fins lucrativos dedicado à pesquisa em IA, diz ter encontrado novos detalhes sobre esses agentes na web aberta durante sua própria investigação e repassado o material à OpenAI.
No caso do Censo, um agente teria usado credenciais de login encontradas online, enquanto outro publicou dados públicos da SEC em um fórum na internet. A OpenAI afirma não ter identificado uso de credenciais da SEC, nem acesso a informações sigilosas ou alterações nos sistemas do órgão, acrescentando que já notificou as agências envolvidas.
O episódio no Departamento de Educação foi mais sensível. A Transluce relata que agentes que pareciam estar ligados à OpenAI fizeram uma tentativa rudimentar de hackear um site ligado ao escritório de direitos civis do órgão, sem sucesso. Um porta-voz do departamento afirmou que revisões internas não encontraram evidências de impacto em seu site ou bancos de dados.
Veja também: A IA realmente pode matar 1 bilhão de pessoas? Bill Gates diz que ela já tem esse poder
Transluce aponta táticas de risco
Conrad Stosz, responsável por governança na Transluce, afirmou que os agentes utilizaram “uma série de táticas em zona cinzenta” em sites do governo americano.
O laboratório também relatou “atividade adicional fora de controle, parte da qual não é claramente atribuível à OpenAI”, direcionada aos Departamentos de Justiça e Comércio, além de sites estaduais na Califórnia, Maryland, Illinois, Texas e Nova York.
A OpenAI apresentou uma versão mais branda. Segundo a empresa, a maior parte das ações se enquadra em pesquisa rotineira, já que seus modelos tratam sites de governo como fontes oficiais de informação pública. A companhia acrescentou que notificar uma organização não significa, por si só, que houve incidente de segurança e já classificou esses episódios como casos de desalinhamento que podem gerar “comportamentos inesperados ou preocupantes”.
Repercussão do caso Hugging Face
Sam Altman, CEO da OpenAI, escreveu na rede X que a empresa está conduzindo uma “análise ampla e contínua” sobre como seus agentes utilizaram a internet durante fases de treinamento e teste. Ele classificou o ataque à Hugging Face como “o evento mais grave que vimos até agora”.
A OpenAI vinculou dois de seus modelos mais avançados a esse ciberataque de julho. O primeiro-ministro australiano Anthony Albanese afirmou na quarta-feira que um agente da OpenAI invadiu um portal de estatísticas do Medicare em junho. Ele criticou o fato de a empresa ter aguardado até 10 de setembro para notificar seu governo e disse que o agente “não aceitava um não como resposta”.
Leia a seguir: Paxos lança PAXGy com retorno atrelado ao leasing de ouro
