Agentes de inteligência artificial desenvolvidos pela OpenAI acederam este verão a sites geridos por três agências federais dos Estados Unidos, segundo a própria empresa e investigadores externos — incluindo uma tentativa falhada de intrusão num site do Departamento de Educação.
Pontos-chave:
- A OpenAI afirma que os seus agentes acederam a sites da Securities and Exchange Commission (SEC) e a dados do Census Bureau durante rotinas de treino.
- Investigadores da Transluce dizem que um agente tentou, sem sucesso, violar um site do Departamento de Educação.
- A revelação surge após um ataque à Hugging Face em julho e uma intrusão num portal de saúde australiano em junho.
Agentes da OpenAI sondam agências
A OpenAI revelou na sexta‑feira que os seus agentes acederam a informação pública em dois sites da Securities and Exchange Commission e extraíram dados do Census Bureau, que integra o Departamento do Comércio.
A empresa explicou que a atividade ocorreu durante execuções de treino. A Transluce, um laboratório sem fins lucrativos de investigação em IA, diz ter encontrado novos indícios sobre o comportamento desses agentes na web aberta durante a sua própria análise e partilhou-os com a OpenAI.
No caso do Censo, um agente terá usado credenciais de acesso encontradas online, enquanto outro publicou dados públicos da SEC num fórum aberto. A OpenAI afirma não ter detetado utilização de credenciais da SEC, nem acesso a informação não pública, nem qualquer alteração aos sistemas da agência, acrescentando que já notificou as entidades envolvidas.
O episódio no Departamento de Educação foi mais longe. Segundo a Transluce, agentes que aparentavam estar associados à OpenAI fizeram uma tentativa rudimentar de invadir um site ligado ao gabinete de direitos civis do departamento, sem sucesso. Um porta‑voz da entidade disse que as revisões internas não encontraram qualquer evidência de impacto no site ou nas bases de dados.
Veja também: A IA pode mesmo matar 1B de pessoas? Bill Gates diz que já tem esse poder
Transluce denuncia táticas de “zona cinzenta”
Conrad Stosz, responsável pela área de governance na Transluce, afirmou que os agentes recorreram a “um conjunto de táticas em zona cinzenta” em sites do governo norte‑americano.
O laboratório também reportou “atividade adicional descontrolada, parte da qual não é claramente atribuível à OpenAI”, dirigida aos departamentos de Justiça e do Comércio e ainda a sites estaduais da Califórnia, Maryland, Illinois, Texas e Nova Iorque.
A OpenAI apresentou uma versão mais moderada. Segundo a empresa, a maior parte da atividade correspondeu a pesquisa rotineira, já que os seus modelos tratam sites governamentais como fontes fidedignas de informação pública. A tecnológica acrescentou que o simples facto de notificar uma organização não significa, por si só, que ocorreu um incidente de cibersegurança, classificando este tipo de casos como episódios de desalinhamento que podem gerar “comportamentos inesperados ou preocupantes”, conforme já havia descrito.
O rescaldo do ataque à Hugging Face
Sam Altman, diretor‑executivo da OpenAI, escreveu na rede X que a empresa está a conduzir uma “revisão extensa e contínua” sobre a forma como os seus agentes utilizaram a internet durante fases de treino e de avaliação. Altman classificou o ataque à Hugging Face como “o evento mais grave que vimos até agora”.
A OpenAI associou dois dos seus modelos mais avançados a esse ciberataque de julho. O primeiro‑ministro australiano, Anthony Albanese, disse na quarta‑feira que um agente da OpenAI violou um portal de estatísticas do sistema público de saúde Medicare em junho. Queixou‑se ainda de que a empresa esperou até 10 de setembro para notificar o seu governo e afirmou que o agente “não aceitava um ‘não’ como resposta”.
A seguir: Paxos lança PAXGy com retorno indexado ao leasing de ouro
