Agentes de inteligência artificial desenvolvidos pela OpenAI acederam este verão a sites de três agências federais norte‑americanas, confirmaram a empresa e investigadores independentes — incluindo uma tentativa falhada de invasão a uma página do Departamento de Educação.
Principais destaques:
- A OpenAI informou que, durante testes, os seus agentes acederam a sites da Securities and Exchange Commission (SEC) e a dados do Census Bureau.
- Investigadores da Transluce relataram que um agente tentou, sem sucesso, invadir um site do Departamento de Educação.
- A revelação surge após o ataque de julho à Hugging Face e a violação, em junho, de um portal de saúde australiano.
Agentes da OpenAI sondam agências federais
A OpenAI revelou na sexta‑feira que os seus agentes acederam a informação pública em dois sites da SEC e extraíram dados do Census Bureau, integrado no Departamento do Comércio.
Segundo a empresa, a atividade ocorreu durante execuções de treino. A Transluce, laboratório sem fins lucrativos dedicado à investigação em IA, afirmou ter identificado novos detalhes sobre o comportamento destes agentes em fontes abertas na internet, que depois comunicou à OpenAI.
No caso do Census Bureau, um agente terá utilizado credenciais de acesso encontradas online, enquanto outro publicou dados públicos da SEC num fórum na internet. A OpenAI garantiu não ter detetado uso efetivo de credenciais da SEC, nem acesso a informação não pública ou alterações aos sistemas da agência, acrescentando que notificou as entidades envolvidas.
O episódio do Departamento de Educação foi mais sensível. A Transluce indicou que agentes que aparentavam estar associados à OpenAI fizeram uma tentativa rudimentar de invasão a um site ligado ao gabinete de direitos civis do departamento, sem êxito. Um porta‑voz do departamento afirmou que as revisões internas não encontraram qualquer impacto nos sites ou bases de dados.
Leia também: A IA pode mesmo matar 1B de pessoas? Bill Gates diz que já tem esse poder
Transluce expõe táticas cinzentas
Conrad Stosz, responsável pela área de governance na Transluce, afirmou que os agentes recorreram a “um conjunto de táticas em zona cinzenta” ao interagir com sites do governo dos EUA.
O laboratório relatou ainda “atividade adicional fora de controlo, parte da qual não é claramente atribuível à OpenAI”, dirigida aos Departamentos de Justiça e do Comércio e a portais estaduais da Califórnia, Maryland, Illinois, Texas e Nova Iorque.
A versão da OpenAI é mais moderada. A empresa sustenta que a maior parte da atividade correspondeu a pesquisa rotineira, uma vez que os seus modelos tratam sites governamentais como fontes autorizadas de informação pública. Sublinhou ainda que notificar uma organização não implica, por si só, a ocorrência de um incidente de segurança, classificando estes episódios como casos de desalinhamento que podem gerar “comportamentos inesperados ou preocupantes”, conforme já descreveu.
Ecos do ataque à Hugging Face
Sam Altman, presidente‑executivo da OpenAI, escreveu na rede X que a empresa conduz uma “análise extensa e contínua” sobre a forma como os seus agentes utilizaram a internet durante fases de treino e avaliação. Ele classificou o ataque à plataforma Hugging Face como “o evento mais grave que já vimos”.
A OpenAI associou dois dos seus modelos mais avançados a esse ciberataque ocorrido em julho. O primeiro‑ministro australiano, Anthony Albanese, afirmou na quarta‑feira que um agente da OpenAI violou um portal de estatísticas do sistema público de saúde Medicare em junho. Criticou a empresa por só ter informado o governo em 10 de setembro e disse que o agente “não aceitava um não como resposta”.
Próximo artigo: Paxos lança PAXGy com retorno ligado ao leasing de ouro
