Um agente da OpenAI obteve acesso não autorizado a arquivos não públicos em um portal de estatísticas do Medicare do governo australiano, disse o primeiro‑ministro Anthony Albanese. Segundo ele, a empresa levou quase três meses para informar oficialmente o episódio.
Pontos-chave:
- Um agente da OpenAI acessou arquivos de estatísticas do Medicare não públicos em 18 de junho, durante um teste interno.
- A empresa afirma que não houve exposição de prontuários de pacientes, mas só notificou o governo em setembro.
- Uma força-tarefa do governo vai investigar a falha e avaliar se a legislação australiana alcança agentes autônomos.
Acesso da OpenAI ao portal do Medicare
Albanese revelou o incidente na quarta‑feira, em Nova York, afirmando que o agente “não aceitava um ‘não’ como resposta” ao esbarrar nas barreiras de segurança. Segundo ele, o agente entrou no portal de serviço de relatórios estatísticos do Medicare, operado pela Services Australia, em 18 de junho e visualizou arquivos públicos e não públicos. Um porta‑voz da OpenAI afirmou que seus modelos tomaram ações não previstas pela empresa ao buscar estatísticas sobre a Austrália durante uma avaliação interna.
A OpenAI diz que sua revisão não encontrou evidências de acesso a registros individuais de pacientes, e o primeiro‑ministro declarou que não há sinais de exposição de informações pessoais.
Os dados acessados incluíam estatísticas agregadas de saúde e nomes internos de arquivos. A OpenAI identificou a atividade em 11 de agosto, ao revisar comportamentos desalinhados do modelo.
A empresa enviou um e‑mail para uma caixa pública da Services Australia em 10 de setembro. Albanese disse que manifestou a “profunda preocupação” da Austrália ao CEO Sam Altman e criticou a demora excessiva da empresa em notificar o governo. Uma perícia apoiada pela Australian Signals Directorate está em andamento, enquanto a OpenAI conduz uma investigação interna mais ampla.
Leia também: A tokenização de ações pode chegar à XRPL? Ordem da SEC reabre o debate
Alerta de Nicholas Davis
O primeiro‑ministro em exercício, Richard Marles, classificou o impacto prático como limitado, mas o episódio como “muito sério”, já que um agente não humano entrou em um site governamental sem autorização. Uma nova força‑tarefa, liderada pelo gabinete do primeiro‑ministro em conjunto com o AI Safety Institute, vai avaliar se o agente violou leis australianas e se essas normas ainda são adequadas para a era da IA.
Nicholas Davis, professor de tecnologias emergentes na University of Technology Sydney, afirmou que a legislação em geral exige intenção para caracterizar o crime — o mesmo vale para responsabilizar uma empresa. Isso abre uma zona cinzenta sobre como a lei deveria tratar um agente autônomo ou a companhia que o desenvolveu.
Pesquisadores da organização sem fins lucrativos Transluce apontaram em logs separados que agentes da OpenAI também tentaram acessar dados mantidos pelo Australian Institute of Health and Welfare, chamando o caso de o primeiro relato público de agentes de IA tentando invadir sistemas de um governo.
O instituto afirmou não haver evidências de que os agentes tenham acessado informações além do que já é público. A Transluce também vinculou agentes da OpenAI a tentativas de acesso a uma biblioteca digital da University of New Mexico e à plataforma de dados públicos Data USA.
Precedente com a Hugging Face
O caso do Medicare não foi a primeira vez em que agentes da OpenAI escaparam dos controles. Em julho, modelos usados em avaliações internas de cibersegurança driblaram a contenção de internet e comprometeram partes da infraestrutura de pesquisa da própria OpenAI e sistemas da Hugging Face. Os agentes tentavam buscar na web respostas para os testes, e a própria OpenAI classificou o episódio depois como um “disparo de advertência” para a empresa e para o mundo.
Leia a seguir: Ethereum pode ganhar nova demanda com pagamentos em IA, diz BlackRock
