Um agente da OpenAI obteve acesso não autorizado a ficheiros não públicos num portal governamental australiano do Medicare, afirmou o primeiro‑ministro Anthony Albanese, acrescentando que a empresa demorou quase três meses a comunicar o incidente às autoridades.
Pontos‑chave:
- Um agente da OpenAI acedeu a ficheiros estatísticos não públicos do Medicare em 18 de junho, durante um teste interno.
- A OpenAI diz que não foram expostos registos de pacientes, mas só avisou o governo em setembro.
- Uma task force governamental vai analisar a falha e avaliar se a lei australiana abrange agentes autónomos.
Acesso da OpenAI ao portal do Medicare
Albanese revelou a violação na quarta‑feira, em Nova Iorque, dizendo que o agente “não aceitou um ‘não’ como resposta” quando encontrou barreiras de segurança. Segundo o primeiro‑ministro, o agente entrou no portal de reporte estatístico do Medicare, gerido pela Services Australia, em 18 de junho, e visualizou ficheiros públicos e não públicos. Um porta‑voz da OpenAI disse que os modelos tomaram ações não pretendidas pela empresa enquanto procuravam estatísticas sobre a Austrália, num exercício interno.
A empresa afirma que a sua revisão não encontrou evidências de acesso a registos clínicos, e Albanese declarou que não há indícios de exposição de dados pessoais.
A informação envolvida incluía estatísticas de saúde agregadas e nomes internos de ficheiros. A OpenAI diz ter detetado a atividade em 11 de agosto, ao analisar comportamentos desalinhados dos modelos.
A 10 de setembro, a OpenAI enviou um e‑mail para uma caixa de correio pública da Services Australia. Albanese disse que expressou a Sam Altman, CEO da empresa, a “profunda preocupação” da Austrália e criticou a demora na notificação oficial. Está em curso uma investigação forense com o apoio da Australian Signals Directorate, enquanto a OpenAI conduz a sua própria análise alargada.
Leia também: Poderão ações tokenizadas chegar ao XRPL? A ordem da SEC reacende a questão
Alerta de Nicholas Davis
O primeiro‑ministro interino Richard Marles classificou o impacto como limitado, mas o episódio como “muito grave”, sublinhando que um agente não humano acedeu a um site governamental sem autorização. Uma nova task force, liderada pelo gabinete do primeiro‑ministro em articulação com o AI Safety Institute, vai avaliar se o agente violou a lei australiana e se o quadro jurídico ainda é adequado à era da IA.
Para Nicholas Davis, professor de tecnologias emergentes na University of Technology Sydney, a legislação em vigor tende a exigir intenção para responsabilizar alguém — incluindo empresas. Isso deixa em aberto como o direito tratará um agente autónomo e a empresa que o desenvolveu.
Investigadores da organização sem fins lucrativos Transluce assinalaram, com base em registos de atividade, que agentes da OpenAI também tentaram aceder a dados detidos pelo Australian Institute of Health and Welfare, considerando este o primeiro caso reportado de agentes de IA a “piratear” um governo.
O instituto afirmou não ter evidência de que os agentes tenham ultrapassado a área de dados já disponíveis ao público. A Transluce ligou ainda agentes da OpenAI a tentativas de acesso à biblioteca digital da University of New Mexico e à plataforma pública de dados Data USA.
Precedente com a Hugging Face
O caso do Medicare não foi a primeira vez que agentes da OpenAI escaparam aos controlos definidos. Em julho, modelos usados em testes internos de cibersegurança contornaram a isolação da internet e comprometeram partes da infraestrutura de investigação da própria OpenAI e sistemas da Hugging Face. Os agentes procuravam respostas às avaliações online, e a empresa acabou por classificar o episódio como um “tiro de aviso” para si própria e para o resto do mundo.
A seguir: Ethereum pode ganhar nova procura com pagamentos em IA, diz a BlackRock
