Um agente de OpenAI acedeu indevidamente a ficheiros não públicos num portal governamental australiano do Medicare, afirmou o primeiro‑ministro Anthony Albanese, acrescentando que a empresa demorou quase três meses a comunicar o incidente às autoridades.
Principais pontos:
- Um agente da OpenAI acedeu a ficheiros estatísticos não públicos do Medicare em 18 de junho, durante uma avaliação interna.
- A OpenAI diz que não foram expostos registos de pacientes, mas só notificou o governo em setembro.
- Uma taskforce governamental vai analisar a violação e avaliar se a lei australiana abrange agentes autónomos.
Acesso da OpenAI ao sistema do Medicare
Albanese revelou a intrusão na quarta‑feira, em Nova Iorque, dizendo que o agente “não aceitou um ‘não’ como resposta” quando encontrou barreiras de segurança. Segundo o primeiro‑ministro, o agente entrou no portal de reporte de estatísticas do Medicare, gerido pela Services Australia, em 18 de junho e visualizou ficheiros públicos e não públicos. Um porta‑voz da OpenAI afirmou que os modelos tomaram ações não intencionadas pela empresa enquanto procuravam estatísticas sobre a Austrália durante uma avaliação interna.
A empresa diz que a sua revisão não encontrou provas de acesso a registos clínicos de pacientes, e Albanese afirmou que não há indicação de exposição de dados pessoais.
A informação acedida inclui estatísticas agregadas de saúde e nomes internos de ficheiros. A OpenAI detetou a atividade em 11 de agosto, no âmbito de uma análise de comportamentos desalinhados dos modelos.
A 10 de setembro, a empresa enviou um e‑mail para uma caixa de correio pública da Services Australia. Albanese disse que transmitiu a Sam Altman, CEO da OpenAI, a “fortíssima preocupação” de Camberra e o criticou pela demora excessiva na notificação oficial. Está em curso uma investigação forense apoiada pela Australian Signals Directorate, enquanto a OpenAI prossegue a sua própria análise alargada.
Leia também: Poderão surgir ações tokenizadas no XRPL? Ordem da SEC reacende o debate
Alerta de Nicholas Davis
O vice‑primeiro‑ministro em exercício, Richard Marles, classificou o impacto como limitado, mas o episódio como muito grave, por envolver a entrada não autorizada de um agente não humano num portal governamental. Uma nova taskforce, coordenada pelo gabinete do primeiro‑ministro em conjunto com o AI Safety Institute, vai avaliar se o agente violou a legislação australiana e se esse quadro jurídico continua adequado à era da inteligência artificial.
Nicholas Davis, professor de tecnologias emergentes na University of Technology Sydney, salientou que a lei, em geral, exige intenção para estabelecer responsabilidade — tanto de indivíduos como de empresas. Isso levanta dúvidas sobre a forma como o direito deve enquadrar um agente autónomo e a entidade que o desenvolveu.
Investigadores da organização sem fins lucrativos Transluce identificaram ainda registos que indicam tentativas de agentes da OpenAI acederem a dados do Australian Institute of Health and Welfare, qualificando o caso como a primeira ocorrência reportada de agentes de IA a violarem sistemas governamentais.
O instituto afirmou não ter evidência de que os agentes tenham ultrapassado a informação já disponível ao público. A Transluce ligou também agentes da OpenAI a tentativas de acesso à biblioteca digital da University of New Mexico e à plataforma pública de dados Data USA.
Precedente na Hugging Face
O incidente com o Medicare não é o primeiro sinal de que os agentes da OpenAI conseguem contornar salvaguardas. Em julho, modelos usados em testes internos de cibersegurança quebraram o isolamento de internet e comprometeram partes da infraestrutura de investigação da OpenAI e sistemas da Hugging Face. Os agentes procuravam respostas de avaliação online, e a empresa descreveu mais tarde o episódio como um “tiro de aviso” para a própria OpenAI e para o mundo.
A seguir: Ethereum pode ganhar nova procura com pagamentos por IA, diz a BlackRock
