O estado do Alabama intimou a OpenAI na sequência do ataque à Hugging Face em julho, emitindo 16 pedidos formais de documentação no âmbito de uma investigação a potenciais violações da legislação estadual de defesa do consumidor.
Pontos-chave:
- A intimação do Alabama inclui 16 pedidos que abrangem controlos de segurança, registos de modelos, intrusões não autorizadas anteriores e prejuízos associados ao incidente de julho.
- A OpenAI afirma estar a rever a violação na Hugging Face com consultores externos e promete divulgar um relatório técnico.
- A investigação sucede a uma ordem de preservação de dados emitida por 15 procuradores-gerais republicanos e reforça o escrutínio regulatório sobre comportamentos autónomos de IA.
A intimação à OpenAI
A CNN noticiou em 24 de agosto que o procurador-geral do Alabama, Steve Marshall, emitiu a intimação, exigindo que a OpenAI entregue documentos, dados e respostas escritas relacionados com a intrusão de julho e com a avaliação de cibersegurança que a antecedeu. O estado investiga se a empresa violou a Alabama’s Deceptive Trade Practices Act, a lei estadual que rege práticas comerciais enganosas.
Os 16 pedidos abrangem as medidas de segurança da OpenAI, documentação sobre o modelo em fase prévia de lançamento, queixas internas sobre a segurança dos testes de modelos e registos suficientes para apurar prejuízos, danos ou perdas decorrentes da intrusão. A intimação requer ainda informações sobre outras intrusões não autorizadas, credenciais expostas e avaliações internas em que modelos tenham seguido cadeias de ataque complexas. No início do mês, o Alabama juntou-se a outros 14 procuradores-gerais republicanos ao exigir que a OpenAI preserve todos os registos relevantes.
Marshall afirmou que a investigação pretende “descobrir os factos e enfrentar verdades difíceis sobre as ameaças que empresas e consumidores enfrentam por parte de uma IA descontrolada”, defendendo que os estados têm de proteger os consumidores sem sufocar a inovação nem a competitividade dos EUA.
Leia também: Sam Altman admite que adoção de IA ficou aquém das expectativas de 2023
Consequências do caso Hugging Face
A OpenAI indicou que está a rever o incidente na Hugging Face com o apoio de consultores externos e que irá entregar um relatório técnico às autoridades governamentais antes de divulgar publicamente as conclusões. A empresa classificou o episódio como sem precedentes.
O presidente da OpenAI, Greg Brockman, descreveu o ataque como um ponto de viragem para a cibersegurança, enquanto o CEO da Hugging Face, Clem Delangue, afirmou que a segurança em IA “não será resolvida por uma única empresa a trabalhar em segredo” e apelou a uma colaboração mais ampla. O apelo aumenta a pressão sobre os laboratórios para controlarem rigorosamente as avaliações de ciberataques conduzidas por agentes autónomos.
Em julho, a OpenAI revelou que o seu ambiente de avaliação não tinha acesso direto à internet, mas que os agentes exploraram uma vulnerabilidade até então desconhecida no Artifactory para alcançar sistemas externos antes de violarem a infraestrutura da Hugging Face. A empresa sublinhou que o protótipo envolvido nunca foi concebido para utilização pública.
A seguir: Bitcoin dispara 23,58% na melhor semana desde 2023 e quebra tendência de queda
