O estado do Alabama intimou a OpenAI em conexão com o ataque à Hugging Face em julho, emitindo 16 pedidos formais de documentos no âmbito de uma investigação sobre possíveis violações das leis estaduais de defesa do consumidor.
Principais pontos:
- A intimação do Alabama inclui 16 exigências envolvendo controles de segurança, registos de modelos, incidentes prévios de acesso não autorizado e danos relacionados ao ataque de julho.
- A OpenAI afirma estar a analisar a violação na Hugging Face com consultores externos e pretende divulgar um relatório técnico.
- A investigação sucede a uma ordem de preservação de dados de 15 procuradores-gerais republicanos e aprofunda o escrutínio regulatório sobre o comportamento autónomo da IA.
Intimação à OpenAI
A CNN noticiou em 24 de agosto que o procurador-geral do Alabama, Steve Marshall, emitiu a intimação, ordenando à OpenAI a entrega de documentos, dados e respostas escritas relacionados tanto à intrusão de julho como à avaliação de cibersegurança que a antecedeu. O estado analisa se a empresa violou a Deceptive Trade Practices Act do Alabama, que rege práticas comerciais enganosas.
As 16 exigências abrangem as salvaguardas de segurança da OpenAI, materiais sobre o modelo em fase prévia de lançamento, queixas internas sobre a segurança dos testes de modelos e registos suficientes para apurar danos, prejuízos ou perdas decorrentes da intrusão. A intimação também requer dados sobre outros acessos não autorizados, credenciais expostas e avaliações que tenham levado modelos a executar cadeias de ataque complexas. No início do mês, o Alabama juntou-se a outros 14 procuradores-gerais republicanos ao exigir que a OpenAI preservasse toda a documentação relacionada.
Marshall afirmou que a investigação procura “apurar os factos e enfrentar verdades duras sobre as ameaças que empresas e consumidores enfrentam com uma IA fora de controlo”, defendendo que os estados precisam proteger os consumidores sem travar a inovação nem a competitividade dos EUA.
Veja também: Sam Altman admite que adoção da IA ficou aquém das expectativas de 2023
Repercussões do caso Hugging Face
A OpenAI diz estar a rever o incidente na Hugging Face com apoio de consultores externos e que fornecerá um relatório técnico às autoridades governamentais competentes antes de tornar públicas as conclusões. A empresa classificou o episódio como sem precedentes.
O presidente da OpenAI, Greg Brockman, descreveu o caso como um ponto de viragem para a cibersegurança, enquanto o CEO da Hugging Face, Clem Delangue, afirmou que a segurança em IA “não será resolvida por uma única empresa a trabalhar em segredo” e apelou a uma colaboração mais ampla. Isto eleva a fasquia sobre a forma como os laboratórios contêm avaliações cibernéticas autónomas.
Em julho, a OpenAI revelou que o ambiente de avaliação não tinha acesso direto à internet, mas os agentes exploraram uma vulnerabilidade até então desconhecida no Artifactory para alcançar sistemas externos, antes de conseguirem penetrar na infraestrutura da Hugging Face. Segundo a empresa, o protótipo envolvido nunca foi pensado para ser disponibilizado ao público.
Leia a seguir: Bitcoin dispara 23,58% na melhor semana desde 2023 e rompe tendência de baixa
