O presidente do Bank of England, Andrew Bailey, defende que testes rigorosos em sistemas de inteligência artificial devem vir antes da criação de uma regulação formal, mantendo ao mesmo tempo a capacidade das autoridades de intervir à medida que os riscos aumentam.
Principais pontos:
- Bailey afirma que os riscos da IA estão crescendo, mas que formuladores de política devem primeiro mapear vulnerabilidades antes de erguer um arcabouço regulatório formal.
- Ele defende testes rigorosos antes e depois da implantação, com salvaguardas claras e mecanismos confiáveis de intervenção humana.
- As declarações vêm em meio ao debate entre grandes empresas de IA e o governo dos EUA sobre controles voluntários, ritmo mais lento de desenvolvimento e regulação futura.
Testes de IA segundo Bailey
Bailey afirmou que os riscos da IA são “reais e cada vez mais significativos”, mas que os formuladores de políticas devem primeiro identificar onde esses sistemas podem falhar, para só então decidir como devem funcionar as regras formais. “Na minha visão, a regulação não é o lugar certo para começar”, escreveu.
Para ele, a sociedade precisa preservar a capacidade de impor limites à IA avançada, usando testes rigorosos antes e depois da implantação para expor vulnerabilidades e verificar se as salvaguardas conseguem conter eventuais falhas. Ele argumenta que não se deve proibir o desenvolvimento de IA porque “os potenciais benefícios são imensos”.
O Reino Unido já criou o AI Security Institute, que segundo Bailey vem ajudando a construir as bases científicas e técnicas para a confiança em sistemas de IA. “Mas o ritmo de progresso precisa acelerar”, escreveu. Bailey acrescentou que comportamentos inesperados de modelos não significam fracasso dos testes, mas sim evidência de por que os testes são indispensáveis.
Leia também: Ripple ajuda CSD BR do Brasil a espelhar propriedade de fundos em blockchain pública
Debate sobre segurança na OpenAI
Grandes empresas de IA, incluindo OpenAI e Anthropic, têm defendido salvaguardas mais robustas e avaliações de risco coordenadas internacionalmente, em resposta à preocupação com sistemas cada vez mais poderosos. Recentemente, a OpenAI anunciou que não lançaria seu modelo mais recente por motivos de segurança.
O presidente Donald Trump rejeitou pedidos para desacelerar o desenvolvimento da IA nos EUA na disputa tecnológica com a China, declarando que “quem vencer em IA, vence”. Após uma reunião em 29 de setembro na Casa Branca com executivos de grandes empresas de tecnologia, Trump disse que os participantes assinaram um documento de IA “moralmente vinculante”, que seria uma “forma de proteção”.
Pelo acordo, as empresas participantes são responsáveis pela segurança de suas próprias tecnologias. A abordagem de Bailey difere no foco: ele quer que a etapa de testes sirva para definir onde a intervenção é necessária antes que os formuladores de políticas construam uma estrutura regulatória mais rígida em torno dos sistemas avançados.
O debate se intensificou nas últimas semanas, à medida que desenvolvedores de IA, governos e autoridades financeiras se deparam com avanços mais rápidos nos modelos e questões mais complexas sobre supervisão. A nova intervenção de Bailey segue-se a pedidos da indústria por salvaguardas coordenadas, à decisão da OpenAI de reter um modelo e ao esforço da Casa Branca por controles voluntários liderados pelas próprias empresas.
Próximo artigo: Altcoins ficam com 41% do open interest em futuros, volume à vista chega a 4x o do Bitcoin
