O presidente do Bank of England, Andrew Bailey, defende que a prioridade em inteligência artificial deve ser a realização de testes rigorosos de modelos, antes da criação de um arcabouço regulatório formal, mantendo ao mesmo tempo a capacidade das autoridades de intervir conforme os riscos aumentam.
Principais pontos:
- Bailey reconhece que os riscos da IA estão crescendo, mas argumenta que formuladores de política precisam primeiro mapear vulnerabilidades antes de desenhar regras formais.
- Ele defende testes rigorosos antes e depois da implementação, com salvaguardas claras e pontos definidos para intervenção humana.
- As declarações ocorrem enquanto grandes empresas de IA e o governo dos EUA discutem controles voluntários, ritmo de desenvolvimento e futura regulação.
Testes de IA segundo Bailey
Bailey afirmou que os riscos da IA são “reais e cada vez mais significativos”, mas que a prioridade dos formuladores de políticas deve ser entender onde os sistemas podem falhar antes de decidir como as regras formais devem funcionar. “Mas a regulação não é, na minha visão, o ponto certo de partida”, escreveu.
Para ele, a sociedade precisa preservar a capacidade de impor limites à IA avançada, recorrendo a testes rigorosos antes e depois da implantação para expor vulnerabilidades e verificar se as salvaguardas conseguem conter falhas. Bailey ressalta que o desenvolvimento de IA não deve ser proibido, já que “os potenciais benefícios são imensos”.
O Reino Unido já criou o AI Security Institute, que, segundo Bailey, está ajudando a construir as bases científicas e técnicas para dar garantias sobre sistemas de IA. “Mas o ritmo de avanço precisa acelerar”, escreveu. Ele acrescentou que comportamentos inesperados dos modelos não significam que os testes fracassaram, e sim que comprovam por que os testes são indispensáveis.
Leia também: Ripple ajuda a CSD BR do Brasil a espelhar propriedade de fundos em blockchain pública
Debate sobre segurança na OpenAI
Grandes empresas de IA, incluindo OpenAI e Anthropic, têm defendido salvaguardas mais robustas e avaliações de risco coordenadas internacionalmente, à medida que cresce a preocupação com sistemas cada vez mais poderosos. A OpenAI anunciou recentemente que não vai lançar seu modelo de IA mais avançado por causa de preocupações de segurança.
O presidente Donald Trump rejeitou pedidos para desacelerar o desenvolvimento nos Estados Unidos na disputa tecnológica com a China, afirmando que “quem vencer em IA, vence”. Após uma reunião de 29 de setembro na Casa Branca com executivos de grandes empresas de tecnologia, Trump disse que os participantes assinaram um documento sobre IA “moralmente obrigatório”, que classificou como uma “forma de proteção”.
Pelo acordo, as próprias empresas signatárias são responsáveis pela segurança de suas tecnologias. A abordagem de Bailey diverge no foco: ele quer que os testes definam onde a intervenção é necessária antes que os formuladores de políticas construam uma estrutura regulatória mais formal em torno dos sistemas avançados.
O debate ganhou velocidade nas últimas semanas, à medida que desenvolvedores de IA, governos e autoridades financeiras se deparam com uma evolução mais rápida dos modelos e questões mais complexas de supervisão. A nova intervenção de Bailey vem na esteira de apelos da indústria por salvaguardas coordenadas, da decisão da OpenAI de reter um modelo por motivos de segurança e da iniciativa da Casa Branca por controles voluntários liderados pelas próprias empresas.
Próximo texto: Altcoins ficam com 41% do open interest em futuros, e volume à vista chega a 4x o do Bitcoin
