O governador do Banco de Inglaterra, Andrew Bailey, defende que a prioridade na inteligência artificial deve ser dada a testes rigorosos dos modelos, deixando a regulação formal para uma fase posterior, ainda que as autoridades mantenham poder de intervenção à medida que os riscos aumentam.
Principais pontos:
- Bailey reconhece que os riscos da IA estão a crescer, mas defende que os decisores devem primeiro identificar vulnerabilidades antes de erigir um quadro regulatório formal.
- Pretende testes exaustivos antes e depois da implementação, acompanhados de salvaguardas claras e mecanismos credíveis de intervenção humana.
- As declarações surgem enquanto grandes empresas de IA e o governo dos EUA discutem compromissos voluntários, um ritmo de desenvolvimento mais lento e futura regulação.
A aposta de Bailey em testes de IA
Bailey afirmou que os riscos associados à IA são “reais e cada vez mais significativos”, mas considera que os decisores públicos devem primeiro compreender onde e como os sistemas podem falhar antes de definir a arquitetura das regras formais. “A regulação não é, na minha opinião, o ponto de partida certo”, escreveu.
Para o governador, a sociedade deve preservar a capacidade de impor limites à IA avançada, recorrendo a testes rigorosos, tanto na fase prévia como posterior ao lançamento, para expor vulnerabilidades e verificar se as salvaguardas conseguem conter falhas graves. Sublinhou que o desenvolvimento de IA não deve ser travado, porque “os benefícios potenciais são imensos”.
O Reino Unido já criou o AI Security Institute, que, segundo Bailey, está a ajudar a construir as bases científicas e técnicas para avaliar e certificar sistemas de IA. “Mas o ritmo dos avanços tem de acelerar”, acrescentou. Bailey sublinhou ainda que comportamentos inesperados dos modelos não significam que os testes falharam; pelo contrário, ilustram precisamente porque é que esses testes são indispensáveis.
Leia também: Ripple ajuda CSD BR do Brasil a espelhar titularidade de fundos numa blockchain pública
Debate sobre segurança na OpenAI
As principais empresas de IA, incluindo OpenAI e Anthropic, têm defendido salvaguardas mais robustas e avaliações de risco coordenadas internacionalmente, à medida que cresce a preocupação com sistemas cada vez mais poderosos. A OpenAI anunciou recentemente que não irá disponibilizar o seu modelo de IA mais avançado devido a questões de segurança.
O presidente Donald Trump rejeitou apelos para abrandar o desenvolvimento de IA nos EUA na corrida tecnológica com a China, declarando que “quem ganhar a IA, ganha tudo”. Após uma reunião, em 29 de setembro, na Casa Branca, com líderes de grandes empresas de tecnologia, Trump afirmou que os participantes assinaram um documento de IA “moralmente vinculativo”, que descreveu como uma “forma de proteção”.
Pelo acordo, cada empresa participante é responsável pela segurança da sua própria tecnologia. A abordagem de Bailey diverge no enfoque: para o governador, a prioridade é usar testes sistemáticos para determinar onde a intervenção pública é necessária antes de se construir um enquadramento regulatório mais rígido em torno dos sistemas avançados.
O debate intensificou-se nas últimas semanas, à medida que desenvolvedores de IA, governos e autoridades financeiras enfrentam ciclos de inovação mais rápidos e dilemas mais complexos sobre supervisão. A posição mais recente de Bailey surge após apelos da indústria a salvaguardas coordenadas, a decisão da OpenAI de reter um modelo e a iniciativa da Casa Branca em promover compromissos voluntários liderados pelas próprias empresas.
Veja a seguir: Altcoins ficam com 41% do open interest em futuros, volume à vista é 4x o do Bitcoin
