O governador do Banco de Inglaterra, Andrew Bailey, defende que testes rigorosos de sistemas de IA devem anteceder qualquer nova regulamentação formal, garantindo ao mesmo tempo que as autoridades mantenham capacidade de intervir à medida que os riscos aumentam.
Principais pontos:
- Bailey afirma que os riscos da IA estão a crescer, mas que os decisores devem primeiro identificar vulnerabilidades antes de erguer um quadro regulatório formal.
- Defende testes rigorosos antes e depois da entrada em produção, acompanhados de salvaguardas claras e pontos credíveis de intervenção humana.
- As declarações surgem num contexto em que grandes empresas de IA e o governo dos EUA discutem controlos voluntários, um desenvolvimento mais lento e futura regulação.
Testes de IA defendidos por Bailey
Bailey afirmou que os riscos da IA são “reais e cada vez mais significativos”, mas que os responsáveis políticos devem primeiro identificar onde os sistemas podem falhar, antes de decidir como devem funcionar regras formais. “A regulação não é, na minha perspetiva, o ponto de partida certo”, escreveu.
O governador sustenta que a sociedade deve preservar a capacidade de impor limites à IA avançada, recorrendo a testes rigorosos antes e depois do lançamento comercial para expor vulnerabilidades e verificar se as salvaguardas são suficientes para conter falhas. Acrescentou que o desenvolvimento de IA não deve ser travado, dado que “os potenciais benefícios são imensos”.
O Reino Unido já criou o AI Security Institute, que, segundo Bailey, está a ajudar a construir as bases científicas e técnicas para a certificação e confiança em sistemas de IA. “Mas o ritmo de progresso tem de acelerar”, escreveu. Bailey acrescentou que comportamentos inesperados dos modelos não significam que os testes falharam, mas sim que demonstram por que razão os testes são indispensáveis.
Leia também: Ripple ajuda CSD BR do Brasil a espelhar propriedade de fundos numa blockchain pública
Debate sobre segurança na OpenAI
Grandes empresas de IA, incluindo a OpenAI e a Anthropic, têm defendido salvaguardas mais robustas e avaliações de risco coordenadas internacionalmente, à medida que cresce a preocupação com sistemas cada vez mais poderosos. A OpenAI anunciou recentemente que não lançaria o seu modelo mais avançado devido a riscos de segurança.
O presidente Donald Trump rejeitou apelos para abrandar o desenvolvimento nos EUA na corrida tecnológica com a China, afirmando que “quem ganhar a IA, ganha”. Após uma reunião a 29 de setembro na Casa Branca com dirigentes de grandes empresas de tecnologia, Trump afirmou que os participantes assinaram um documento de IA “moralmente vinculativo”, que descreveu como uma “forma de proteção”.
Pelo acordo, as empresas participantes assumem a responsabilidade primária pela segurança da sua própria tecnologia. A abordagem de Bailey difere no enfoque: ele quer que os testes definam, antes de mais, onde a intervenção é necessária, para só depois os reguladores construírem uma arquitetura formal em torno dos sistemas avançados.
O debate intensificou-se nas últimas semanas, à medida que desenvolvedores de IA, governos e autoridades financeiras enfrentam ciclos de desenvolvimento mais rápidos e questões mais complexas sobre supervisão. A mais recente intervenção de Bailey surge após apelos da indústria por salvaguardas coordenadas, a decisão da OpenAI de reter um modelo e o esforço da Casa Branca para promover compromissos voluntários liderados pelas próprias empresas.
Leia a seguir: Altcoins assumem 41% do open interest em futuros, volume spot atinge 4x o do Bitcoin
