El gobernador del Banco de Inglaterra, Andrew Bailey, sostiene que la prioridad debe ser someter la inteligencia artificial a pruebas rigurosas antes de implantar un marco regulatorio formal, aunque las autoridades deben conservar la capacidad de intervenir a medida que crecen los riesgos.
Puntos clave:
- Bailey reconoce que los riesgos de la IA van en aumento, pero defiende que primero hay que detectar las vulnerabilidades antes de diseñar un marco regulatorio formal.
- Pide pruebas exhaustivas antes y después de la puesta en marcha de los sistemas, con salvaguardas claras y puntos creíbles de intervención humana.
- Sus comentarios llegan mientras las grandes tecnológicas de IA y el Gobierno estadounidense debaten controles voluntarios, ritmos de desarrollo más lentos y una futura regulación.
Las pruebas de IA según Bailey
Bailey afirmó que los riesgos de la IA son “reales y cada vez más significativos”, pero que los responsables de política pública deberían identificar primero dónde pueden fallar los sistemas antes de decidir cómo deben configurarse las normas formales. “La regulación no es, en mi opinión, el lugar adecuado para empezar”, escribió.
El gobernador argumenta que la sociedad debe preservar la capacidad de fijar límites a la IA avanzada, utilizando pruebas rigurosas antes y después de su despliegue para descubrir vulnerabilidades y comprobar si las salvaguardas son capaces de contener los fallos. Añadió que no debería prohibirse el desarrollo de la IA, ya que “el potencial de beneficios es inmenso”.
El Reino Unido ya ha creado el Instituto de Seguridad de la IA, que, según Bailey, está contribuyendo a construir los cimientos científicos y técnicos para dotar de garantías a estos sistemas. “Pero el ritmo de avance debe acelerarse”, escribió. Bailey subrayó que el comportamiento inesperado de los modelos no significa que las pruebas hayan fracasado, sino que demuestra por qué son imprescindibles.
También puedes leer: Ripple ayuda a la CSD BR de Brasil a reflejar la propiedad de fondos en una blockchain pública
Debate sobre la seguridad en OpenAI
Las principales empresas de IA, entre ellas OpenAI y Anthropic, han abogado por reforzar las salvaguardas y coordinar internacionalmente las evaluaciones de riesgo, en plena preocupación por sistemas cada vez más potentes. OpenAI anunció recientemente que no lanzará su último modelo de IA debido a cuestiones de seguridad.
El presidente Donald Trump ha rechazado las peticiones de frenar el desarrollo estadounidense en la carrera con China, al afirmar que “quien gane la IA, gana”. Tras una reunión el 29 de septiembre en la Casa Blanca con altos ejecutivos tecnológicos, Trump señaló que los participantes firmaron un documento sobre IA “moralmente vinculante” que describió como una “forma de protección”.
En virtud de ese acuerdo, las empresas firmantes asumen la responsabilidad de la seguridad de su propia tecnología. El enfoque de Bailey difiere en el énfasis: quiere que las pruebas determinen primero dónde es necesaria la intervención, y que después los responsables políticos construyan alrededor de los sistemas avanzados una estructura regulatoria más formal.
El debate se ha intensificado en las últimas semanas, a medida que desarrolladores de IA, gobiernos y autoridades financieras se enfrentan a un ritmo más rápido de mejora de los modelos y a cuestiones cada vez más complejas de supervisión. La última intervención de Bailey llega tras las peticiones del sector de coordinar salvaguardas, la decisión de OpenAI de retener un modelo y el impulso de la Casa Blanca a favor de controles voluntarios liderados por las propias empresas.
Lee a continuación: Las altcoins alcanzan el 41% del interés abierto en futuros y el volumen spot se multiplica por 4 frente a Bitcoin
