El gobernador del Banco de Inglaterra, Andrew Bailey, sostiene que la prioridad debe ser someter la inteligencia artificial a pruebas rigurosas antes de aprobar una regulación formal, manteniendo al mismo tiempo la capacidad de las autoridades para intervenir a medida que aumentan los riesgos.
Puntos clave:
- Bailey admite que los riesgos de la IA van en aumento, pero defiende identificar primero las vulnerabilidades antes de diseñar un marco regulatorio.
- Aboga por pruebas exhaustivas antes y después del despliegue, junto a salvaguardas claras y mecanismos creíbles de intervención humana.
- Sus comentarios llegan mientras grandes tecnológicas y el Gobierno de EE. UU. debaten controles voluntarios, un posible frenazo al desarrollo y una futura regulación.
Las pruebas de IA según Bailey
Bailey afirmó que los riesgos asociados a la IA son “reales y cada vez más significativos”, pero que los responsables de política pública deben determinar primero dónde y cómo pueden fallar los sistemas antes de decidir cómo deberían funcionar las normas formales. “La regulación no es, en mi opinión, el lugar adecuado para empezar”, escribió.
El gobernador argumentó que la sociedad debe preservar la capacidad de fijar límites a la IA avanzada, recurriendo a pruebas estrictas antes y después de su puesta en marcha para destapar vulnerabilidades y comprobar si las salvaguardas son capaces de contener los fallos. Añadió que no se debería prohibir el desarrollo de la IA porque “los beneficios potenciales son inmensos”.
El Reino Unido ya ha creado el AI Security Institute, que según Bailey está ayudando a construir las bases científicas y técnicas necesarias para garantizar la solidez de los sistemas de IA. “Pero el ritmo de avance debe acelerarse”, señaló. Bailey añadió que un comportamiento inesperado de los modelos no implica que las pruebas hayan fracasado, sino que demuestra por qué son imprescindibles.
También te puede interesar: Ripple ayuda al CSD BR de Brasil a reflejar la propiedad de fondos en una blockchain pública
Debate sobre la seguridad en OpenAI
Las principales empresas de IA, entre ellas OpenAI y Anthropic, han pedido reforzar las salvaguardas y coordinar internacionalmente la evaluación de riesgos, en un contexto de creciente preocupación por la capacidad de los modelos más avanzados. OpenAI anunció recientemente que no publicaría su último modelo de IA por motivos de seguridad.
El presidente Donald Trump ha rechazado los llamamientos a ralentizar el desarrollo de la IA en EE. UU. en su carrera con China, al afirmar que “quien gane la IA, gana”. Tras una reunión en la Casa Blanca el 29 de septiembre con altos ejecutivos tecnológicos, Trump aseguró que los participantes firmaron un documento sobre IA “moralmente vinculante” que constituía una “forma de protección”.
En virtud de ese acuerdo, las empresas participantes asumen la responsabilidad de la seguridad de su propia tecnología. El enfoque de Bailey difiere en el énfasis: quiere que las pruebas determinen primero dónde es necesaria la intervención antes de que los legisladores levanten una arquitectura regulatoria más formal en torno a los sistemas avanzados.
El debate se ha intensificado en las últimas semanas, a medida que desarrolladores de IA, gobiernos y autoridades financieras se enfrentan a ciclos de innovación más rápidos y a cuestiones de supervisión cada vez más complejas. La última intervención de Bailey llega tras las llamadas del sector a establecer salvaguardas coordinadas, la decisión de OpenAI de no lanzar un modelo por motivos de seguridad y el impulso de la Casa Blanca a favor de controles voluntarios liderados por las propias empresas.
Lee a continuación: Las altcoins ya concentran el 41% del interés abierto en futuros y el volumen spot cuadruplica al de Bitcoin
