El cofundador de Microsoft, Bill Gates, afirmó que la inteligencia artificial ya es lo suficientemente poderosa como para desencadenar acontecimientos que podrían provocar 1.000 millones de muertes, y urgió a los legisladores a intervenir.
Puntos clave:
- Gates señaló que las herramientas de IA, en manos de personas con malas intenciones, podrían desencadenar eventos que causen 1.000 millones de muertes.
- Rechazó la idea de que los desarrolladores de IA puedan autorregularse y defendió la necesidad de nueva legislación.
- Su advertencia se suma a la ola de alarma de figuras de la propia industria de la IA que reclaman frenar el ritmo de desarrollo.
La advertencia de Bill Gates sobre la IA
Gates realizó estas declaraciones a la presentadora Kristen Welker en una entrevista con el programa de NBC "Meet the Press", que se emitirá el domingo. «La IA es, sin duda, lo bastante poderosa como para desencadenar acontecimientos que... provoquen mil millones de muertes», afirmó. Describió a los individuos con intenciones maliciosas que utilizan las herramientas de IA más avanzadas como el arma más poderosa a la que se ha enfrentado jamás el mundo.
Gates se centró en el uso indebido por parte de actores maliciosos, más que en la idea de que la IA pueda llegar a aniquilar a la humanidad por sí misma.
Preguntado por Welker si se puede confiar en que las empresas de IA se autorregulen, Gates fue tajante.
«Nadie cree que la autorregulación sea suficiente», dijo, y añadió que las fuerzas de seguridad y los responsables políticos deben participar en la definición de qué tipo de salvaguardas y sistemas de supervisión se necesitan. Subrayó que esas medidas deben ser obligatorias y, cuando se le preguntó si Washington debería aprobar legislación específica, respondió: «Absolutamente».
También lee: Reservas de Ethereum en exchanges caen a mínimos históricos mientras ETH cotiza cerca de 2.660 dólares
Las advertencias de Anthropic y OpenAI
Las declaraciones de Gates se producen en un momento en que el debate sobre la seguridad de la IA se intensifica entre quienes desarrollan esta tecnología. A comienzos de mes, Jacob Coxon dimitió de su puesto en Anthropic y acusó tanto a la compañía como a OpenAI, en la que también había trabajado, de jugar con la vida de las personas en una carrera hacia una IA superinteligente.
Otro empleado de Anthropic situó la probabilidad de que la IA elimine a toda la humanidad en la próxima década en más de un 10%. A raíz de ello, el consejero delegado de Anthropic, Dario Amodei, instó al sector a reducir el ritmo de desarrollo de los modelos de frontera de IA.
El CEO de OpenAI, Sam Altman, y Elon Musk apoyaron rápidamente esa postura, y una reciente encuesta de YouGov/The Economist reveló que el 69% de los estadounidenses considera que la IA representa un riesgo grave de causar daños.
Europa ya cuenta con el tipo de normas vinculantes a las que se refirió Gates, mientras que el debate en Estados Unidos sigue abierto después de que el presidente Donald Trump rechazara a comienzos de mes las peticiones para frenar el desarrollo de la IA. Desde el 2 de agosto, la Comisión Europea tiene potestad para multar a los proveedores de modelos de IA de propósito general con hasta el 3% de su facturación global anual, aunque hasta ahora no se ha hecho pública ninguna acción de ejecución contra un proveedor de modelos.
En los últimos meses, Gates se ha mostrado cada vez más explícito sobre los riesgos de la IA, pese a seguir siendo uno de los defensores más conocidos de su potencial. En un ensayo publicado en agosto, advirtió de que actores maliciosos podrían aprovechar una IA cada vez más poderosa para lanzar ciberataques, cometer fraudes y difundir desinformación dirigida contra hospitales, instituciones financieras, redes eléctricas y sistemas gubernamentales. También escribió que la IA «será o bien el mayor igualador jamás inventado, o la peor fuente de injusticia».
Lee a continuación: Polygon alcanza 11 millones de pagos por segundo en pruebas diseñadas para agentes de IA
