El director ejecutivo de Anthropic, Dario Amodei, negó que la compañía haya defendido en ningún momento la prohibición de los modelos de IA de pesos abiertos y detalló en su lugar tres medidas de política pública que respalda.
Claves:
- Amodei afirma que Anthropic nunca ha pedido prohibir los modelos de pesos abiertos como categoría.
- Propone controles a la exportación de chips, límites a la destilación a escala industrial y pruebas de seguridad obligatorias para modelos potentes.
- Anthropic fue la gran ausente en la carta abierta que firmaron más de 20 tecnológicas.
Amodei niega la ofensiva contra los modelos de pesos abiertos
Amodei publicó su posicionamiento el 27 de julio, tras varios días de silencio que muchos rivales del sector interpretaron casi como una respuesta tácita.
Definió los modelos abiertos sin capacidades peligrosas como un bien público: más allá del coste de cómputo para ejecutarlos, dijo, aportan valor a empresas, desarrolladores e investigadores.
Añadió que unos vetos de corte proteccionista no abordarían sus preocupaciones más serias en materia de seguridad nacional.
Su mensaje respondía a la carta abierta que el consejero delegado de Nvidia, Jensen Huang, difundió el 24 de julio. Más de 20 compañías, entre ellas Microsoft, Meta y Palantir, firmaron el texto, que Huang compartió en su primer mensaje en X.
También lea: Ataques “wrench” con criptomonedas suman 52 casos en seis meses, la mayoría en Francia
Sacks y Gurley cuestionan las verdaderas motivaciones de Anthropic
El inversor de capital riesgo y ex “zar” de IA de la Casa Blanca, David Sacks, sostuvo que Anthropic estaría envolviendo su estrategia de negocio en un discurso de seguridad. Bill Gurley, socio de Benchmark, sugirió que la empresa estaría defendiendo su posición en la carrera de la IA más que un principio regulatorio claro. Tras la adhesión de OpenAI, Anthropic quedó como el único gran laboratorio estadounidense fuera de la carta.
Amodei reconoció que una prohibición blindaría a los laboratorios estadounidenses frente a la competencia, pero insistió en que nunca ha sido su objetivo. Su agenda pasa por controles más estrictos a la exportación de chips, una ofensiva contra la destilación a escala industrial y pruebas de seguridad obligatorias para cualquier modelo suficientemente capaz, sea abierto o cerrado.
En sus declaraciones, que divide en dos bloques, describe dos temores principales.
El primero es que gobiernos autoritarios —con el Partido Comunista chino como actor más avanzado— desarrollen modelos más potentes que los estadounidenses y los utilicen para obtener una superioridad militar duradera o reforzar la represión interna. El segundo es el uso malicioso de modelos avanzados para ciberataques o ataques biológicos, un riesgo que, a su juicio, se agrava con los pesos abiertos, ya que las barreras de seguridad pueden retirarse con facilidad y, una vez publicados, los pesos no pueden retirarse del dominio público.
Kimi K3 reaviva la batalla por la destilación
El laboratorio chino Moonshot AI lanzó Kimi K3 a mediados de julio. El modelo abierto igualó a sistemas estadounidenses punteros en varios “benchmarks”, pero a una fracción de su coste.
Poco después, un alto cargo de la Casa Blanca acusó a Moonshot de haberlo entrenado con resultados generados por el modelo Fable, de Anthropic, una práctica conocida como destilación. El secretario del Tesoro, Scott Bessent, llegó a plantear posibles sanciones en respuesta.
Amodei lleva tiempo marcando esta línea roja. Describió ambos escenarios en un ensayo publicado hace seis meses y ya había advertido de que los desarrolladores pierden el control de un modelo en cuanto sus pesos se hacen públicos. Anthropic ha apostado por una distribución controlada, como en Project Glasswing, que ofrece a compañías previamente evaluadas acceso anticipado a sus modelos de ciberseguridad.
Lea a continuación: Las previsiones a corto plazo para XRP se frenan en 1,25 dólares antes de la decisión de la Fed