El CEO de Anthropic, Dario Amodei, intenta trazar una línea más clara en uno de los debates más controvertidos de la política de IA. En una respuesta pública destacada el lunes por TechCrunch AI y retomada por Axios y CNBC, Amodei dijo que Anthropic nunca ha impulsado una prohibición de los modelos de pesos abiertos, incluso mientras renovaba sus advertencias sobre los riesgos que, a su juicio, podrían surgir de una IA avanzada desarrollada por Estados autoritarios, especialmente China.

La aclaración importa porque Anthropic suele agruparse con el sector más cauteloso de la industria de la IA en lo relativo al lanzamiento de modelos y la seguridad de los modelos de frontera. Eso ha convertido a la empresa en blanco de críticas por parte de los defensores de los modelos abiertos, especialmente mientras los responsables políticos evalúan si los modelos de gran capacidad deberían enfrentarse a controles más estrictos. La última declaración de Amodei intenta separar dos cuestiones que con frecuencia se mezclan en el debate público: si se debe permitir a los desarrolladores lanzar sistemas de pesos abiertos y si la competencia entre Estados por la IA crea un problema de seguridad independiente.

Según TechCrunch AI, Amodei escribió que las prohibiciones amplias de los modelos de pesos abiertos no serían una medida útil y dijo explícitamente que Anthropic no ha defendido esa política. Su respuesta siguió a una nueva carta del sector compartida por el CEO de Nvidia, Jensen Huang, en X, en la que empresas como Nvidia, Meta, Microsoft, Mistral y Hugging Face instaron a los responsables políticos a no imponer lo que llamaron restricciones prematuras a los modelos de IA de pesos abiertos.

Una respuesta a una brecha de política cada vez mayor

Parece que el desencadenante inmediato de la declaración de Amodei fue la creciente sospecha en el sector de que los laboratorios centrados en la seguridad podrían respaldar normas que limitarían las publicaciones abiertas, incluidas las procedentes de China. La coalición de la carta abierta citada por TechCrunch AI no señaló a China de forma explícita, pero la batalla más amplia se ha centrado cada vez más en el progreso chino en IA, el acceso a chips avanzados y las afirmaciones de que algunos laboratorios podrían beneficiarse de la destilación o del robo de propiedad intelectual.

Ese contexto es importante. En los debates actuales sobre política de IA, “pesos abiertos” se ha convertido en un sustituto de varios argumentos distintos a la vez: libertad del desarrollador, competencia de las startups, seguridad nacional y si los controles de seguridad pueden hacerse cumplir después de que los parámetros de un modelo se distribuyen ampliamente. La intervención de Amodei no resuelve esas preguntas, pero sí deja constancia de que Anthropic se opone a una prohibición general.

Como describió TechCrunch AI, Amodei argumentó que los modelos de pesos abiertos sin capacidades peligrosas pueden servir como bien público porque empresas, desarrolladores e investigadores pueden utilizarlos con solo los costes de computación necesarios para ejecutarlos. Ese encuadre acerca a Anthropic, al menos en términos retóricos, a parte del argumento que desde hace tiempo defienden Hugging Face, Meta y otros partidarios de los modelos abiertos: que el acceso abierto puede ampliar la experimentación y reducir las barreras de entrada.

Al mismo tiempo, Amodei no abandonó la postura central de seguridad de Anthropic. En su lugar, sostuvo que la amenaza mayor no es el uso comercial ordinario de modelos abiertos, incluidos los que proceden de China, sino la posibilidad de que gobiernos autoritarios construyan sistemas más capaces para obtener ventaja militar o para la represión interna.

De qué dice Amodei que se preocupa realmente

Según el informe de TechCrunch AI, los comentarios de Amodei se centran menos en el uso indebido por parte de consumidores o empresas y más en el poder estatal. Al parecer, advirtió que los gobiernos autoritarios podrían buscar una “superioridad militar permanente” mediante la IA avanzada y podrían usar estos sistemas para endurecer el control sobre sus poblaciones. Dijo que China no es el único gobierno por el que se preocupa, pero identificó al Partido Comunista Chino como el más capaz de los actores autoritarios que tiene en mente.

También amplió la discusión sobre riesgos más allá de las preocupaciones de ciberseguridad que suelen dominar los titulares sobre seguridad de la IA. Según TechCrunch AI, Amodei dijo temer ataques biológicos habilitados por IA además de amenazas cibernéticas. Desde ese punto de vista, la distribución de pesos abiertos se vuelve más preocupante cuando los modelos alcanzan umbrales de capacidad peligrosos, porque una vez liberados los pesos, los controles técnicos y de política son más difíciles de aplicar.

Ese argumento refleja una división de larga data entre Anthropic y gran parte del ecosistema de modelos abiertos. Los defensores del lanzamiento abierto suelen sostener que un acceso más amplio ayuda a los defensores a estudiar sistemas, desarrollar contramedidas y evitar concentrar el poder en unas pocas empresas estadounidenses. La posición de Amodei, según TechCrunch AI, es más limitada: los modelos de pesos abiertos pueden ser beneficiosos, pero no si sus capacidades entran en categorías en las que prevenir el uso indebido depende de barandillas o supervisión centralizadas.

Aquí es también donde entra de forma más directa la cuestión de China. TechCrunch AI informó que Amodei pidió medidas como restringir el acceso de China a chips potentes y tomar medidas enérgicas contra la destilación. Esas propuestas son coherentes con una tendencia política ya existente en Estados Unidos hacia los controles de exportación y un escrutinio más estricto sobre cómo pueden usarse las salidas de los modelos para entrenar sistemas competidores.

La línea política que Anthropic intenta mantener

Para Anthropic, el mensaje parece ser que la apertura no es el enemigo por sí sola; lo son la capacidad y el contexto geopolítico. Esa es una posición más matizada de la que a veces le atribuyen a la empresa sus críticos, pero sigue siendo un marco restrictivo en comparación con el de las compañías que promocionan de forma habitual modelos lanzados abiertamente.

La distinción podría importar para la futura regulación. Si los responsables políticos aceptan la idea de que solo los modelos más capaces merecen pruebas o controles, los desarrolladores más pequeños y los grupos académicos podrían evitar cargas dirigidas a los sistemas de frontera. TechCrunch AI informó que Amodei apoya el trabajo en una organización de pruebas de seguridad de modelos, incluidas propuestas que se aplicarían a los modelos más capaces independientemente de si son abiertos o cerrados y del país de origen, mientras eximirían de ellas a los sistemas menos capaces de startups y del ámbito académico.

Ese punto es notable por dos razones. Primero, sugiere que Anthropic no está simplemente defendiendo los modelos cerrados frente a los competidores abiertos; está abogando por un enfoque basado en umbrales de capacidad. Segundo, sitúa a Anthropic más cerca de un régimen de gobernanza de modelos que podría acabar cubriendo tanto los propios sistemas de Anthropic como lanzamientos de rivales como Meta o Mistral, al menos en el extremo más alto.

Aun así, hay una gran salvedad práctica. Según resumió TechCrunch AI, Amodei dijo que las pruebas significativas tendrían que ser globales, incluyendo la participación china, si quieren reducir los riesgos más graves. Esa es una premisa ambiciosa. También es una de las partes menos seguras de la propuesta, porque en este conjunto de noticias no hay evidencia de que ese marco de aplicación transfronteriza esté cerca de implementarse.

Evidencias, atribución y lo que sigue sin demostrarse

La información más sólida en este conjunto proviene de TechCrunch AI, que describe las propias declaraciones publicadas de Amodei. Axios y CNBC informaron de forma independiente la misma aclaración central: Dario Amodei dijo que Anthropic no apoya una prohibición de los modelos de pesos abiertos. Pero el conjunto no incluye el texto completo de la entrada original del blog, así que algunos matices dependen de la caracterización de TechCrunch AI.

Varias afirmaciones importantes aquí deben tratarse con cautela. La idea de que los laboratorios chinos de IA están avanzando mediante propiedad intelectual robada o destilación agresiva es una acusación política en curso, no un hecho establecido por este conjunto de fuentes. TechCrunch AI presenta ese debate como parte del contexto del sector, y señala que EE. UU. ha amenazado con sanciones si determina que se produjo robo de propiedad intelectual de modelos estadounidenses. Eso es distinto de probar que un laboratorio concreto haya robado.

Del mismo modo, los argumentos de riesgo en torno a los modelos de pesos abiertos y el uso biológico indebido siguen siendo afirmaciones analíticas, no resultados demostrados en este reportaje. TechCrunch AI dice que Amodei citó un informe del UK AI Security Institute para sostener que, una vez liberados los pesos abiertos, no pueden retirarse. Ese es un punto operativo razonable, pero por sí solo no demuestra que el lanzamiento abierto cause más daño en el mundo real que el acceso cerrado.

La carta del sector compartida por Jensen Huang también necesita un encuadre cuidadoso. Los firmantes, entre ellos Nvidia, Microsoft, Meta, Mistral y Hugging Face, no son observadores neutrales; cada uno tiene razones estratégicas para oponerse a restricciones amplias sobre la IA de pesos abiertos. Su postura es un argumento de política, no una prueba independiente de que unas normas más laxas produzcan mejores resultados en seguridad o en el mercado.

Por qué esto importa para los desarrolladores y los compradores empresariales

Para los desarrolladores de IA, la aclaración de Anthropic elimina al menos un punto de incertidumbre: la empresa no está haciendo campaña pública por una prohibición categórica de la IA de pesos abiertos. Eso importa para las startups que construyen sobre modelos abiertos, para los proveedores de infraestructura que dan soporte al ajuste fino y la inferencia, y para los equipos empresariales que evalúan si los sistemas de pesos abiertos seguirán siendo políticamente viables en EE. UU.

Pero el alivio es limitado. Los comentarios de Amodei siguen apoyando un mundo en el que los modelos avanzados enfrenten más pruebas, más escrutinio y, potencialmente, controles más fuertes sobre el acceso, la implementación o la distribución. Los desarrolladores que trabajan con sistemas de capacidad de frontera deberían leer esto como una señal de que la próxima línea regulatoria podría trazarse por capacidad y potencial de uso indebido, no por si un modelo se etiqueta simplemente como abierto o cerrado.

Para los compradores empresariales de IA, el debate afecta a la estrategia de adquisición. Las empresas que eligen entre Anthropic, Meta, Mistral o una pila que incluye Hugging Face no solo están tomando decisiones técnicas; también están tomando decisiones de gobernanza. Los modelos de pesos abiertos pueden ofrecer flexibilidad, auditabilidad y menor dependencia de un proveedor. Los proveedores cerrados pueden ofrecer barandillas más estrictas, supervisión gestionada y un camino más claro para despliegues sensibles al cumplimiento normativo. El argumento de Amodei refuerza que este compromiso probablemente seguirá siendo central, especialmente en sectores expuestos a la seguridad, la bioseguridad o la supervisión gubernamental.

Los comentarios también subrayan que la competencia entre Anthropic y Nvidia no es la historia aquí, aunque Nvidia ayudó a dar visibilidad a la carta contraria. Más bien, se trata de una batalla de alineamiento político en todo el ecosistema de IA: laboratorios de frontera, fabricantes de chips, plataformas de modelos abiertos y proveedores de software empresarial están intentando moldear las reglas antes de que se endurezcan.

Qué vigilar a continuación

La primera señal a vigilar es si Anthropic publica más detalles aclarando dónde cree que comienzan las “capacidades peligrosas” en un modelo de pesos abiertos. Sin ese umbral, el apoyo a los pesos abiertos todavía puede ocultar el apoyo a restricciones significativas sobre los sistemas más competitivos.

En segundo lugar, hay que observar si la carta del sector respaldada por Nvidia, Meta, Microsoft, Mistral y Hugging Face se convierte en una campaña política más formal en Washington y en capitales aliadas. Una amplia coalición contra las restricciones prematuras podría influir en cómo se redacten futuras propuestas de gobernanza de modelos.

En tercer lugar, conviene seguir si los funcionarios estadounidenses intensifican las acciones en torno a la destilación, los controles de chips o las sanciones vinculadas al supuesto robo de propiedad intelectual de modelos. Esas medidas podrían afectar no solo a los desarrolladores chinos de IA, sino también a las prácticas globales de nube, alojamiento de modelos e implementación empresarial.

Por último, cualquier paso concreto hacia un régimen global de pruebas sería significativo. La sugerencia de Amodei de que incluso China podría participar algún día en una coordinación limitada de seguridad es notable, pero por ahora sigue siendo más una aspiración que una dirección política establecida.

Perspectiva de Creati.ai

Anthropic intenta recuperar los matices en un debate que a menudo se convierte en consignas. La declaración de Amodei dice que la empresa no está en contra de los pesos abiertos en principio, pero sigue siendo profundamente escéptica respecto a la liberación sin restricciones una vez que los modelos cruzan a zonas de alta capacidad y alto riesgo. Esa es una posición más defendible y políticamente más duradera que simplemente abogar por una IA cerrada en todos los casos.

La pregunta más difícil es si los responsables políticos pueden operacionalizar esa distinción sin congelar la competencia ni permitir que los incumbentes definan qué modelos son “peligrosos”. Para los desarrolladores y compradores, la conclusión práctica es que el debate entre abierto y cerrado está evolucionando hacia un debate sobre gobernanza de capacidades. Las empresas que ganen confianza a continuación no solo lanzarán modelos potentes; explicarán, con evidencias, por qué sus decisiones de lanzamiento y despliegue tienen sentido en condiciones reales de seguridad y de mercado.