Garry Tan, de Y Combinator, pide que los laboratorios estadounidenses de open-weight destilen modelos frontier

El CEO de Y Combinator, Garry Tan, pide que las empresas estadounidenses de IA de open-weight puedan destilar modelos frontier propietarios, argumentando que un acceso más amplio podría evitar que la IA avanzada quedara controlada por un solo proveedor.

Tan dijo a CNBC que preferiría que los reguladores no intervinieran en la disputa actual sobre la destilación de modelos. Más tarde le dijo a TechCrunch que los laboratorios estadounidenses más pequeños deberían poder usar la técnica abiertamente en sistemas frontier de EE. UU., creando más alternativas domésticas a los modelos chinos de open-weight.

La postura sitúa al director de uno de los aceleradores de startups más influyentes de Silicon Valley en desacuerdo con las llamadas de algunas empresas de modelos frontier a imponer controles más estrictos sobre cómo los clientes usan sus sistemas. También abre un debate más amplio sobre si el conocimiento obtenido mediante acceso pagado a modelos debe tratarse como un resultado propietario, como infraestructura pública o como algo intermedio.

Lo que Tan propone

La destilación de modelos generalmente implica consultar extensamente a un modelo más grande y usar sus respuestas para entrenar otro sistema. El proceso puede ayudar a un modelo más pequeño a aprender patrones de lenguaje, razonamiento o rendimiento en tareas sin reproducir los pesos subyacentes del modelo más grande. Los laboratorios de IA suelen usar la destilación como parte de trabajos legítimos de entrenamiento y evaluación.

La propuesta de Tan no consiste en que las empresas estadounidenses usen credenciales robadas ni se hagan pasar por clientes. TechCrunch informó que quiere que los laboratorios de EE. UU. puedan acceder a los modelos frontier “por la puerta principal”, usando el acceso ordinario al modelo en lugar del engaño o de cuentas no autorizadas.

Su argumento tiene dos partes. Primero, Tan cree que las empresas frontier podrían estar excediéndose al dictar lo que los clientes pueden hacer con la información devuelta a través de sus API de IA. Segundo, argumenta que las propias empresas de IA propietaria construyeron sus sistemas absorbiendo enormes cantidades de conocimiento humano de acceso público, incluido material protegido por derechos de autor cuyos propietarios no necesariamente concedieron permiso.

Desde la perspectiva de Tan, permitir que las empresas de IA de open-weight aprendan de sistemas comerciales podría crear un contrapeso a la concentración de computación, capital y talento investigador entre un pequeño número de laboratorios frontier de IA. Dijo que el peor escenario sería que una empresa obtuviera una ventaja abrumadora y se convirtiera en un proveedor “monolítico”.

Por qué la destilación es controvertida

Los comentarios llegan después de que Anthropic publicara un segundo informe alegando que empresas chinas de IA llevaron a cabo lo que llama “ataques ilícitos de destilación”. Según el informe descrito por TechCrunch, las empresas ocultaron sus identidades, usaron fraude y recurrieron a credenciales robadas para extraer capacidades de otros modelos sin permiso.

El CEO de Anthropic, Dario Amodei, ha instado previamente a los reguladores estadounidenses a responder a este tipo de actividad. Esa postura trata la destilación no autorizada como un problema de seguridad y de propiedad intelectual, en lugar de una consecuencia normal de ofrecer un modelo a través de una API.

La distinción entre destilación permitida y prohibida es, por tanto, central. Tan no está respaldando el robo de credenciales ni el engaño descritos en las acusaciones de Anthropic. Está argumentando que los laboratorios estadounidenses de open-weight deberían tener una vía legítima para realizar trabajos de entrenamiento similares bajo condiciones de acceso transparentes.

Esa propuesta todavía deja sin respuesta preguntas difíciles. Un proveedor de modelos puede permitir a los clientes generar resultados mientras restringe el uso de esos resultados para entrenar un sistema competidor. También puede imponer límites técnicos, supervisión o شروط contractuales diseñadas para evitar la extracción sistemática. Los comentarios de Tan cuestionan si esas restricciones deberían ser exigibles tan ampliamente como lo son hoy, pero no establecen un marco legal para sustituirlas.

Evidencia y límites de la afirmación

La noticia central es la postura pública de Tan sobre política pública, recogida por TechCrunch tras comentarios a CNBC y observaciones de seguimiento a la publicación. No hay evidencia en el reportaje proporcionado de que el gobierno de EE. UU. esté preparando un “régimen estadounidense de destilación” ni de que la propuesta de Tan haya sido adoptada por Y Combinator como una plataforma política formal.

Del mismo modo, el reportaje no ofrece mediciones independientes que demuestren que la destilación produzca de forma fiable modelos open-weight competitivos, reduzca los costos de entrenamiento o disminuya la dependencia de sistemas chinos. Esos resultados forman parte del argumento a favor de la propuesta, no de resultados demostrados en este relato.

Las afirmaciones de Anthropic sobre laboratorios chinos también se presentan como alegaciones procedentes del propio informe de la empresa. La evidencia disponible no incluye una investigación independiente ni una respuesta de las empresas mencionadas. Eso importa porque la misma actividad técnica puede verse de forma muy distinta según la autorización, las condiciones contractuales, la escala de las consultas y si las credenciales se obtuvieron legítimamente.

Para los constructores, la conclusión práctica es que la destilación sigue siendo técnicamente establecida pero políticamente no resuelta. Los desarrolladores de modelos pueden usar el método en entornos autorizados, pero los acuerdos de acceso y las políticas del proveedor pueden determinar si un flujo de trabajo de entrenamiento concreto está permitido.

Implicaciones para constructores y empresas

Si la postura de Tan obtuviera apoyo político, los laboratorios estadounidenses más pequeños podrían tener una vía más directa para mejorar los modelos open-weight. Podrían usar sistemas frontier para generar datos sintéticos, demostraciones de razonamiento, evaluaciones o ajuste fino especializado, en lugar de depender solo de conjuntos de datos públicos y ejemplos generados internamente.

Eso podría aumentar la competencia para los desarrolladores de modelos y dar a los equipos de producto más opciones cuando necesiten despliegue local, mayor control sobre los pesos o menor dependencia de un único proveedor alojado. También podría crear nuevos servicios comerciales en torno al acceso licenciado a modelos profesor y a canalizaciones de destilación cuidadosamente documentadas.

Los riesgos serían considerables. Las empresas frontier podrían responder subiendo precios, restringiendo el acceso de alto volumen, añadiendo filtros de salida más fuertes o limitando cuentas que parezcan estar entrenando competidores. Una extracción más agresiva también podría dificultar que los proveedores protejan capacidades propietarias y recuperen el costo de desarrollar modelos grandes.

Los compradores empresariales se enfrentarían a un problema de gobernanza relacionado. Una empresa que utilice un modelo destilado tendría que entender no solo el rendimiento del modelo en benchmarks, sino también el origen de sus datos de entrenamiento, los permisos asociados a las salidas del modelo profesor y la posibilidad de que el sistema resultante reproduzca material protegido o sensible. En entornos regulados, esas cuestiones podrían importar tanto como la calidad del modelo.

El debate también toca la seguridad de la IA. La distribución de open-weight puede mejorar la auditabilidad y el control del usuario, pero puede hacer más fácil desplegar capacidades potentes sin la supervisión o los sistemas de rechazo de un proveedor central. El argumento competitivo de Tan aborda el riesgo de concentración; por sí solo no resuelve las preocupaciones de uso indebido, privacidad o rendición de cuentas.

Qué vigilar a continuación

La primera señal será si los responsables políticos estadounidenses distinguen entre la destilación autorizada y la actividad encubierta alegada por Anthropic, en lugar de tratar todo entrenamiento de modelo a modelo como una sola categoría. Cualquier regla propuesta sobre API de IA, datos sintéticos o propiedad de las salidas del modelo aclararía si la idea de Tan está ganando tracción.

El mercado también debería vigilar si los proveedores frontier revisan los términos que regulan las consultas de alto volumen, la imitación de modelos y el entrenamiento de competidores. Nuevos programas de licencias podrían ofrecer un punto medio: permitir la destilación bajo contratos explícitos mientras preservan el control del proveedor sobre el acceso y la atribución.

En el plano técnico, serán importantes las evaluaciones independientes. Las afirmaciones de que los modelos destilados pueden igualar o acercarse a los sistemas frontier deberían probarse en fiabilidad, seguridad, factualidad y costo, no solo en tareas seleccionadas de benchmark. La evidencia de adopción real por parte de laboratorios estadounidenses de open-weight también sería más sólida que los argumentos generales sobre competitividad nacional.

Perspectiva de Creati.ai

La propuesta de Tan se entiende mejor como un argumento de competencia, no como una respuesta definitiva a las cuestiones de propiedad intelectual o seguridad que rodean la destilación. Advierte que las restricciones impuestas por los proveedores frontier podrían reforzar precisamente la concentración de poder que muchos responsables políticos intentan evitar.

Pero un régimen abierto necesitaría límites claros. El acceso autorizado, los registros de entrenamiento transparentes y las salvaguardas exigibles podrían apoyar un ecosistema de modelos más sano; tolerar el fraude o la extracción indiscriminada correría el riesgo de socavar los incentivos comerciales que financian la investigación frontier. Para los constructores de IA y los compradores empresariales, la cuestión a corto plazo no es tanto si la destilación existe, sino si los proveedores, los reguladores y los tribunales pueden definir cuándo es legítima.