La política de retención de Fable de Anthropic expone el problema no resuelto de confianza en los datos de los laboratorios de IA
La política de retención de Fable de Anthropic ha provocado retiradas de empresas, exponiendo por qué las promesas de retención cero de datos no han resuelto los riesgos de confianza en la IA.
La decisión de Anthropic de conservar durante 30 días los registros de uso de su modelo insignia Fable ha llevado a varios grandes clientes a restringir o bloquear el sistema para trabajos sensibles, según un reportaje de The Information citado por The Decoder. El episodio muestra que las garantías empresariales sobre exclusiones de entrenamiento y retención de datos siguen siendo difíciles de evaluar y de confiar para los clientes.
Según los informes, Nvidia está limitando Fable a trabajos menos sensibles, mientras que Booz Allen Hamilton ha prohibido su uso para software propietario de ciberseguridad. Palantir está bloqueando la implementación de Fable a través de su plataforma hasta que Anthropic proporcione lo que describe como garantías irrevocables de retención cero de datos. La reacción ha convertido una política pensada para respaldar la supervisión de abusos en una prueba de si los proveedores de IA de vanguardia pueden cumplir las expectativas de control de datos de los compradores corporativos y gubernamentales.
La política de Fable de Anthropic se convierte en una línea de fractura empresarial
Anthropic introdujo en junio la política de retención de registros durante 30 días para ayudar a defenderse de lo que The Decoder describe como “ataques complejos y novedosos”. Sin embargo, para los clientes que manejan propiedad intelectual, código fuente, investigación de seguridad o datos operativos, conservar los registros crea un riesgo distinto: los prompts y las respuestas sensibles pueden seguir siendo accesibles para el proveedor o convertirse en parte de un sistema interno más amplio de gestión de datos.
La reacción informada ha sido especialmente notable porque Nvidia ha invertido en Anthropic y suministra hardware utilizado en el desarrollo de modelos de la empresa. Justin Boitano, vicepresidente de Enterprise AI de Nvidia, dijo a The Information que la empresa cree que la retención cero de datos, o ZDR, debería estar activada por defecto. En su lugar, Nvidia está utilizando sus propios modelos Nemotron para aplicaciones internas como la supervisión de la cadena de suministro asistida por IA, mientras reserva Fable para tareas menos sensibles, incluidos proyectos de código abierto.
Booz Allen Hamilton, un usuario temprano del modelo Mythos de Anthropic, según los informes prohibió a los empleados usar Fable en software propietario de ciberseguridad. El director de tecnología Bill Vass dijo que la empresa temía que el modelo pudiera aprender de su código. La postura de Palantir también tiene una dimensión comercial: la empresa se beneficia cuando los clientes ejecutan modelos a través de su plataforma controlada en lugar de conectarse directamente con proveedores externos. Ese incentivo no invalida la preocupación, pero sí es contexto relevante al evaluar la solidez de la objeción de la empresa.
La retención cero no responde a todas las preguntas sobre datos
Según los informes, Anthropic se ha movido hacia un programa de registros de seguridad gestionado por el cliente tras la resistencia empresarial y la decisión de OpenAI en agosto de permitir que los clientes de GPT-5.6 Cyber almacenen los registros de seguridad en sus propios servidores. Se espera que el programa equivalente de Anthropic se despliegue para clientes seleccionados en otoño, según el material de origen. Los informes disponibles no establecen cuán ampliamente se ofrecerá el programa ni si cubrirá todos los tipos de interacción empresarial.
Una complicación adicional es que la retención cero se aplica al contenido almacenado, no necesariamente a toda la información producida cuando un cliente usa un servicio de IA. The Decoder informa que tanto Anthropic como OpenAI recopilan metadatos y datos técnicos de uso de clientes empresariales. OpenAI describe parte de esta información como desidentificada y afirma que clasificadores automáticos y herramientas de seguridad analizan datos empresariales para entender cómo se utilizan sus servicios. La empresa dice que esas clasificaciones contienen metadatos y no los datos empresariales subyacentes.
Esa distinción no ha satisfecho a todos los clientes. Los informes indican que algunas organizaciones siguen sin tener claro qué incluyen los metadatos, cuánto tiempo se conservan y si podrían revelar patrones comercialmente valiosos. Para los equipos de compras, por tanto, la cuestión es más amplia que si un proveedor almacena prompts. Incluye registros, telemetría, clasificadores, registros de depuración, sistemas de supervisión de abusos y cualquier información derivada utilizada para mejorar productos o detectar fallos.
Las pruebas y las afirmaciones siguen siendo difíciles de comparar
Las afirmaciones centrales de esta historia proceden de decisiones informadas de clientes y comentarios de ejecutivos, no de una auditoría independiente de los sistemas de Anthropic o OpenAI. El reportaje de The Information, resumido por The Decoder, es la base de los relatos sobre las restricciones de Nvidia, la prohibición interna de Booz Allen Hamilton y la política de despliegue de Palantir. La futura opción de registro gestionado por el cliente de Anthropic también se informa aquí y no se documenta mediante una especificación pública completa del producto.
El debate va más allá del entrenamiento directo de modelos. El excofundador de OpenAI John Schulman ha descrito un espectro de posibles usos de los datos de clientes, desde el preentrenamiento directo hasta tareas de destilación y aprendizaje por refuerzo construidas a partir de trazas de usuario. Ha argumentado que la desidentificación es una protección débil contra la filtración de propiedad intelectual y ha pedido normas de divulgación más sólidas. En una aclaración posterior, Schulman dijo que los datos de usuario probablemente no contribuyan de forma significativa a las mejoras de capacidad de vanguardia en comparación con el preentrenamiento y el aprendizaje por refuerzo a gran escala. No obstante, añadió que esos datos pueden ayudar a identificar modos de fallo y casos difíciles del mundo real.
La investigadora Sarah Hooker ha planteado una preocupación relacionada: los métodos con datos sintéticos podrían permitir que un laboratorio extraiga patrones estadísticos útiles sin conservar ni reproducir directamente el material original. Estas son posibilidades técnicas importantes, pero la fuente no establece que Anthropic u OpenAI utilizaran los datos de un cliente concreto de esa manera. Más bien muestran por qué un lenguaje contractual centrado solo en el “entrenamiento” puede dejar a los clientes inseguros sobre las señales derivadas y los flujos de trabajo de desarrollo de modelos.
La preocupación se volvió más tangible después de que el matemático Tristan Buckmaster y el coautor Levent Alpöge dijeran que habían usado Codex de OpenAI mientras trabajaban en las ecuaciones de Navier-Stokes, y luego vieran cómo OpenAI presentaba un avance que involucraba una ruta de solución similar. OpenAI dijo inicialmente que no podía descartar una contribución de datos de producto anonimizados, antes de afirmar más tarde que los prompts del período relevante no podrían haber influido en el sistema. El incidente no demostró un uso indebido, pero sí mostró con qué rapidez puede deteriorarse la confianza cuando los investigadores no pueden trazar de forma independiente cómo se trataron sus entradas.
Implicaciones para desarrolladores y compradores empresariales
Para los equipos de producto de IA, la lección práctica es que la promesa de un proveedor de “no entrenar con datos empresariales” es solo un control entre muchos. Los equipos que despliegan modelos para programación, seguridad, investigación u operaciones necesitan mapear toda la ruta de los datos: almacenamiento de prompts, registros de respuestas, supervisión de abusos, acceso de soporte, generación de metadatos, periodos de retención, subcontratistas y procesos de mejora del modelo.
Los desarrolladores pueden responder dirigiendo el trabajo sensible a modelos autoalojados o controlados internamente, como Nemotron de Nvidia, separando cargas de trabajo de bajo y alto riesgo, o exigiendo registros gestionados por el cliente. Esos enfoques pueden reducir la exposición, pero añaden costes en infraestructura, evaluación, actualizaciones de modelos y soporte operativo. Las empresas más pequeñas pueden tener menos alternativas y verse obligadas a aceptar políticas de proveedores que las grandes sí pueden negociar.
La disputa también plantea una cuestión competitiva. Los laboratorios de vanguardia quieren acceder a señales de uso en el mundo real para mejorar la fiabilidad e identificar ataques, mientras que los compradores empresariales quieren que esas mismas interacciones permanezcan aisladas. Los proveedores que ofrezcan controles precisos de retención, políticas de telemetría auditables y límites claros sobre los datos derivados pueden obtener una ventaja incluso cuando sus modelos no sean los más fuertes en los benchmarks.
Qué observar a continuación
La señal inmediata será el alcance del programa de registros gestionado por el cliente de Anthropic: qué clientes califican, si cubre todo el uso de Fable y si algún metadato residual permanece en Anthropic. Los compradores también deberían observar definiciones más claras de datos “desidentificados” por parte de OpenAI y otros proveedores, incluidos los periodos de retención y los usos permitidos.
Una segunda señal será si Nvidia, Booz Allen Hamilton y Palantir restablecen un acceso más amplio a Fable tras los cambios de política. Más declaraciones de clientes, auditorías independientes o plantillas contractuales podrían indicar que el mercado está pasando de garantías generales a controles verificables. Por el contrario, el uso continuado de modelos internos separados para trabajos sensibles sugeriría que la confianza sigue siendo una restricción de despliegue y no un mero detalle de compra.
Perspectiva de Creati.ai
La disputa sobre Fable no demuestra que los laboratorios de IA estén entrenando en secreto con cada prompt empresarial. Demuestra que las políticas actuales a menudo dejan demasiado margen de interpretación. “No training” y “retención cero de datos” abordan riesgos importantes, pero no explican completamente qué ocurre con la telemetría, las señales de detección de abusos, los datos derivados o el acceso temporal por parte de los sistemas del proveedor.
Para los compradores de IA, la confianza se está convirtiendo en un problema de arquitectura y gobernanza, no en una declaración de marketing. Los proveedores que hagan que los flujos de datos sean observables, configurables y contractualmente exigibles estarán mejor posicionados para ganar cargas de trabajo sensibles. Hasta entonces, las empresas seguirán separando el uso cómodo de la IA del trabajo que consideran demasiado valioso como para colocarlo dentro de un servicio de modelos opaco.
