OpenAI, Anthropic y Google DeepMind confirman semanas de conversaciones sobre seguridad en IA

OpenAI ha estado hablando sobre seguridad en IA con sus rivales Anthropic y Google DeepMind durante varias semanas, dijo el martes a los periodistas Chris Lehane, jefe de políticas globales de la compañía. La revelación confirma que las principales empresas de modelos de frontera han estado coordinándose en privado mientras los responsables políticos debaten cómo gestionar sistemas cada vez más capaces.

Las conversaciones se producen en medio de una creciente división en Washington. El CEO de Anthropic, Dario Amodei, ha instado al sector a ralentizar el ritmo del desarrollo de la IA de frontera para reducir los riesgos catastróficos, mientras que el presidente Donald Trump y su asesor de IA David Sacks han desestimado esas preocupaciones y han argumentado que unas restricciones más estrictas podrían debilitar a Estados Unidos frente a China. Para los desarrolladores de IA y los compradores empresariales, la disputa podría determinar cómo evolucionan las evaluaciones de modelos, los controles de despliegue y la supervisión independiente en la siguiente fase del mercado.

Por qué surgieron ahora las conversaciones

Los comentarios de Lehane, recogidos por TechCrunch después de una cobertura anterior de Bloomberg, siguieron a un ensayo público de Amodei en el que pedía una cooperación más estrecha entre las empresas de IA. Entre las figuras del sector que, según se informó, apoyaron el llamado a la acción estaban el CEO de OpenAI, Sam Altman, el CEO de Google DeepMind, Demis Hassabis, y Elon Musk de SpaceXAI.

Altman también ha dicho que OpenAI trabajará con Anthropic para incorporar evaluadores de terceros en sus operaciones. Se pretende que esos evaluadores supervisen si los modelos avanzados se están desarrollando y desplegando de forma segura, aunque la información disponible no especifica el alcance, la autoridad ni los estándares operativos de las revisiones propuestas.

Las conversaciones privadas ya habían sido insinuadas antes de la confirmación de OpenAI. TechCrunch informó que Altman reconoció recientemente conversaciones privadas con otros líderes de IA. The Information informó por separado que OpenAI, Anthropic y Google DeepMind trabajaban hacia un organismo de estándares del sector, aunque ese reporte decía que Altman dijo al personal de OpenAI que tal esfuerzo quizá tendría que avanzar sin el apoyo del gobierno de EE. UU.

Por tanto, las conversaciones parecen implicar algo más que un contacto informal entre directivos. Pueden incluir prácticas de seguridad compartidas, evaluación externa y un posible mecanismo para fijar estándares entre laboratorios competidores. Las empresas no han publicado públicamente un marco detallado, y TechCrunch dijo que contactó a OpenAI, Anthropic y Google para obtener comentarios.

La coordinación en seguridad se encuentra con preocupaciones antimonopolio

La cooperación entre competidores directos crea una complicación legal y comercial. Altman y otros han reconocido que las conversaciones conjuntas podrían plantear preocupaciones antimonopolio si los reguladores concluyen que la coordinación en seguridad se está usando para limitar la competencia, ralentizar lanzamientos de productos o dividir mercados.

La propuesta de Amodei incluía una exención gubernamental limitada que protegería cierta coordinación relacionada con la seguridad. Según TechCrunch, Lehane dijo que las empresas no necesitan esa exención. Esa postura deja abierta una pregunta central: ¿qué salvaguardas pueden discutir juntas los laboratorios sin cruzar la línea hacia una conducta que pueda interpretarse como una supresión de la competencia?

La distinción importa porque las empresas no son meros grupos de investigación académica. OpenAI, Anthropic y Google DeepMind compiten por desarrolladores, contratos empresariales, capacidad de infraestructura e influencia sobre los estándares que podrían regir los modelos avanzados. Un protocolo de pruebas común podría mejorar la comparabilidad y reducir el trabajo duplicado, pero también podría dar a los mayores laboratorios un control desproporcionado sobre las reglas aplicadas al resto del sector.

Para las empresas que construyen sobre estos modelos, el resultado podría afectar la documentación, los requisitos de auditoría y el acceso a capacidades de mayor riesgo. Un proceso voluntario de la industria podría avanzar más rápido que la legislación, pero también podría carecer de una aplicación coherente o de autoridad independiente.

Evidencia, afirmaciones y la división de políticas

El hecho más sólidamente confirmado en la información es la afirmación de Lehane de que OpenAI ha mantenido conversaciones sobre seguridad con Anthropic y Google DeepMind durante semanas. El esfuerzo más amplio para crear un organismo de estándares sigue basándose en el reporte de The Information y no en un anuncio público de las empresas.

Los beneficios de la evaluación por terceros también son prospectivos más que demostrados en el material fuente. No se proporcionaron resultados independientes, nombres de evaluadores, criterios de prueba ni proceso de aplicación. Las referencias al riesgo catastrófico reflejan la postura de Amodei y otros defensores de la seguridad en IA, no una medición establecida que demuestre que un modelo o despliegue concreto haya alcanzado ese umbral.

Hassabis ha pedido anteriormente que Estados Unidos establezca un nuevo organismo de estándares con capacidad para examinar modelos avanzados y coordinar ralentizaciones en toda la industria si los riesgos aumentan. Esa propuesta contrasta con la postura atribuida a Trump y Sacks, quienes han calificado las advertencias sobre riesgos existenciales de exageradas o políticamente motivadas y han enfatizado la competencia con China.

El conflicto político da a las conversaciones privadas una importancia inusual. Si el gobierno de EE. UU. no está dispuesto a crear un mecanismo formal de supervisión, los laboratorios de frontera pueden intentar construir uno por sí mismos. Pero un organismo privado dirigido por las empresas evaluadas se enfrentaría a preguntas sobre independencia, transparencia y conflictos de interés.

Qué podrían significar las conversaciones para los desarrolladores de IA

Para los desarrolladores de modelos, la implicación inmediata es un posible giro hacia prácticas de evaluación compartidas. Las pruebas comunes podrían facilitar la comparación de sistemas en capacidades peligrosas, el seguimiento de cambios entre versiones de modelos y la identificación de cuándo un despliegue necesita controles más estrictos. También podrían crear nuevos costes de cumplimiento, especialmente para las empresas más pequeñas que no cuentan con los equipos de seguridad ni la infraestructura de los mayores laboratorios.

Para los equipos de producto empresarial, la verificación independiente podría convertirse en parte de la diligencia debida con proveedores. Los compradores podrían terminar queriendo pruebas de que un modelo ha pasado por pruebas externas antes de permitir que maneje datos sensibles, opere herramientas o tome decisiones en flujos de trabajo regulados. Sin embargo, no hay un calendario confirmado para tales requisitos, y ningún acuerdo descrito en la información ha establecido todavía una certificación común.

Las apuestas comerciales son igualmente directas. Una ralentización coordinada en torno a hallazgos de seguridad podría afectar a los calendarios de lanzamiento, la disponibilidad de API y el ritmo al que los desarrolladores reciben nuevas capacidades. Por el contrario, si las empresas no pueden coordinarse por el riesgo antimonopolio, cada laboratorio puede seguir fijando sus propios umbrales y métodos de evaluación. Eso podría preservar la competencia, pero dejar a los clientes con información incoherente sobre el riesgo de los modelos.

La cuestión también va más allá de estas tres empresas. Un organismo de estándares del sector tendría que tener en cuenta a los desarrolladores de modelos abiertos, a los proveedores de nube, a los investigadores independientes y a las empresas que despliegan modelos en entornos especializados. Las normas creadas solo por los mayores laboratorios de frontera podrían resultar difíciles de adoptar para el ecosistema más amplio.

Qué observar a continuación

La próxima señal concreta será si OpenAI, Anthropic o Google DeepMind identifica públicamente a los participantes, el alcance y la gobernanza de las conversaciones sobre seguridad. Los detalles sobre los evaluadores de terceros —incluido quién los designa, qué pueden inspeccionar y si sus conclusiones se publicarán— distinguirían un plan de supervisión sustancial de un compromiso general amplio.

La respuesta de los legisladores al FRONTIER Act también importará. Lehane dijo que OpenAI apoya una disposición que exige a los principales laboratorios de frontera admitir en sus empresas a “organizaciones independientes de verificación”. El texto legislativo, las facultades de aplicación y la definición de un laboratorio cubierto podrían determinar si la propuesta se convierte en una obligación real o sigue siendo una posición de política.

Por último, los desarrolladores deberían vigilar un anuncio formal de un organismo de estándares, puntos de referencia de evaluación compartidos y pruebas de que el proceso incluye a organizaciones ajenas a los tres participantes más grandes. Sin esas señales, las conversaciones siguen siendo una revelación importante sobre coordinación, pero aún no un régimen operativo de seguridad.

Perspectiva de Creati.ai

La importancia de esta historia no es simplemente que tres empresas de IA estén hablando. Es que las empresas parecen reconocer la necesidad de procesos de seguridad comunes mientras operan en un mercado en el que la cooperación puede generar riesgos legales y competitivos. Esa tensión marcará si la supervisión surge como legislación, estándares voluntarios o un mosaico de prácticas específicas de cada empresa.

Para desarrolladores y compradores empresariales, la lección práctica es tratar los compromisos de seguridad como incompletos hasta que produzcan pruebas verificables: pruebas definidas, acceso independiente, resultados publicados y consecuencias claras por incumplimiento. Las conversaciones pueden ser un punto de partida útil, pero su credibilidad dependerá de si los participantes pueden hacer que la supervisión sea realmente independiente sin convertir un foro de seguridad en un mecanismo de control de acceso para el mercado de la IA.