NVIDIA ha reunido a decenas de empresas y organizaciones de código abierto para formar la Open Secure AI Alliance, un grupo centrado en desarrollar herramientas disponibles de forma abierta para la seguridad y la ciberseguridad de la IA. La iniciativa está diseñada para ayudar a los defensores a inspeccionar, adaptar y operar sistemas de seguridad dentro de su propia infraestructura, en lugar de depender exclusivamente de proveedores de IA cerrados.

La alianza incluye empresas como Amazon, Microsoft, IBM, Cisco, Google? No—Google no está incluido—junto con Hugging Face, Mistral, Red Hat, CrowdStrike, Palo Alto Networks, Salesforce, ServiceNow, Databricks, GitHub y la Linux Foundation. NVIDIA afirma que el grupo desarrollará y compartirá tecnologías para proteger software y agentes de IA, incluidos modelos, harnesses de agentes, sistemas de identidad, herramientas de evaluación y formatos de modelo seguros.

Una alianza construida en torno a una infraestructura defensiva abierta

NVIDIA presenta la iniciativa como una extensión del trabajo de seguridad de código abierto ya asociado con la iniciativa Akrites de la Linux Foundation y la Open Source Security Foundation, o OpenSSF. Su objetivo declarado es ayudar a remediar y divulgar vulnerabilidades utilizando tecnologías abiertas, al tiempo que da a más defensores acceso a sistemas que pueden examinar y modificar.

El argumento central es que la seguridad de la IA no puede depender únicamente de un pequeño número de sistemas opacos y cerrados. NVIDIA dice que los modelos y herramientas abiertos pueden proporcionar control local, protección de datos y la capacidad de adaptar los flujos de trabajo de seguridad a industrias o jurisdicciones concretas. La empresa también sostiene que un ecosistema multivendedor puede reducir la dependencia de un único proveedor.

Esa postura no equivale a un rechazo de los modelos cerrados. NVIDIA dice que los defensores necesitan tanto sistemas frontera abiertos como cerrados, usando cada uno donde sea más apropiado. El énfasis de la alianza está en garantizar que existan alternativas abiertas capaces para las operaciones de seguridad y la investigación.

El anuncio llega en un momento en que las empresas pasan de experimentar con modelos de lenguaje a desplegar agentes de IA que pueden acceder a archivos, llamar a herramientas de software y tomar acciones. Ese cambio amplía el problema de seguridad más allá del comportamiento del modelo. También introduce riesgos relacionados con la identidad, los permisos, el aislamiento, la auditabilidad y la cadena de suministro de software.

La pila propuesta va más allá de los pesos del modelo

NVIDIA dice que su contribución incluirá modelos abiertos, pesos de modelo, datos e investigación sobre harnesses de agentes. También está liberando en GitHub el framework NVIDIA Labs Object-Oriented Agent, o NOOA. La empresa describe NOOA como un marco de investigación destinado a facilitar la prueba, el seguimiento, la auditoría y la gobernanza del comportamiento de los agentes, mejorando la forma en que los harnesses se integran con los modelos.

Otros ejemplos citados por NVIDIA muestran el alcance previsto de la alianza. HPE contribuye a SPIFFE/SPIRE, un marco de identidad diseñado para verificar criptográficamente agentes y servicios antes de que se comuniquen o accedan a recursos empresariales. Hugging Face ha ofrecido Safetensors, un formato de pesos de modelo destinado a evitar la ejecución remota de código, a la PyTorch Foundation.

IBM y Red Hat están asociados con Lightwell, que extiende los parches firmados digitalmente a la cadena de suministro de código abierto. Microsoft está contribuyendo MDASH, descrito como un harness de escaneo multmodelo en el que agentes especializados buscan, debaten y determinan si los fallos de software son explotables.

La colección de proyectos sugiere que la alianza está tratando a un agente de IA como un sistema operativo completo y no simplemente como un modelo. En la práctica, eso significa que los controles de seguridad tendrían que cubrir el modelo, sus herramientas, sus permisos, sus registros y la infraestructura que lo ejecuta. Los harnesses abiertos y los formatos comunes podrían facilitar que equipos independientes inspeccionen y evalúen esos controles.

Qué muestran las pruebas y qué sigue sin demostrarse

La evidencia disponible procede principalmente del propio anuncio de NVIDIA. StorageNewsletter enumera el mismo lanzamiento de la alianza, pero el texto completo de su artículo no está disponible en el material de informe proporcionado. Como resultado, la lista de miembros, las contribuciones técnicas y los objetivos declarados deben considerarse información publicada por NVIDIA, no evidencia verificada de forma independiente de una ejecución conjunta.

NVIDIA apunta a un reciente incidente de seguridad de Hugging Face como ejemplo de por qué los defensores podrían necesitar sistemas de IA abiertos y alojados por ellos mismos. Según el relato de NVIDIA, las herramientas cerradas bloquearon partes del análisis forense porque no podían distinguir a los defensores de los atacantes. Hugging Face ejecutó entonces el modelo abierto GLM 5.2 en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión.

Ese relato ilustra el caso operativo a favor del control local, pero los detalles los presenta NVIDIA y no están corroborados de forma independiente en las fuentes proporcionadas. El anuncio tampoco ofrece un calendario de entrega, un modelo de gobernanza, una estructura de financiación, cifras de adopción ni una descripción de cómo las organizaciones participantes coordinarán los lanzamientos y la respuesta a vulnerabilidades.

El debate sobre la seguridad tampoco está resuelto. NVIDIA reconoce que los modelos abiertos pueden ser mal utilizados, incluso debilitando las salvaguardas o reutilizando capacidades para ataques. Su respuesta propuesta es combinar apertura con evaluación, red teaming, reglas de uso y remediación rápida. Esos son principios más que resultados demostrados en esta etapa.

Por qué deberían prestar atención los desarrolladores y los compradores empresariales

Para los desarrolladores de IA, la alianza podría crear componentes más reutilizables para asegurar aplicaciones agénticas. Una identidad estandarizada, formatos de modelo más seguros y harnesses comprobables podrían reducir la necesidad de que cada empresa construya controles separados en torno al acceso a herramientas, el registro y la procedencia del modelo. También podrían facilitar la ejecución de agentes de seguridad dentro del propio entorno de una empresa cuando no se pueden enviar datos sensibles a un servicio externo.

Los compradores empresariales deberían prestar atención a cómo maduran estos proyectos, no solo al tamaño de los miembros fundadores. Los componentes abiertos pueden mejorar la portabilidad y la auditabilidad, pero también generan responsabilidades operativas. Las organizaciones seguirán necesitando validar el código, gestionar parches, supervisar el comportamiento del modelo y decidir qué agentes reciben acceso a los sistemas de producción.

La alianza también podría agudizar la competencia entre plataformas centralizadas de IA y arquitecturas de seguridad más distribuidas. Un ecosistema abierto sólido podría dar a los equipos de seguridad más poder de negociación y reducir la dependencia de un proveedor de modelos. Sin embargo, herramientas fragmentadas, una gobernanza inconsistente y acuerdos de soporte poco claros podrían contrarrestar esos beneficios si los proyectos no convergen en estándares prácticos.

Para investigadores y responsables de políticas, el anuncio refuerza una pregunta importante: si los sistemas abiertos de IA deben tratarse principalmente como riesgos que hay que restringir o como infraestructura defensiva que los equipos de seguridad necesitan examinar y controlar. NVIDIA claramente defiende esta última visión, aunque admite que la apertura requiere salvaguardas y no un despliegue sin restricciones.

Qué vigilar a continuación

La primera señal será si la alianza publica una estructura de gobernanza concreta, una hoja de ruta compartida o estándares técnicos más allá de los proyectos nombrados en el anuncio de NVIDIA. Los compradores también deberían vigilar lanzamientos listos para producción de NOOA, MDASH, SPIFFE/SPIRE y herramientas relacionadas con la seguridad de agentes, junto con documentación que muestre cómo funcionan en distintos modelos y entornos en la nube.

Las evaluaciones independientes importarán más que la lista de socios. Las pruebas útiles incluirían pruebas reproducibles de permisos de agentes, detección de vulnerabilidades, falsos positivos, resistencia a la inyección de prompts y la seguridad de las cadenas de suministro de modelos y herramientas. También será importante ver si las empresas participantes divulgan vulnerabilidades mediante un proceso común y mantienen los proyectos a lo largo del tiempo.

Perspectiva de Creati.ai

La Open Secure AI Alliance es significativa porque define la seguridad de la IA como un problema de infraestructura y sistemas, no simplemente como una cuestión de elegir un modelo más seguro. Su contribución más práctica podría ser una capa compartida de identidad, harnesses, formatos y herramientas de evaluación que permita a las organizaciones operar agentes con más visibilidad y control.

Pero el anuncio sigue siendo un punto de partida. NVIDIA ha proporcionado una amplia coalición y una serie de ejemplos reportados por los proveedores, no una prueba de que ya exista una pila defensiva interoperable. La alianza ganará credibilidad mediante una gobernanza abierta, pruebas independientes y un mantenimiento sostenido, especialmente cuando sus herramientas se utilicen en incidentes de seguridad de alta presión y no solo en demostraciones.