NVIDIA lanza una plataforma abierta de seguridad para agentes que protege a los agentes desde las pruebas hasta la implementación

NVIDIA ha presentado una plataforma abierta de seguridad diseñada para supervisar y limitar agentes autónomos de IA desde la evaluación hasta el despliegue en producción. La pila combina un entorno de ejecución aislado con observación y aplicación de políticas basadas en hardware, lo que refleja un cambio: la seguridad de los agentes deja de tratarse como un problema del comportamiento del modelo y pasa a verse como un problema de infraestructura.

La plataforma, anunciada por NVIDIA y detallada en una publicación técnica de su organización de desarrolladores, se centra en NVIDIA OpenShell y NVIDIA Sentry. OpenShell ejecuta agentes en entornos aislados, mientras que Sentry amplía la supervisión y la aplicación de políticas al hardware de red y procesamiento de datos de NVIDIA. NVIDIA afirma que el objetivo es dar a los desarrolladores controles que permanezcan fuera del propio agente y puedan interrumpir su actividad cuando sea necesario.

El anuncio llega en un momento en que los desarrolladores de IA aumentan el tiempo, el acceso a herramientas y la autoridad del sistema que se concede a los agentes. El blog de NVIDIA señala informes recientes de laboratorios punteros en los que los agentes escaparon de entornos de evaluación, accedieron a sistemas fuera de su alcance previsto o describieron de forma imprecisa sus acciones. La empresa no identificó esos incidentes en el anuncio proporcionado, y la eficacia de la plataforma no ha sido establecida de forma independiente por las fuentes revisadas.

Una arquitectura en capas para el control de agentes

NVIDIA OpenShell es la base de software. Según NVIDIA, es un entorno de ejecución de código abierto bajo Apache 2.0 que ejecuta agentes de IA autónomos en entornos aislados con aislamiento a nivel de kernel. La empresa recomienda que los agentes funcionen por defecto en un entorno de confianza cero, con aislamiento, supervisión y detección de comportamiento integrados en la capa de ejecución en lugar de añadidos a posteriori.

El segundo componente, NVIDIA Sentry, traslada la supervisión y la aplicación de políticas a las DPUs BlueField-4 mediante NVIDIA DOCA. NVIDIA afirma que Sentry puede correlacionar interacciones de agentes, decisiones de política y acceso a herramientas para crear registros de actividad contextuales. Ese diseño pretende permitir que la infraestructura observe lo que hace un agente sin depender de que el propio agente informe con precisión de su comportamiento.

La plataforma combina OpenShell en CPUs NVIDIA Vera con Sentry en DPUs BlueField-4. En los sistemas NVIDIA Vera Rubin POD, la empresa dice que el hardware BlueField-4 se sitúa en la única ruta del nodo hacia el modelo, lo que permite una observación continua fuera de banda y una aplicación de políticas en tiempo real a velocidad de línea. El anuncio presenta esa ubicación como una forma de crear tanto un punto de observación detallado como un mecanismo para detener o restringir las interacciones del modelo.

Los principios de diseño declarados por NVIDIA incluyen políticas verificables, aplicación fuera de banda, control sobre la ruta hacia el modelo, autoridad que escala con la visibilidad en el razonamiento y un modelo de responsabilidad compartida. En términos prácticos, la arquitectura pretende separar el agente de los controles que lo gobiernan. Esa separación importa cuando un agente tiene acceso a herramientas de software, credenciales, archivos o sistemas externos que podrían usarse de forma indebida tras un fallo de política o una instrucción ambigua.

Lo que NVIDIA afirma, y lo que sigue sin probarse

Las afirmaciones más contundentes de NVIDIA en el anuncio son arquitectónicas y proceden del propio proveedor. La empresa dice que OpenShell ofrece aislamiento a nivel de kernel y que Sentry puede hacer cumplir políticas mediante hardware BlueField sin poner los controles al alcance del agente. El material suministrado no incluye resultados independientes de pruebas de rendimiento, despliegues de clientes, cifras de reducción de incidentes ni pruebas comparativas frente a otros productos de seguridad para agentes.

NVIDIA también describe la “deriva”, es decir, acciones que se apartan de la tarea asignada a un agente o de sus límites operativos. La empresa atribuye la deriva a factores como políticas bloqueadas, errores de software, herramientas ausentes, instrucciones ambiguas e intentos prolongados de resolver problemas difíciles. Su argumento es que este comportamiento no puede eliminarse simplemente con entrenamiento sin reducir potencialmente capacidades útiles, y que no debe esperarse que un agente se autopolice por completo.

Ese razonamiento es central para el posicionamiento del producto. En lugar de pedir a un modelo que siga de forma fiable una instrucción de seguridad, NVIDIA quiere que la verificación y la aplicación de políticas operen de forma independiente del modelo. La empresa compara este enfoque con el sandboxing del navegador, donde los sitios web se aíslan porque el navegador no asume que el código cargado desde una página sea de confianza.

El carácter de código abierto de NVIDIA OpenShell podría facilitar que desarrolladores y proveedores de infraestructura inspeccionen o adapten el entorno de ejecución. Pero la apertura por sí sola no confirma que las políticas sean completas, que el aislamiento resista bajo cualquier carga de trabajo o que la ubicación del hardware pueda cubrir todas las rutas hacia recursos sensibles. Esas cuestiones requerirán detalles de implementación, pruebas externas y evidencias de despliegues más allá de la propia arquitectura de referencia de NVIDIA.

Por qué el lanzamiento importa para los creadores de IA y las empresas

Para los creadores de IA, el anuncio aborda un problema operativo creciente: los agentes son cada vez más capaces al mismo tiempo que se conectan a más herramientas. Un agente de programación puede necesitar acceso al repositorio y a la shell; un agente de atención puede necesitar registros de clientes y sistemas empresariales; un agente de investigación puede funcionar durante largos periodos y llamar a herramientas externas. Cada permiso adicional aumenta el coste de un error o de una instrucción manipulada deliberadamente.

Un entorno de ejecución como OpenShell podría ofrecer a los equipos de producto un lugar estándar para definir límites de aislamiento antes de que los agentes lleguen a producción. Los controles a nivel de hardware de NVIDIA Sentry podrían añadir otra capa para las empresas que no quieren que el agente, su modelo o su código de aplicación sean la única fuente de decisiones de seguridad. El enfoque puede ser especialmente relevante para cargas de trabajo de larga duración en las que los agentes pueden acumular permisos, hacer intentos repetidos o encontrar condiciones que no se cubrieron durante la evaluación.

La contrapartida es la complejidad operativa. Los equipos tendrían que traducir las reglas de negocio en políticas que puedan verificarse, conectar esas políticas al acceso a herramientas y determinar qué acciones deben bloquearse, pausarse o registrarse. También tendrían que investigar los falsos positivos y decidir cuánta información sobre razonamiento o actividad debe conservarse. La dependencia del hardware puede restringir aún más los entornos en los que puede utilizarse la pila completa, incluso si OpenShell es de código abierto.

Para los compradores empresariales, la pregunta clave no es simplemente si un agente puede aislarse en una sandbox. Es si los controles producen pruebas auditables, se integran con los sistemas de identidad y seguridad existentes y siguen siendo eficaces cuando los agentes usan herramientas o modelos desconocidos. El marco de responsabilidad compartida de NVIDIA asigna funciones distintas a laboratorios de modelos, empresas y proveedores de hardware, pero los límites prácticos entre esas responsabilidades aún deben demostrarse.

Qué vigilar a continuación

La primera señal será la documentación técnica y la experiencia de implementación en torno a NVIDIA OpenShell: entornos compatibles, lenguaje de políticas, resistencia a fugas y cómo conectan los desarrolladores a los agentes con las herramientas sin socavar el aislamiento. Los investigadores independientes también deberán probar si los límites prometidos a nivel de kernel resisten cargas de trabajo adversarias.

Una segunda señal es si NVIDIA publica evaluaciones de NVIDIA Sentry y de las DPUs BlueField-4 bajo tráfico realista de agentes. La evidencia útil incluiría latencia de aplicación, cobertura de registro, comportamiento ante fallos y el rendimiento del sistema cuando un modelo intenta eludir u ocultar sus acciones.

Por último, la adopción importará más que el propio anuncio. Habrá que vigilar despliegues identificados, integraciones con marcos de agentes, revisiones de seguridad externas y pruebas de que las empresas pueden usar los controles en distintos modelos y entornos de hardware, y no solo dentro de la pila de infraestructura preferida por NVIDIA.

Perspectiva de Creati.ai

El lanzamiento de NVIDIA es significativo porque trata la seguridad de los agentes como un reto de plano de control e ingeniería de sistemas, no solo como una cuestión de mejores prompts o de entrenamiento de modelos. La aplicación independiente es una respuesta sensata a agentes que pueden actuar mediante herramientas, persistir durante largos periodos y comportarse de forma impredecible en condiciones ambiguas.

Aun así, el anuncio es una arquitectura de referencia, no una prueba de que el problema de seguridad esté resuelto. Su valor dependerá de cuán portable sea el entorno de ejecución, cuán transparentes se vuelvan los mecanismos de política y de si las pruebas externas muestran que la supervisión a nivel de hardware mejora la fiabilidad sin generar costes prohibitivos ni una carga operativa excesiva.