Jensen Huang, de Nvidia, dice que la seguridad de la IA debe quedar en manos de las empresas, no de nuevas leyes

El CEO de Nvidia, Jensen Huang, ha rechazado los llamados a una nueva regulación de la inteligencia artificial, argumentando que la seguridad de la IA debe gestionarse mediante ingeniería, las leyes existentes y la presión del mercado, en lugar de reglas gubernamentales adicionales.

Hablando en Salesforce Dreamforce el 15 de septiembre, Huang dijo que la IA no es una “mente alienígena”, sino un sistema informático construido por personas. Dado que es software y hardware, sostuvo, las empresas deberían poder controlar sus riesgos mediante el desarrollo y las pruebas de productos.

La postura sitúa con firmeza a una de las figuras más influyentes del mercado de infraestructura de IA en contra de la nueva regulación de la IA. También pone de relieve una disputa política central a la que se enfrentan los creadores de IA y los compradores empresariales: si los sistemas potencialmente dañinos deben regirse principalmente como productos, o si requieren normas diseñadas específicamente para modelos y agentes cada vez más capaces.

El argumento de Huang a favor de la ingeniería frente a la regulación

“La seguridad es un problema de ingeniería, no legal”, dijo Huang, según el relato de TechCrunch AI sobre la discusión. Comparó el desarrollo de la IA con la creación de otro software y otros sistemas informáticos, afirmando que las empresas deberían retrasar un lanzamiento cuando no confíen en su funcionalidad, capacidad o seguridad.

Huang también sostuvo que el libre mercado ya ofrece a las empresas un incentivo para evitar lanzar productos peligrosos. En su opinión, los clientes rechazarán sistemas que no funcionen de manera fiable o segura, mientras que las empresas pueden ajustar su ritmo de desarrollo cuando un producto parezca estar fuera de control.

El director de Nvidia presentó la seguridad y la innovación rápida como objetivos compatibles. Según él, las empresas pueden seguir avanzando con rapidez y pausar cuando sea necesario para asegurarse de que un producto esté listo. Su argumento refleja el interés comercial más amplio de Nvidia en expandir la adopción de la IA en todos los sectores y países, aunque las pruebas aportadas por TechCrunch no establecen que los incentivos del mercado por sí solos sean suficientes para evitar daños graves.

La evidencia detrás del debate sobre la seguridad

Los comentarios de Huang son la posición de un ejecutivo, no el resultado de un nuevo estudio de seguridad de Nvidia ni de un análisis de políticas validado de forma independiente. TechCrunch informó de las declaraciones desde el evento de Salesforce, pero no citó datos que demuestren que las decisiones voluntarias de las empresas previenen de forma consistente fallos o usos indebidos en productos de IA.

El historial de despliegue de software ofrece motivos para la cautela. TechCrunch señaló la caída de CrowdStrike en 2024, en la que una actualización defectuosa de software interrumpió aerolíneas y otras empresas, como ejemplo de cómo un fallo involuntario de un producto puede generar consecuencias mucho más allá de la empresa que lo lanzó.

El artículo también citó el acuerdo informado de Meta por 18.000 millones de dólares en relación con acusaciones de daños a niños en sus plataformas sociales. Ese caso no es un precedente específico de la IA, pero ilustra los límites de asumir que las empresas siempre internalizarán el costo social total de sus decisiones de producto.

Los sistemas de IA han generado su propio conjunto de preocupaciones, incluidas acusaciones relacionadas con interacciones de chatbots, incidentes de ciberseguridad y demandas contra OpenAI. Estos ejemplos no prueban que la regulación hubiera evitado los daños subyacentes. Sí muestran por qué los críticos cuestionan si las pruebas internas y la elección del cliente ofrecen suficiente protección cuando los sistemas afectan a personas que no son ni compradores ni operadores.

La legislación existente sobre responsabilidad por productos podría aplicarse potencialmente a los productos de IA, como señaló TechCrunch, pero eso sigue siendo una cuestión jurídica que los tribunales tendrían que poner a prueba en diferentes sistemas, usos y cadenas de responsabilidad. La fuente también informó que Huang no se centró en la autorregulación del sector, otra vía posible entre el despliegue sin restricciones y las reglas formales del gobierno.

Qué significa la visión de Huang para los creadores de IA

Para los desarrolladores de modelos y los equipos de producto, la postura de Huang refuerza la importancia de tratar la seguridad de la IA como una disciplina de lanzamiento e ingeniería. Eso incluye probar el comportamiento del modelo, supervisar los despliegues, establecer controles de acceso y crear procedimientos claros de reversión cuando los sistemas se comportan de forma inesperada.

Esas prácticas son especialmente importantes para los agentes de IA que pueden actuar en sistemas empresariales en lugar de limitarse a generar texto. Un fallo en un agente puede afectar a registros de clientes, pagos, repositorios de código o decisiones internas. La presión del mercado puede castigar a una empresa después de un incidente, pero no necesariamente protege a los usuarios afectados antes de que ocurra el fallo.

El contexto comercial también importa. Nvidia suministra gran parte de la infraestructura utilizada para entrenar y desplegar IA, y se está expandiendo hacia software, agentes, modelos de pesos abiertos y entornos de desarrollo. Su crecimiento depende de que los clientes sigan creando y operando sistemas de IA a escala. Eso no invalida el argumento de Huang sobre la seguridad, pero significa que los lectores deberían distinguir una opinión técnica de una evaluación independiente de los intercambios en el interés público.

Para las empresas, el debate plantea una cuestión práctica de diligencia debida. Los compradores no pueden asumir que el proceso interno de seguridad de un proveedor cubrirá todos los riesgos creados por su despliegue en su propio entorno. Necesitarán protecciones contractuales, derechos de auditoría, notificación de incidentes, supervisión humana y responsabilidades claras cuando un modelo o agente cause daños.

Regulación, autorregulación y competencia

Las declaraciones de Huang llegan en un momento en que la industria de la IA se pregunta si las normas voluntarias pueden ofrecer salvaguardas sin ralentizar el desarrollo. TechCrunch informó que el CEO de Microsoft, Satya Nadella, ha argumentado que las empresas y los países, incluida China, deberían compartir la preocupación por riesgos como la piratería y la seguridad ciudadana.

Ese argumento apunta hacia una autorregulación sectorial coordinada, pero la participación y la aplicación siguen sin resolverse. Un marco voluntario solo es tan fuerte como su alcance, sus estándares de prueba, sus requisitos de notificación y las consecuencias para las empresas que lo ignoran. También puede ser difícil aplicarlo de forma coherente a sistemas propietarios, modelos de pesos abiertos y productos distribuidos a través de terceros.

Huang ha promovido los modelos de pesos abiertos como un contrapeso competitivo frente a los laboratorios de IA propietarios. Ese enfoque puede ampliar el acceso a modelos y herramientas, pero también complica la supervisión porque los usuarios posteriores pueden modificar, ajustar o desplegar sistemas de formas que el desarrollador original no anticipó.

La cuestión política central, por tanto, no es simplemente si la IA es software. Es si el software con amplia autonomía, comportamiento incierto y efectos sociales a gran escala puede regirse adecuadamente mediante los mismos mecanismos utilizados para los productos comerciales ordinarios.

Qué vigilar a continuación

Las próximas señales vendrán de cómo las empresas conviertan en práctica la posición sobre seguridad descrita por Huang. Los compradores y desarrolladores deberían prestar atención a pruebas auditadas de forma independiente, divulgación significativa de incidentes y pruebas de que los proveedores pausan o retiran sistemas cuando surgen preocupaciones de seguridad.

Los casos judiciales también aclararán si las normas existentes de responsabilidad por productos pueden asignar responsabilidades entre creadores de modelos, desarrolladores de aplicaciones, desplegadores y usuarios. Los responsables políticos pueden usar esos casos para decidir si hacen falta nuevas reglas o si la ley actual puede adaptarse.

Los estándares impulsados por la industria serán otra prueba. Su credibilidad dependerá de si los principales laboratorios de IA y proveedores de infraestructura adoptan definiciones comunes, comparten información sobre fallos y aceptan consecuencias por incumplimiento en lugar de tratar los compromisos de seguridad como lenguaje de marketing.

Perspectiva de Creati.ai

Huang tiene razón en que gran parte de la seguridad de la IA implica decisiones de ingeniería: evaluación, controles de acceso, supervisión y procesos disciplinados de lanzamiento. Pero los controles técnicos y la rendición de cuentas pública no son intercambiables. Una empresa puede hacer un esfuerzo de buena fe y aun así pasar por alto un modo de fallo, mientras que las personas afectadas pueden no tener una forma significativa de evitar el daño resultante.

El enfoque más duradero probablemente combinará el trabajo técnico de seguridad con una responsabilidad exigible. Para los creadores de IA, eso significa diseñar pensando en el fallo y documentar los controles. Para las empresas, significa exigir pruebas en lugar de confiar en garantías. Y para los legisladores, significa comprobar si la ley existente funciona antes de decidir dónde se necesitan nuevas normas específicas.