Jensen Huang, da Nvidia, diz que a segurança da IA deve ficar com as empresas, não com novas leis

O CEO da Nvidia, Jensen Huang, rejeitou os apelos por uma nova regulamentação da inteligência artificial, argumentando que a segurança da IA deve ser tratada por meio de engenharia, das leis existentes e da pressão do mercado, e não por regras governamentais adicionais.

Falando no Salesforce Dreamforce em 15 de setembro, Huang disse que a IA não é uma “mente alienígena”, mas um sistema de computação construído por pessoas. Como é software e hardware, ele argumentou, as empresas deveriam ser capazes de controlar seus riscos por meio do desenvolvimento e dos testes de produto.

A posição coloca uma das figuras mais influentes do mercado de infraestrutura de IA firmemente contra a nova regulação da IA. Ela também destaca uma disputa de política central enfrentada por construtores de IA e compradores corporativos: se sistemas potencialmente nocivos devem ser governados principalmente como produtos, ou se precisam de regras criadas especificamente para modelos e agentes cada vez mais capazes.

O argumento de Huang a favor da engenharia em vez da regulação

“Segurança é um problema de engenharia, não jurídico”, disse Huang, segundo o relato da TechCrunch AI sobre a discussão. Ele comparou o desenvolvimento de IA com a criação de outros softwares e sistemas de computação, dizendo que as empresas deveriam adiar um lançamento quando não estiverem confiantes em sua funcionalidade, capacidade ou segurança.

Huang também argumentou que o livre mercado já dá às empresas um incentivo para evitar lançar produtos perigosos. Em sua visão, os clientes rejeitarão sistemas que não funcionem de forma confiável ou segura, enquanto as empresas podem ajustar seu ritmo de desenvolvimento quando um produto parecer estar fora de controle.

O chefe da Nvidia apresentou segurança e inovação rápida como metas compatíveis. As empresas, disse ele, podem continuar avançando rapidamente enquanto pausam quando necessário para garantir que um produto esteja pronto. Seu argumento reflete o interesse comercial mais amplo da Nvidia em expandir a adoção de IA em todos os setores e países, embora as evidências apresentadas pela TechCrunch não estabeleçam que os incentivos de mercado, por si só, sejam suficientes para evitar danos graves.

As evidências por trás do debate sobre segurança

Os comentários de Huang são a posição de um executivo, não o resultado de um novo estudo de segurança da Nvidia ou de uma análise de política validada de forma independente. A TechCrunch relatou as observações feitas no evento da Salesforce, mas nenhum dado foi citado mostrando que decisões voluntárias das empresas previnem consistentemente falhas ou uso indevido em produtos de IA.

O histórico de implantação de software oferece motivos para cautela. A TechCrunch apontou a pane da CrowdStrike em 2024, na qual uma atualização de software defeituosa interrompeu companhias aéreas e outras empresas, como exemplo de como uma falha involuntária de produto pode criar consequências muito além da empresa que o lançou.

O artigo também citou o acordo relatado da Meta de US$ 18 bilhões sobre alegações envolvendo danos a crianças em suas plataformas sociais. Esse caso não é um precedente específico de IA, mas ilustra os limites de assumir que as empresas sempre internalizarão o custo social total de suas decisões de produto.

Os sistemas de IA geraram seu próprio conjunto de preocupações, incluindo alegações envolvendo interações com chatbots, incidentes de cibersegurança e ações judiciais contra a OpenAI. Esses exemplos não provam que a regulação teria evitado os danos subjacentes. Eles mostram, porém, por que críticos questionam se testes internos e a escolha do cliente fornecem proteção suficiente quando os sistemas afetam pessoas que não são os compradores nem os operadores.

A legislação existente de responsabilidade por produtos poderia potencialmente se aplicar a produtos de IA, como observou a TechCrunch, mas isso continua sendo uma questão jurídica que os tribunais precisariam testar em diferentes sistemas, usos e cadeias de responsabilidade. A fonte também informou que Huang não se concentrou em autorregulação do setor, outro caminho possível entre a implantação sem restrições e as regras formais do governo.

O que a visão de Huang significa para os construtores de IA

Para desenvolvedores de modelos e equipes de produto, a posição de Huang reforça a importância de tratar a segurança da IA como uma disciplina de lançamento e engenharia. Isso inclui testar o comportamento do modelo, monitorar implantações, definir controles de acesso e criar procedimentos claros de reversão quando os sistemas se comportam de forma inesperada.

Essas práticas são particularmente importantes para agentes de IA que podem agir em sistemas de negócios em vez de apenas gerar texto. Uma falha em um agente pode afetar registros de clientes, pagamentos, repositórios de código ou decisões internas. A pressão do mercado pode punir uma empresa após um incidente, mas não necessariamente protege os usuários afetados antes que a falha ocorra.

O contexto comercial também importa. A Nvidia fornece grande parte da infraestrutura usada para treinar e implantar IA, e está se expandindo para software, agentes, modelos de pesos abertos e ambientes de desenvolvimento. Seu crescimento depende de os clientes continuarem construindo e operando sistemas de IA em escala. Isso não invalida o argumento de segurança de Huang, mas significa que os leitores devem distinguir uma opinião técnica de uma avaliação independente dos trade-offs de interesse público.

Para as empresas, o debate cria uma questão prática de due diligence. Os compradores não podem presumir que o processo interno de segurança de um fornecedor cobrirá todos os riscos criados pela implantação em seu próprio ambiente. Eles precisarão de proteções contratuais, direitos de auditoria, relatórios de incidentes, supervisão humana e responsabilidades claras quando um modelo ou agente causar danos.

Regulação, autorregulação e competição

As declarações de Huang chegam quando a indústria de IA considera se padrões voluntários podem oferecer salvaguardas sem desacelerar o desenvolvimento. A TechCrunch informou que o CEO da Microsoft, Satya Nadella, argumentou que empresas e países, incluindo a China, deveriam compartilhar a preocupação com riscos como invasão e segurança dos cidadãos.

Esse argumento aponta para uma autorregulação setorial coordenada, mas participação e fiscalização continuam sem solução. Um quadro voluntário é tão forte quanto sua cobertura, seus padrões de teste, seus requisitos de reporte e as consequências para empresas que o ignoram. Também pode ser difícil aplicá-lo de forma consistente a sistemas proprietários, modelos de pesos abertos e produtos distribuídos por terceiros.

Huang tem promovido modelos de pesos abertos como contrapeso competitivo aos laboratórios de IA proprietários. Essa abordagem pode ampliar o acesso a modelos e ferramentas, mas também complica a supervisão, porque usuários posteriores podem modificar, ajustar ou implantar sistemas de maneiras que o desenvolvedor original não antecipou.

A questão central de política, portanto, não é simplesmente se a IA é software. É se um software com ampla autonomia, comportamento incerto e efeitos sociais em larga escala pode ser governado adequadamente pelos mesmos mecanismos usados para produtos comerciais comuns.

O que observar a seguir

Os próximos sinais virão de como as empresas operacionalizam a posição de segurança descrita por Huang. Compradores e construtores devem observar testes auditados de forma independente, divulgação significativa de incidentes e evidências de que os fornecedores pausam ou retiram sistemas quando surgem preocupações de segurança.

Casos judiciais também esclarecerão se as regras existentes de responsabilidade por produtos podem atribuir responsabilidade entre criadores de modelos, desenvolvedores de aplicativos, implementadores e usuários. Os formuladores de políticas podem usar esses casos para decidir se novas regras são necessárias ou se a lei atual pode ser adaptada.

Padrões liderados pela indústria serão outro teste. Sua credibilidade dependerá de os principais laboratórios de IA e provedores de infraestrutura adotarem definições comuns, compartilharem informações sobre falhas e aceitarem consequências pelo não cumprimento, em vez de tratar compromissos com a segurança como linguagem de marketing.

Perspectiva da Creati.ai

Huang está certo de que grande parte da segurança da IA envolve decisões de engenharia: avaliação, controles de acesso, monitoramento e processos disciplinados de lançamento. Mas controles técnicos e responsabilidade pública não são intercambiáveis. Uma empresa pode fazer um esforço de boa-fé e ainda assim deixar passar um modo de falha, enquanto as pessoas afetadas podem não ter uma maneira significativa de evitar o dano resultante.

A abordagem mais duradoura provavelmente combinará trabalho técnico de segurança com responsabilidade exigível. Para os construtores de IA, isso significa projetar para falhas e documentar controles. Para as empresas, significa exigir evidências em vez de confiar em garantias. E para os formuladores de políticas, significa testar se a lei existente funciona antes de decidir onde novas regras direcionadas são necessárias.