A NVIDIA reuniu dezenas de empresas e organizações de código aberto para formar a Open Secure AI Alliance, um grupo focado no desenvolvimento de ferramentas amplamente disponíveis para a segurança e a cibersegurança de IA. A iniciativa foi criada para ajudar os defensores a inspecionar, adaptar e operar sistemas de segurança em sua própria infraestrutura, em vez de depender exclusivamente de provedores de IA fechados.

A aliança inclui empresas como Amazon, Microsoft, IBM, Cisco, Google? Não—Google não está listado—além de Hugging Face, Mistral, Red Hat, CrowdStrike, Palo Alto Networks, Salesforce, ServiceNow, Databricks, GitHub e a Linux Foundation. A NVIDIA diz que o grupo desenvolverá e compartilhará tecnologias para proteger software e agentes de IA, incluindo modelos, harnesses de agentes, sistemas de identidade, ferramentas de avaliação e formatos seguros de modelos.

Uma aliança construída em torno de uma infraestrutura defensiva aberta

A NVIDIA apresenta a iniciativa como uma extensão do trabalho de segurança de código aberto já associado à iniciativa Akrites da Linux Foundation e à Open Source Security Foundation, ou OpenSSF. Seu objetivo declarado é ajudar a corrigir e divulgar vulnerabilidades usando tecnologias abertas, ao mesmo tempo em que dá a mais defensores acesso a sistemas que podem examinar e modificar.

O argumento central é que a segurança de IA não pode depender apenas de um pequeno número de sistemas opacos e fechados. A NVIDIA afirma que modelos e ferramentas abertos podem fornecer controle local, proteção de dados e a capacidade de adaptar fluxos de trabalho de segurança a setores ou jurisdições específicos. A empresa também argumenta que um ecossistema multivendor pode reduzir a dependência de um único fornecedor.

Essa posição não equivale a uma rejeição dos modelos fechados. A NVIDIA diz que os defensores precisam tanto de sistemas fronteira abertos quanto fechados, usando cada um onde for mais apropriado. A ênfase da aliança é garantir que alternativas abertas capazes permaneçam disponíveis para operações de segurança e pesquisa.

O anúncio ocorre à medida que empresas deixam de experimentar modelos de linguagem para implantar agentes de IA que podem acessar arquivos, chamar ferramentas de software e tomar ações. Essa mudança amplia o problema de segurança para além do comportamento do modelo. Ela também introduz riscos envolvendo identidade, permissões, isolamento, auditabilidade e a cadeia de suprimentos de software.

A pilha proposta vai além dos pesos do modelo

A NVIDIA diz que sua contribuição incluirá modelos abertos, pesos de modelo, dados e pesquisa sobre harnesses de agentes. Também está liberando no GitHub o framework NVIDIA Labs Object-Oriented Agent, ou NOOA. A empresa descreve o NOOA como um framework de pesquisa destinado a tornar o comportamento dos agentes mais fácil de testar, rastrear, auditar e governar, melhorando a forma como os harnesses se integram aos modelos.

Outros exemplos citados pela NVIDIA mostram a amplitude pretendida da aliança. A HPE contribui para SPIFFE/SPIRE, um framework de identidade projetado para verificar criptograficamente agentes e serviços antes que comuniquem ou acessem recursos corporativos. A Hugging Face ofereceu o Safetensors, um formato de pesos de modelo destinado a evitar execução remota de código, à PyTorch Foundation.

IBM e Red Hat estão associadas ao Lightwell, que estende patches assinados digitalmente à cadeia de suprimentos de código aberto. A Microsoft está contribuindo com o MDASH, descrito como um harness de varredura multmodelo no qual agentes especializados procuram, debatem e determinam se falhas de software podem ser exploradas.

A coleção de projetos sugere que a aliança está tratando um agente de IA como um sistema operacional completo, e não simplesmente como um modelo. Na prática, isso significa que os controles de segurança precisariam abranger o modelo, suas ferramentas, suas permissões, seus registros e a infraestrutura que o executa. Harnesses abertos e formatos comuns podem facilitar a inspeção e a avaliação desses controles por equipes independentes.

O que as evidências mostram — e o que permanece não comprovado

As evidências disponíveis vêm principalmente do próprio anúncio da NVIDIA. A StorageNewsletter lista o mesmo lançamento da aliança, mas o texto completo de seu artigo não está disponível no material de reportagem fornecido. Como resultado, a lista de membros, as contribuições técnicas e os objetivos declarados devem ser tratados como informações publicadas pela NVIDIA, e não como evidência verificada de forma independente de execução conjunta.

A NVIDIA aponta um recente incidente de segurança na Hugging Face como exemplo de por que os defensores talvez precisem de sistemas de IA abertos e auto-hospedados. Segundo a versão da NVIDIA, ferramentas fechadas bloquearam partes da análise forense porque não conseguiam distinguir defensores de atacantes. A Hugging Face então executou o modelo aberto GLM 5.2 em sua própria infraestrutura para analisar mais de 17.000 ações e conter a intrusão.

Esse relato ilustra o caso operacional do controle local, mas os detalhes são apresentados pela NVIDIA e não estão corroborados independentemente nas fontes fornecidas. O anúncio também não traz cronograma de entrega, modelo de governança, estrutura de financiamento, números de adoção ou uma descrição de como as organizações participantes coordenarão lançamentos e resposta a vulnerabilidades.

O debate sobre segurança também continua sem solução. A NVIDIA reconhece que modelos abertos podem ser mal utilizados, inclusive ao enfraquecer salvaguardas ou reaproveitar capacidades para ataques. Sua resposta proposta é combinar abertura com avaliação, red teaming, regras de uso e correção rápida. Essas são, neste estágio, diretrizes e não resultados demonstrados.

Por que construtores e compradores corporativos devem se importar

Para construtores de IA, a aliança pode criar componentes mais reutilizáveis para proteger aplicações agênticas. Identidade padronizada, formatos de modelo mais seguros e harnesses testáveis podem reduzir a necessidade de cada empresa construir controles separados em torno de acesso a ferramentas, registro e proveniência do modelo. Também podem facilitar a execução de agentes de segurança dentro do ambiente da própria empresa quando dados sensíveis não puderem ser enviados a um serviço externo.

Compradores corporativos devem prestar atenção em como esses projetos amadurecem, e não apenas no tamanho dos membros fundadores. Componentes abertos podem melhorar portabilidade e auditabilidade, mas também criam responsabilidades operacionais. As organizações ainda precisarão validar código, gerenciar patches, monitorar o comportamento do modelo e decidir quais agentes recebem acesso aos sistemas de produção.

A aliança também pode intensificar a competição entre plataformas centralizadas de IA e arquiteturas de segurança mais distribuídas. Um ecossistema aberto forte pode dar às equipes de segurança mais poder de negociação e reduzir a dependência de um único fornecedor de modelos. No entanto, ferramentas fragmentadas, governança inconsistente e acordos de suporte pouco claros podem anular esses benefícios se os projetos não convergirem para padrões práticos.

Para pesquisadores e formuladores de políticas, o anúncio reforça uma questão importante: sistemas de IA abertos devem ser tratados principalmente como riscos a serem restringidos ou como infraestrutura defensiva que as equipes de segurança precisam examinar e controlar? A NVIDIA claramente defende a segunda visão, embora admita que a abertura exige salvaguardas, e não implantação irrestrita.

O que observar a seguir

O primeiro sinal será se a aliança publica uma estrutura de governança concreta, um roteiro compartilhado ou padrões técnicos além dos projetos citados no anúncio da NVIDIA. Os compradores também devem observar lançamentos prontos para produção do NOOA, MDASH, SPIFFE/SPIRE e ferramentas relacionadas de segurança de agentes, além de documentação mostrando como eles funcionam em diferentes modelos e ambientes de nuvem.

Avaliações independentes importarão mais do que a lista de parceiros. Evidências úteis incluiriam testes reproduzíveis de permissões de agentes, detecção de vulnerabilidades, falsos positivos, resistência à injeção de prompts e a segurança das cadeias de suprimento de modelos e ferramentas. Também será importante ver se as empresas participantes divulgam vulnerabilidades por meio de um processo comum e mantêm os projetos ao longo do tempo.

Perspectiva da Creati.ai

A Open Secure AI Alliance é significativa porque define a segurança de IA como um problema de infraestrutura e sistemas, e não apenas como uma questão de escolher um modelo mais seguro. Sua contribuição mais prática pode ser uma camada compartilhada de identidade, harnesses, formatos e ferramentas de avaliação que permita às organizações operar agentes com mais visibilidade e controle.

Mas o anúncio ainda é um ponto de partida. A NVIDIA apresentou uma ampla coalizão e um conjunto de exemplos relatados por fornecedores, não uma prova de que já exista uma pilha defensiva interoperável. A aliança ganhará credibilidade por meio de governança aberta, testes independentes e manutenção contínua — especialmente quando suas ferramentas forem usadas em incidentes de segurança de alta pressão, e não apenas em demonstrações.