NVIDIA는 수십 개의 기업과 오픈소스 조직을 모아 AI 안전과 사이버보안을 위한 공개적으로 이용 가능한 도구 개발에 초점을 맞춘 그룹인 Open Secure AI Alliance를 결성했다. 이 이니셔티브는 방어자들이 폐쇄형 AI 공급업체에 전적으로 의존하는 대신, 자신들의 인프라 안에서 보안 시스템을 검사하고, 조정하고, 운영할 수 있도록 돕기 위해 설계됐다.

이 연합에는 Amazon, Microsoft, IBM, Cisco, Google? 아니요—Google은 포함되지 않았다—와 함께 Hugging Face, Mistral, Red Hat, CrowdStrike, Palo Alto Networks, Salesforce, ServiceNow, Databricks, GitHub, 그리고 Linux Foundation이 포함된다. NVIDIA는 이 그룹이 모델, 에이전트 하니스, 신원 시스템, 평가 도구, 안전한 모델 형식을 포함해 소프트웨어와 AI 에이전트를 보호하기 위한 기술을 개발하고 공유할 것이라고 밝혔다.

개방형 방어 인프라를 중심으로 구축된 연합

NVIDIA는 이 이니셔티브를 Linux Foundation의 Akrites 이니셔티브와 Open Source Security Foundation, 즉 OpenSSF와 이미 연관된 오픈소스 보안 작업의 연장선으로 설명한다. 회사가 밝힌 목표는 개방형 기술을 사용해 취약점을 수정하고 공개하는 데 도움을 주는 동시에, 더 많은 방어자가 검사하고 수정할 수 있는 시스템에 접근할 수 있도록 하는 것이다.

핵심 주장은 AI 보안이 소수의 불투명하고 폐쇄적인 시스템에만 의존할 수 없다는 점이다. NVIDIA는 개방형 모델과 도구가 로컬 제어, 데이터 보호, 그리고 보안 워크플로를 특정 산업이나 관할권에 맞게 조정할 수 있는 능력을 제공할 수 있다고 말한다. 회사는 또한 다중 공급업체 생태계가 단일 공급업체에 대한 의존을 줄일 수 있다고 주장한다.

이 입장은 폐쇄형 모델에 대한 거부를 의미하지는 않는다. NVIDIA는 방어자들에게는 개방형과 폐쇄형 프런티어 시스템이 모두 필요하며, 각각 가장 적절한 곳에 사용해야 한다고 말한다. 연합의 초점은 보안 운영과 연구를 위해 유능한 개방형 대안이 계속 제공되도록 보장하는 데 있다.

이번 발표는 기업들이 언어 모델 실험에서 파일에 접근하고 소프트웨어 도구를 호출하며 행동을 수행할 수 있는 AI 에이전트 배포로 이동하는 시점에 나왔다. 이러한 변화는 보안 문제를 모델 행동을 넘어 확장시킨다. 또한 신원, 권한, 격리, 감사 가능성, 소프트웨어 공급망과 관련된 위험도 도입한다.

제안된 스택은 모델 가중치를 넘어선다

NVIDIA는 자사 기여에 개방형 모델, 모델 가중치, 데이터, 그리고 에이전트 하니스 연구가 포함될 것이라고 말한다. 또한 GitHub에 NVIDIA Labs Object-Oriented Agent, 즉 NOOA 프레임워크를 공개하고 있다. 회사는 NOOA를 하니스가 모델과 통합되는 방식을 개선함으로써 에이전트의 행동을 더 쉽게 테스트하고, 추적하고, 감사하고, 관리할 수 있도록 하려는 연구 프레임워크라고 설명한다.

NVIDIA가 인용한 다른 예시는 연합의 의도된 폭을 보여준다. HPE는 에이전트와 서비스가 통신하거나 기업 자원에 접근하기 전에 암호학적으로 검증하도록 설계된 신원 프레임워크인 SPIFFE/SPIRE에 기여하고 있다. Hugging Face는 원격 코드 실행을 방지하기 위한 모델 가중치 형식인 Safetensors를 PyTorch Foundation에 제공했다.

IBM과 Red Hat은 디지털 서명된 패치를 오픈소스 공급망으로 확장하는 Lightwell과 관련되어 있다. Microsoft는 MDASH를 제공하고 있는데, 이는 특화된 에이전트가 소프트웨어 버그를 찾고, 논의하고, 악용 가능 여부를 판단하는 다중 모델 스캐닝 하니스로 설명된다.

이 프로젝트들의 모음은 연합이 AI 에이전트를 단순한 모델이 아니라 완전한 운영 시스템으로 보고 있음을 시사한다. 실제로 이는 보안 제어가 모델, 그 도구, 권한, 로그, 그리고 이를 실행하는 인프라를 모두 포함해야 함을 의미한다. 개방형 하니스와 공통 형식은 독립적인 팀이 이러한 제어를 검사하고 평가하기 쉽게 만들 수 있다.

무엇이 입증되었고 무엇이 아직 입증되지 않았는가

이용 가능한 증거는 주로 NVIDIA 자체 발표에서 나온다. StorageNewsletter도 같은 연합 출범을 다루지만, 제공된 보도 자료에는 전체 기사 본문이 없다. 따라서 회원 목록, 기술 기여, 그리고 밝힌 목표는 공동 실행의 독립적으로 검증된 증거가 아니라 NVIDIA가 공개한 정보로 봐야 한다.

NVIDIA는 최근 Hugging Face 보안 사고를 방어자들이 개방형 자체 호스팅 AI 시스템을 필요로 할 수 있는 이유의 예로 든다. NVIDIA의 설명에 따르면, 폐쇄형 도구는 방어자와 공격자를 구별할 수 없어서 포렌식 분석의 일부를 막았다. 이후 Hugging Face는 오픈 웨이트 GLM 5.2 모델을 자체 인프라에서 실행해 17,000건이 넘는 작업을 분석하고 침입을 차단했다.

이 설명은 로컬 제어의 운영적 필요성을 보여주지만, 세부 사항은 NVIDIA가 제시한 것이며 제공된 출처에서 독립적으로 입증되지 않았다. 발표는 또한 제공 일정, 거버넌스 모델, 자금 구조, 채택 수치, 참여 조직이 릴리스와 취약점 대응을 어떻게 조율할지에 대한 설명도 제공하지 않는다.

보안 논의 역시 아직 결론이 나지 않았다. NVIDIA는 개방형 모델이 방어 장치를 약화시키거나 공격에 기능을 전용하는 방식으로 오용될 수 있음을 인정한다. 회사가 제안하는 답은 개방성과 평가, 레드팀 테스트, 사용 규칙, 신속한 수정 조치를 결합하는 것이다. 지금 단계에서는 이는 입증된 결과가 아니라 원칙에 가깝다.

빌더와 기업 구매자가 주목해야 하는 이유

AI 빌더에게 이 연합은 에이전트형 애플리케이션 보안을 위한 더 재사용 가능한 구성 요소를 만들어낼 수 있다. 표준화된 신원, 더 안전한 모델 형식, 테스트 가능한 하니스는 각 회사가 도구 접근, 로깅, 모델 출처를 둘러싸고 별도의 제어를 구축해야 하는 필요성을 줄일 수 있다. 또한 민감한 데이터를 외부 서비스로 보낼 수 없을 때, 기업 자체 환경 안에서 보안 에이전트를 운영하기 쉽게 만들 수 있다.

기업 구매자는 단지 창립 멤버의 규모가 아니라 이 프로젝트들이 어떻게 성숙해 가는지 주목해야 한다. 개방형 구성 요소는 이식성과 감사 가능성을 높일 수 있지만, 운영 책임도 생긴다. 조직은 여전히 코드를 검증하고, 패치를 관리하고, 모델 행동을 모니터링하고, 어떤 에이전트가 운영 시스템 접근 권한을 갖는지 결정해야 한다.

이 연합은 또한 중앙집중형 AI 플랫폼과 보다 분산된 보안 아키텍처 간의 경쟁을 더욱 선명하게 만들 수 있다. 강력한 개방형 생태계는 보안 팀에 더 큰 협상력을 주고 단일 모델 공급업체에 대한 의존을 줄일 수 있다. 그러나 프로젝트가 실용적인 표준을 중심으로 수렴하지 못하면, 파편화된 도구, 일관성 없는 거버넌스, 불분명한 지원 체계가 이러한 이점을 상쇄할 수 있다.

연구자와 정책 입안자에게 이번 발표는 중요한 질문을 다시 제기한다. 개방형 AI 시스템은 주로 제한해야 할 위험으로 봐야 하는가, 아니면 보안 팀이 검사하고 통제해야 하는 방어 인프라로 봐야 하는가. NVIDIA는 분명히 후자의 관점을 지지하지만, 개방성에는 무제한 배포가 아니라 보호 장치가 필요하다고 인정한다.

다음에 주목할 점

첫 번째 신호는 연합이 NVIDIA 발표에서 이름이 언급된 프로젝트를 넘어 구체적인 거버넌스 구조, 공동 로드맵 또는 기술 표준을 공개하는지 여부가 될 것이다. 구매자들은 또한 NOOA, MDASH, SPIFFE/SPIRE 및 관련 에이전트 보안 도구의 상용화 가능한 릴리스와, 그것들이 다양한 모델 및 클라우드 환경에서 어떻게 작동하는지 보여주는 문서를 주시해야 한다.

독립적 평가는 파트너 목록보다 더 중요할 것이다. 유용한 증거로는 에이전트 권한, 취약점 탐지, 오탐, 프롬프트 인젝션 저항성, 그리고 모델 및 도구 공급망의 보안에 대한 재현 가능한 테스트가 있다. 참여 기업들이 공통 절차를 통해 취약점을 공개하고 프로젝트를 지속적으로 유지하는지도 중요하다.

Creati.ai 관점

Open Secure AI Alliance가 중요한 이유는 AI 보안을 더 안전한 모델을 고르는 문제만이 아니라 인프라와 시스템의 문제로 정의하기 때문이다. 가장 실용적인 기여는 조직이 더 많은 가시성과 통제력으로 에이전트를 운영할 수 있게 해주는 신원, 하니스, 형식, 평가 도구의 공유 계층이 될 수 있다.

하지만 이번 발표는 아직 출발점에 불과하다. NVIDIA는 광범위한 연합과 공급업체가 보고한 사례들을 제시했을 뿐, 상호운용 가능한 방어 스택이 이미 존재한다는 증거를 제공한 것은 아니다. 이 연합은 개방형 거버넌스, 독립적 테스트, 지속적인 유지 관리를 통해 신뢰를 얻게 될 것이며, 특히 그 도구가 시연이 아니라 긴박한 보안 사고에서 사용될 때 더욱 그렇다.