NVIDIA는 한 달간 진행하는 로컬 AI 캠페인을 통해 자사 하드웨어에서 실행되도록 설계된 광범위한 오픈웨이트 모델, 개발자 도구, 커뮤니티 프로젝트를 강조하고 있다. 이번 라인업은 로보틱스, 비디오 생성, 코딩, 자율 소프트웨어 에이전트를 아우르며, 소비자용 GeForce PC부터 NVIDIA DGX Spark와 DGX Station까지 다양한 시스템을 포함한다.

이번 발표는 단일 제품 출시라기보다 NVIDIA가 GPU, 소프트웨어 라이브러리, 소형 AI 시스템을 중심으로 구축하려는 로컬 AI 생태계의 스냅샷에 가깝다. 또한 모델 개발자들이 점점 더 작은, 양자화된 또는 희소 활성화 시스템을 겨냥해 정교한 워크로드를 클라우드 데이터센터 밖에서도 실행할 수 있도록 하고 있음을 보여준다.

로컬 우선 출시 물결

NVIDIA는 8월 로컬 AI 시리즈에서 개발자들이 자신의 머신에서 AI 시스템을 구축하고 커스터마이즈하는 데 도움이 되는 오픈소스 커뮤니티, 파트너, 모델, 애플리케이션을 선보일 예정이라고 밝혔다. 회사는 이러한 프로젝트에 자사의 오픈 모델, 가속화된 소프트웨어, 교육 자료를 결합하고 있다.

소개된 모델들 가운데 여러 개는 기술적으로 대형이지만, 추론에 필요한 하드웨어를 줄이도록 설계됐다. 예를 들어 Poolside AI의 Laguna S 2.1은 NVIDIA가 1180억 개 파라미터의 에이전틱 코딩 모델로 설명하며, 장시간 작업용이라고 밝혔다. NVIDIA에 따르면 NVFP4 체크포인트를 사용하면 계산과 메모리 요구를 낮춘 상태로 단일 DGX Spark에서 실행할 수 있다.

DeepSeek-V4-Flash도 또 다른 예다. 업데이트된 이 모델은 총 2840억 개 파라미터, MoE 아키텍처에서 활성화되는 130억 개 파라미터, 100만 토큰 컨텍스트 윈도우를 갖는 것으로 알려졌다. 회사는 커뮤니티가 만든 GGUF 버전이 NVIDIA DGX Station에서 로컬로 동작할 수 있다고 말했다.

하드웨어에 집중하는 이유는 로컬 배포가 개발자에게 적용되는 제약을 바꾸기 때문이다. 클라우드 규모 처리량만 최적화하는 대신, 모델 팀은 메모리 용량, 양자화, 시작 시간, 지속 성능, 계속 사용 가능한 상태를 유지하는 비용까지 고려해야 한다.

모델은 에이전트, 크리에이터, 로봇을 겨냥한다

에이전트 빌더에게 가장 직접적으로 관련된 출시는 Meta의 Muse Glimmer다. NVIDIA는 이를 12만 토큰을 넘는 컨텍스트 윈도우를 가진 300억 파라미터 밀집 오픈웨이트 모델로 설명하며, 코딩과 로컬 에이전틱 AI에 최적화돼 있다고 밝혔다.

NVIDIA는 Muse Glimmer가 RTX 5090에서 초당 200토큰 이상을 생성할 수 있다고 말한다. 하이브리드 어텐션 설계는 에이전트가 컨텍스트를 유지하고, 도구를 호출하고, 다단계 작업을 완료할 때 메모리와 처리 요구를 관리 가능한 수준으로 유지하는 것을 목표로 한다. 이 모델은 함수 호출, 로컬 코딩, 맞춤형 에이전트, 단일 소비자용 GPU에서의 모델 평가에 적합한 것으로 제시된다.

발표에 따르면 개발자들은 Muse Glimmer를 NemoClaw와 결합하고 NVIDIA NeMo Automodel을 사용해 로컬에서 미세조정할 수 있다. 이 조합은 외부 모델 제공업체에 쉽게 보낼 수 없는 사적이거나 특수한 데이터를 다루는 팀에 매력적일 수 있다. 그러나 발표는 독립적인 에이전트 벤치마크나 실제 생산 워크로드에서의 성능을 입증하지는 않는다.

다른 프로젝트들은 서로 다른 형태의 로컬 생성을 다룬다. NVIDIA는 Cosmos 3 Edge를 로보틱스, 자율주행차, 비전 애플리케이션용 40억 파라미터 오픈 월드 모델이라고 설명했다. 이는 NVIDIA DGX Spark와 NVIDIA Jetson에서 실행되므로 데이터센터 인프라가 필요한 모델보다 엣지 실험에 더 적합하다.

크리에이터용으로는 MiniMax-H3가 텍스트, 이미지, 비디오, 오디오 또는 이들의 조합에서 동기화된 스테레오 오디오와 함께 비디오를 생성하는 330억 파라미터 오픈웨이트 모델로 소개된다. 이는 NVIDIA GPU에 최적화된 체크포인트와 함께 ComfyUI를 통해 사용할 수 있다.

Alibaba의 Wan-Animate-2는 드라이빙 비디오의 움직임과 얼굴 표정을 정지된 캐릭터 이미지로 전이하는 140억 파라미터 모델이다. NVIDIA는 이 모델이 ComfyUI에서 첫날부터 지원되며, Apple M3 Ultra보다 RTX PRO 5000 Blackwell에서 최대 16배, RTX 5090에서 최대 26배 더 빠르게 동작한다고 밝혔다. 이러한 비교는 NVIDIA가 제시한 것이며 독립적인 성능 측정으로 간주해서는 안 된다.

증거는 NVIDIA의 자체 주장에 집중돼 있다

이용 가능한 증거는 NVIDIA의 공식 블로그와 해당 게시물의 Google News 중복 노출에서 나온 것이다. 제공된 자료에는 소개된 시스템의 성능 수치, 채택 신호, 실용적 신뢰성을 검증하는 독립 보도는 없다.

이 차이는 중요하다. Muse Glimmer의 초당 200토큰 이상, Wan-Animate-2의 상대 속도, LTX-2.5의 효율 향상 같은 주장은 NVIDIA의 포지셔닝을 보여주는 유용한 지표이지만, 모델 버전, 양자화 설정, 배치 크기, 전체 워크플로를 아우르는 재현 가능한 테스트를 대체할 수는 없다.

NVIDIA는 또한 세심한 해석이 필요한 용어로 여러 프로젝트를 설명한다. 일부는 오픈소스로, 다른 일부는 오픈웨이트로 표현된다. 오픈웨이트는 전체 학습 코드, 데이터, 제한 없는 상업적 권리를 제공하지 않고도 개발자가 모델을 내려받아 실행할 수 있게 할 수 있다. 이러한 시스템을 평가하는 개발자는 상업적으로 배포하기 전에 각 모델의 라이선스, 체크포인트 제한, 재배포 조건을 확인해야 한다.

LTX-2.5는 이번 캠페인의 폭을 보여준다. 이 비디오 모델은 멀티샷 생성, 개선된 디코딩, 생성형 편집, 프롬프트 향상을 추가한다. NVIDIA는 이것이 RTX GPU, DGX Spark, DGX Station에 최적화돼 있으며, RTX 6000 PRO GPU에서 최대 20% 더 빠른 성능과 40% 메모리 절감 효과를 제공한다고 말한다. 회사는 이러한 향상이 NVFP4, FastVideo, ComfyUI 개선을 포함한 로컬 최적화 작업의 결과라고 설명한다.

Unsloth Desktop도 생태계에서 주목할 만한 요소다. NVIDIA는 이 완전한 오픈소스 데스크톱 애플리케이션이 로컬 추론, 이미지 및 비디오 디퓨전, 미세조정, 에이전트 통합, 웹 조사, 코드 실행을 결합한다고 말한다. 이 제품의 의미는 단일 벤치마크보다 워크플로 통합에 있다. 개발자는 여러 개의 별도 도구를 조합하지 않고도 학습, 추론, 에이전트 실험 사이를 오갈 수 있다.

로컬 배포가 빌더에게 바꾸는 것

독립 개발자와 제품 팀에게 이번 출시들은 AI 개발을 더 모듈화된 방식으로 접근하라는 신호를 보낸다. 한 팀은 로컬 코딩이나 도구 사용에 Muse Glimmer 같은 소형 모델을 쓰고, 엣지 인식에는 비전 모델을, 비디오에는 ComfyUI를 활용하면서 데이터와 중간 결과를 통제된 하드웨어에 둘 수 있다.

이 구조는 API 가용성과 사용량 기반 클라우드 비용에 대한 의존도를 줄일 수 있다. 또한 개인정보 민감 워크로드, 오프라인 운영, 지연시간이 중요한 애플리케이션에도 도움이 될 수 있다. 다만 이런 이점에는 하드웨어 조달, 소프트웨어 유지보수, 모델 업데이트, 세심한 용량 계획이라는 대가가 따른다.

에이전트 신뢰성은 여전히 핵심적인 미해결 문제다. 더 큰 컨텍스트 윈도우와 더 빠른 토큰 생성은 에이전트를 더 반응적으로 보이게 만들 수 있지만, 그것만으로 적절한 도구 선택, 안전한 실행, 긴 작업의 성공적인 완료가 보장되지는 않는다. 팀은 속도만이 아니라 실패 복구, 권한, 데이터 유출, 완료된 워크플로당 비용을 측정하는 평가가 필요하다.

모델 출시는 NVIDIA의 더 큰 전략도 강화한다. 소비자용 GPU, 워크스테이션, 엣지 디바이스, DGX 시스템 전반에서 로컬 추론을 지원함으로써 회사는 자사 하드웨어를 다양한 오픈 모델의 기본 실행 계층으로 만들려 하고 있다. 이는 개발자에게 기회를 제공하는 동시에 경쟁 칩과 런타임 간의 이식성 중요성도 높인다.

앞으로 주목할 점

다음으로 유용한 신호는 메모리 사용량, 처리량, 품질, 장시간 에이전트 성능에 대한 소개된 모델의 독립 테스트다. 개발자들은 발표된 체크포인트가 계속 제공되는지, 라이선스가 상업적 배포를 허용하는지, NVIDIA의 결과를 재현하는 데 얼마나 많은 구성이 필요한지도 주시해야 한다.

기업 구매자에게 실질적인 질문은 배포 지원, 보안 제어, 모델 거버넌스, 기존 개발 도구와의 통합이다. 연구자와 창업자에게 더 중요한 신호는 로컬 모델 생태계가 독점적 클라우드 엔드포인트에 의존하지 않고도 빠른 개선을 유지할 수 있는지 여부일 수 있다.

NVIDIA의 시리즈는 8월 동안 추가 업데이트가 예정돼 있다. 이러한 추가 내용은 이것이 주로 하드웨어 마케팅 캠페인인지, 아니면 로컬 AI 시스템을 둘러싼 지속적인 커뮤니티 채택의 증거인지 더 분명히 보여줄 수 있다.

Creati.ai 관점

NVIDIA는 로컬 AI를 단일 장치가 아닌 생태계로 제시하고 있다. 모델, 양자화 방법, 데스크톱 애플리케이션, 에이전트 프레임워크, 하드웨어가 함께 홍보된다. 이 접근은 전략적으로 일관적이다. 새로운 오픈웨이트 출시는 NVIDIA 시스템에 대한 수요를 만들고, 하드웨어 개선은 더 많은 모델을 로컬에서 실행 가능하게 만들기 때문이다.

특히 사적이고 오프라인이며 지연시간에 민감한 워크플로에서 개발자에게 기회는 분명하다. 그러나 이번 발표는 여전히 공급업체가 통제하는 증거에 머문다. 가장 강한 주장들이 의미를 가지려면 개발자들이 그것을 재현하고, 시스템을 안정적으로 운영하며, 자사 제품에 맞는 조건으로 모델을 사용할 수 있어야 한다.