NVIDIA는 AI 에이전트 시대를 위한 새로운 인프라 논리를 제시하고 있다. 시스템이 신선한 데이터를 충분히 빠르게 수집, 처리, 행동으로 옮기지 못하면 자율성은 무너진다는 것이다. 고속 계측기와 센서를 위한 데이터 수집 파이프라인인 NVIDIA DAQIRI를 소개한 최근 개발자 블로그는, AI 에이전트가 대규모로 작동하려면 실시간 데이터 패브릭이 필요하다는 TMForum의 보다 폭넓은 업계 메시지와 맞물린다.

이 둘을 함께 보면 같은 변화를 가리키고 있음을 알 수 있다. 고급 AI의 병목은 더 이상 모델 품질이나 GPU 접근성에만 있지 않다. 원시 신호와 실시간 의사결정 사이의 경로, 즉 데이터가 센서, 디바이스, 엔터프라이즈 시스템, 이벤트 스트림에서 소프트웨어로 이동해 전통적인 수집-저장 워크플로우를 기다리지 않고 필터링, 추론, 행동 트리거를 할 수 있게 되는 방식이 핵심이다. AI 에이전트를 만드는 이들에게 이는 추상적인 아키텍처 구호가 아니라 실제적인 문제다.

이 이야기는 사실 과학 하드웨어가 아니라 AI 에이전트에 관한 것이다

TMForum의 관점은 폭넓고 엔터프라이즈 중심적이다. AI 에이전트는 대규모 자율성을 구현하기 위해 실시간 데이터 패브릭이 필요하다는 것이다. 원문 전체는 제공된 자료에 없었기 때문에, 여기서 그 정확한 논지와 사례를 검증할 수는 없다. 하지만 이 주제는 시장 전반에서 점점 커지는 패턴과 맞아떨어진다. 에이전트는 상황을 관찰하고, 상태를 추론하며, 시스템 전반에 걸쳐 행동하는 소프트웨어로 자리매김하고 있다. 그러려면 변화하는 입력을 지속적이고 낮은 지연으로 볼 수 있어야 한다.

NVIDIA의 기여는 더 좁지만 더 구체적이다. 회사는 개발자 블로그에서 NVIDIA DAQIRI를 NVIDIA Holoscan Platform 내의 소프트웨어 중심 고처리량 데이터 수집 라이브러리로 설명한다. 이 제안은 과학 계측기, 산업용 스캐너, 소프트웨어 정의 라디오 같은 고대역폭 환경을 겨냥한다. 이런 환경에서는 데이터가 너무 빠르게 들어오기 때문에, 기존의 수집 후 저장 후 분석 방식의 파이프라인으로는 감당하기 어렵다.

이 문제는 연구실 밖에서도 중요하다. 같은 설계 문제가 운영 소프트웨어, 로보틱스, 옵저버빌리티 도구, 고객 지원 시스템, 제조 장비에 연결된 엔터프라이즈 AI 에이전트에서도 나타난다. 에이전트가 오래된 기록, 불완전한 이벤트 스트림, 지연된 피드백 루프를 기반으로 행동한다면 진정한 의미의 자율성을 가질 수 없다.

NVIDIA DAQIRI가 하려는 일

NVIDIA에 따르면, NVIDIA DAQIRI는 고정 기능 하드웨어 경로에서 데이터 수집을 벗어나 더 유연한 소프트웨어 계층으로 옮긴다. 회사는 이 소프트웨어가 고대역폭 검출기와 센서 출력을 GPU 메모리로 직접 스트리밍해, 스트림 내 처리(in-stream processing)를 가능하게 하며 지연과 CPU 오버헤드를 모두 줄인다고 설명한다.

주목할 기술적 주장은 전송 경로다. NVIDIA는 NVIDIA DAQIRI가 Data Plane Development Kit, 즉 DPDK를 사용해 Linux 커널을 우회하고, NVIDIA ConnectX NIC에서 GPU DMA 버퍼로 패킷을 직접 라우팅하며 제로 카피 접근을 제공한다고 말한다. 회사 설명에 따르면, 이를 통해 들어오는 스트림은 필터링, 추론, 압축, 이벤트 선택, 적응형 제어 같은 즉시 작업을 수행할 준비가 된 상태로 GPU에 도달할 수 있다.

NVIDIA는 또한 NVIDIA DAQIRI를 독립형 단일 도구가 아니라 더 큰 스택의 일부로 포지셔닝한다. 블로그는 실시간 멀티모달 워크플로우를 위한 NVIDIA Holoscan Platform, 저지연 추론을 위한 TensorRT, 스트리밍 압축을 위한 NVIDIA nvCOMP와의 통합을 강조한다. NVIDIA에 따르면 개발자는 YAML 기반 설정과 C++ 및 Python 인터페이스로 이러한 파이프라인을 구축할 수 있다.

이러한 스택 수준의 관점은 중요하다. AI 팀이 얻어야 할 교훈은 단순히 “이 라이브러리를 써라”가 아니다. 실시간 인텔리전스는 모델만큼이나 배관(plumbing)에 달려 있다는 점이다. 에이전트가 상태를 모니터링하고, 도구를 호출하며, 계획을 계속 갱신해야 한다면 모델 주변의 소프트웨어는 고빈도 수집, 변환, 행동을 지원해야 한다.

CERN은 실시간 필터링이 왜 중요한지 보여주는 구체적 사례다

제공된 자료에서 가장 강력한 사용 사례는 CERN이다. NVIDIA는 A-GHOST 프로젝트가 NVIDIA DAQIRI를 사용해 FPGA 기반 하드웨어 보드와 GPU 처리 팜을 연결하고 있으며, 이를 통해 연구자들이 표준 이벤트 선택 경로에서 버려졌을 데이터 스트림을 분석할 수 있다고 말한다.

맥락은 High-Luminosity Large Hadron Collider 업그레이드다. NVIDIA 블로그에 따르면 HL-LHC는 원래 설계 대비 광도(luminosity)를 10배 높일 예정이다. NVIDIA는 ATLAS 검출기의 업그레이드된 선택 시스템이 1단계 이후 선택된 이벤트 대역폭을 100 kHz에서 1 MHz로, 2단계 이후 저장으로는 1 kHz에서 10 kHz로 늘릴 것이라고 설명한다. 그러나 이렇게 증가하더라도, 회사에 따르면 충돌의 99% 이상은 여전히 온라인 시스템에서 거부된다.

이는 극단적인 형태의 운영 문제다. 너무 많은 실시간 데이터, 그리고 무엇이 중요한지 결정할 시간이 너무 적다. NVIDIA는 A-GHOST가 Convolutional Auto-Encoders, temporal convolutional neural networks, transformer 기반 모델 같은 AI 모델이 원래라면 폐기될 스트림을 검사할 수 있는지 탐색하고 있다고 말한다.

AI 에이전트 구축자에게 CERN 사례는 더 익숙한 교훈으로 바뀐다. 대부분의 자율 시스템은 모델 호출이 없어서 실패하지 않는다. 들어오는 신호의 폭주를 충분히 빠르게 분류, 우선순위 지정, 압축 또는 라우팅해 제때 의사결정을 내리지 못하기 때문에 실패한다. 다시 말해, 자율성은 인프라에 구현된 선택적 주의(selective attention)에 달려 있다.

증거 기반은 아키텍처 측면에서는 강하지만, 시장 증거는 아직 얇다

여기서 자료의 구성은 중요하다. TMForum은 시장 관점을 제시하지만 기사 원문은 보도 노트에서 제공되지 않았기 때문에, 그 논지는 여기서 직접 인용하거나 세부적으로 독립 검증할 수 없다. NVIDIA의 개발자 블로그는 주된 기술 출처이며, NVIDIA DAQIRI의 설계, 통합, 의도된 사용 사례에 대한 가장 명확한 사실 정보를 담고 있다.

하지만 그것 역시 벤더가 통제하는 출처다. 즉, 이 이야기의 가장 강한 주장은 벤더가 보고한 내용이다. NVIDIA는 NVIDIA DAQIRI가 적절한 하드웨어와 CPU/NUMA 튜닝을 전제로, 수백 기가비트/초 이상의 라인 레이트에서 UDP와 RoCE v2를 포함한 Ethernet 데이터를 처리할 수 있다고 말한다. 또한 이 아키텍처가 NIC 링 버퍼에서 GPU 텐서로 직접 접근하는 경우 지연을 사실상 PCIe 통과 시간 수준으로 낮춘다고 설명한다. 이러한 주장은 커널 우회와 GPU-direct 경로라는 맥락에서 그럴듯하지만, 자료에는 독립 벤치마크, 제3자 테스트 방법론, 대규모 실제 배포 증거가 포함되어 있지 않다.

마찬가지로 CERN 관련 내용은 대규모 상용 배포가 아니라 R&D 노력에 관한 것이다. NVIDIA에 따르면 A-GHOST 프로젝트에는 CERN Openlab, 시카고 대학교, UCL 연구자들이 참여하며, 설명된 모델들은 프로토타입 하드웨어로 시험할 계획이다. 이는 관심의 의미 있는 검증이지만, 엔터프라이즈 구매자에게 성숙한 생산 레퍼런스와 같은 것은 아니다.

따라서 방향성과 아키텍처에 대한 결론은 탄탄하지만, 보편적인 성능 결과나 채택 범위에 대해서는 아직 이르다.

이것이 빌더와 엔터프라이즈 구매자에게 중요한 이유

AI 에이전트를 구축하는 팀에게 실무적 의미는 오케스트레이션 프레임워크만으로는 충분하지 않다는 것이다. 스택이 이벤트 기반 마이크로서비스, 실시간 옵저버빌리티 피드, 산업 제어 루프, 고객 상호작용 로그를 사용하든, 빠진 계층은 종종 실시간 데이터에서 추론과 행동으로 이어지는 견고하고 낮은 지연의 경로다.

이것은 몇 가지 설계 요건을 만든다.

첫째, 상태의 최신성이 제품 요구사항이 된다. 에이전트가 오래된 컨텍스트를 사용하면 도구 사용은 취약해지고 자동화는 오류 전파로 바뀔 수 있다. 따라서 실시간 데이터 이동은 에이전트 신뢰성과 직접 연결된다.

둘째, 필터링을 더 앞단에서 수행할수록 추론 경제성이 달라진다. 시스템이 모델 실행 전에 가치가 낮은 이벤트를 폐기하거나 페이로드를 압축할 수 있다면, GPU 자원은 중요한 의사결정에 쓰인다. NVIDIA가 스트림 내 필터링과 압축을 강조하는 이유가 바로 이 비용 문제와 맞닿아 있다.

셋째, 배포 아키텍처는 더 분산된다. NVIDIA 블로그는 NVIDIA DGX Spark부터 NVIDIA IGX Platform, 랙 스케일 서버에 이르는 엣지 시스템을 가리킨다. 더 넓은 시장 의미는 모든 에이전트 워크플로우가 중앙 클라우드 애플리케이션 계층에서 실행되지는 않는다는 점이다. 일부는 계측기, 기계, 로컬 이벤트 소스 가까이에서 실행되어야 한다.

넷째, 상호운용성은 원시 처리량만큼 중요해진다. NVIDIA는 NVIDIA DAQIRI가 NVIDIA 소프트웨어 스택뿐 아니라 계측기별 맞춤 플랫폼으로도 스트리밍할 수 있다고 말한다. 엔터프라이즈 AI에서도 같은 원칙이 ERP, CRM, IT 시스템, 운영 기술 전반에 적용된다. 실시간 데이터 패브릭은 에이전트가 주변 시스템에 접근하고 이를 신뢰할 수 있을 때만 도움이 된다.

다음에 주목할 것

다음으로 살펴볼 신호는 NVIDIA가 이 메시지를 과학 컴퓨팅을 넘어 더 주류의 엔터프라이즈 및 산업용 AI 에이전트 사용 사례로 확장하는지 여부다. NVIDIA DAQIRI 또는 인접한 NVIDIA Holoscan Platform 구성요소가 제조 자동화, 로보틱스, 통신 운영, 보안 모니터링에 등장하기 시작한다면, 이는 더 넓은 에이전트 인프라 전략이라는 주장을 강화할 것이다.

두 번째 신호는 제3자 검증이다. 지연, 처리량, CPU 절감, 운영 복잡성에 대한 독립 벤치마크는 벤더 보고 수치보다 훨씬 중요할 것이다. 구매자들은 또한 단순한 R&D 협업이 아니라 더 명확한 배포 사례를 보고 싶어 할 것이다.

세 번째로는 인프라 벤더와 에이전트 플랫폼 기업이 상태, 이벤트 스트림, 행동 루프에 대한 공통 언어로 수렴하는지 지켜볼 필요가 있다. TMForum의 “real-time data fabric” 구상이 힘을 얻는다면, 이는 엔터프라이즈 AI와 물리 세계 시스템을 아우르는 시장 요구의 유용한 약어가 될 수 있다.

마지막으로 모델 설계 자체를 주목해야 한다. NVIDIA의 CERN 사례는 Convolutional Auto-Encoders와 transformer 기반 모델이 라이브 스트림에서 동작하는 모습을 언급한다. 더 많은 에이전트 시스템이 더 큰 추론 모델로 에스컬레이션하기 전에 분류용으로 가볍고 항상 켜져 있는 모델을 채택한다면, 실시간 인프라는 더욱 핵심적이 될 것이다.

Creati.ai 관점

이 이야기에서 가장 중요한 부분은 단일 제품으로서의 NVIDIA DAQIRI가 아니다. AI 에이전트는 데이터 경로만큼만 자율적이라는 점을 상기시켜 준다는 데 있다. 시장은 지난 2년 동안 모델, 코파일럿, 오케스트레이션 계층에 대해 이야기해 왔다. 더 어려운 문제는 그 시스템을 낮은 지연과 높은 신뢰성으로 실시간 상태에 연결해 행동을 신뢰할 수 있게 만드는 것이다.

스타트업과 엔터프라이즈 팀에게 이는 경쟁우위가 어디에서 나올지에 대한 변화를 시사한다. 더 나은 프롬프트와 에이전트 프레임워크는 한계적으로 도움이 될 수 있지만, 지속적인 차별화는 이벤트 파이프라인, 정책 계층, 그리고 모델과 운영 시스템 사이의 실시간 인터페이스를 소유하는 데서 나올 가능성이 더 높다. NVIDIA는 인프라 측면에서 그 주장을 하고 있다. 이제 나머지 시장이 이를 실제 생산 환경에서 입증해야 한다.