새로운 VentureBeat Pulse Research 설문조사는 기업 AI에서 커지는 불균형을 보여준다. 많은 조직이 기존 AI 컴퓨팅의 실제 비용에 대한 기본적인 가시성조차 부족한데도, 인프라 목표를 높이고 공급업체 변경을 검토하고 있기 때문이다.

2026년 6월 단일 조사 물결에서 직원 100명 이상 조직의 응답자 107명을 기반으로 한 이 설문에서, AI를 대규모로 프로덕션에 운영한다고 답한 비율은 21%에 불과했다. 그러나 VentureBeat 보도에 따르면 45%는 향후 1년 내 AI 특화 클라우드를 평가할 계획이며, 64%는 12개월 내 인프라 공급업체를 바꾸거나 추가할 예정이고, 38%는 다음 분기 안에 그런 변화가 일어날 수 있다고 답했다. 동시에 GPU를 운영하는 응답자의 83%는 활용률이 50% 이하라고 보고했고, AI 컴퓨팅의 비용과 수익을 엄격하게 추적한다고 답한 비율은 44%에 불과했다.

이 조합이 중요한 이유는 엔터프라이즈 AI의 다음 단계가 더 많은 하드웨어에 대한 단순한 수요보다 약한 비용 계측, 미성숙한 배포 관행, 그리고 서두른 조달 결정에 의해 더 크게 좌우될 수 있음을 시사하기 때문이다. 빌더와 기업 구매자에게 중요한 헤드라인은 단순히 AI 예산이 늘고 있다는 사실이 아니다. 지출이 운영 규율보다 앞서 움직이고 있다는 점이다.

아직 배포 초기인 시장이 이미 재플랫폼화를 준비하고 있다

이번 설문에서 가장 분명한 메시지 중 하나는 많은 기업이 여전히 AI 도입 초기 단계에 있다는 점이다. VentureBeat에 따르면 응답자의 76%는 아직 실험 중이거나 일부 워크로드만 프로덕션에서 운영 중이다. 이는 현재의 인프라 재편을 더 주목하게 만든다. 조직들이 성숙하고 안정된 운영 경험을 바탕으로 공급업체를 바꾸는 것이 아니기 때문이다. 많은 이들이 아직 기반을 쌓는 중이다.

현재 사용은 여전히 기존 공급업체에 집중되어 있다. VentureBeat는 현재 AI 인프라 사용에서 Google Cloud가 48%로 선두라고 보도했으며, Microsoft, AWS, Oracle 같은 다른 주요 플랫폼과 Gemini, OpenAI, Anthropic 같은 모델 공급업체 API가 현재 스택의 대부분을 차지한다고 전했다. 반면 AI 인프라 업계에서 큰 관심을 받는 특화 GPU 클라우드 공급업체인 CoreWeave, Lambda, Crusoe, Nebius는 이번 샘플에서 현재 사용이 거의 없거나 전혀 없었다.

그러나 향후 평가 계획은 현재 배포와 매우 다르다. 조사에 따르면 다음 1년 동안 가장 많이 검토할 분야는 AI 특화 클라우드로 45%였다. VentureBeat는 또한 32%가 비-Nvidia 가속기를 평가할 예정이고, 28%는 차세대 Nvidia 실리콘을 평가할 계획이라고 보도했다. 다시 말해, 다음 지출 주기는 현상 유지에 더 깊이 들어가기보다 그것의 대안을 시험하는 쪽에 더 가까울 수 있다.

이는 엔터프라이즈 AI 팀에게 중요한 차이다. 기업은 오늘 클라우드 AI에 강하게 묶여 있더라도, 다음 예산 주기에는 새로운 인프라 계층, 새로운 가속기 유형, 학습과 추론의 다른 비용 구조를 검토할 수 있다.

구매자는 단순 단가보다 적합성과 TCO를 더 중요하게 본다

이번 설문의 조달 신호는 시장 점유율 스냅샷보다 훨씬 유용할 수 있다. VentureBeat에 따르면 응답자들은 AI 인프라 공급업체를 선택할 때 가장 중요한 요소로 기존 스택과의 통합을 꼽았고, 41%가 이를 지목했다. 그 다음은 총소유비용(TCO)으로 35%였다. 백만 토큰당 비용은 8%로 훨씬 낮았다.

이 결과는 AI 인프라 경쟁을 가장 낮은 단가를 제시하는 싸움으로 보는 흔한 프레임과 어긋난다. 적어도 이번 샘플에서 기업 구매자들은 새 인프라가 아이덴티티 시스템, 데이터 파이프라인, 관찰성 도구, 거버넌스 통제, 기존 계약에 잘 맞는지에 더 관심이 있는 것으로 보이며, 화려한 토큰 가격에는 상대적으로 덜 신경 쓰는 듯하다.

이 결과는 또한 Microsoft Azure와 Google Cloud가 각각 33%로 단기 전환 검토 대상에서 선두를 차지하고, OpenAI가 30%, Gemini가 22%를 기록한 이유를 설명하는 데 도움이 된다. VentureBeat는 이를 통해 단기 이동의 상당 부분이 새로운 전문 공급업체로의 급격한 이전이 아니라, 기존 공급업체 간 점유율 이동이나 고객 지출 통합일 가능성이 높다고 해석한다.

제품 팀 입장에서는 기술적 우수성만으로 예산을 따내기 어려울 수 있다는 뜻이다. 마이그레이션을 단순화하고, 청구를 통합하고, 거버넌스를 개선하고, 기업 조달을 쉽게 만들 수 있는 공급업체가 단순히 벤치마크 가격에만 집중하는 벤더보다 더 유리할 수 있다.

증거가 가리키는 것은 단순한 용량 문제가 아니라 책임성 문제다

이 보고서에서 가장 강력한 통계는 활용률 데이터일 수 있다. VentureBeat는 GPU를 운영하는 기업 중 83%가 활용률 50% 이하라고 보고했고, 49%는 25% 이하라고 답했다고 전했다. 또 다른 8%는 활용률을 전혀 측정하지 않는다고 했다.

이 수치가 정확하다면, 많은 비싼 용량이 놀고 있다는 뜻이다. 이는 초기 단계 AI 프로그램에서 반드시 놀라운 일은 아니다. 팀들이 실험을 위해 과도하게 할당하거나, 배포 전에 용량을 사두거나, 시스템을 충분히 바쁘게 유지할 정도로 정교한 워크로드 스케줄러가 부족한 경우가 많기 때문이다. 하지만 대부분의 엔터프라이즈 AI 병목에 대해 GPU를 더 늘리는 것만이 즉각적인 답이라는 생각을 약화시킨다.

회계 측면도 비슷하게 약하다. VentureBeat에 따르면 응답자의 44% 미만만이 컴퓨팅 비용과 수익을 엄격하게 추적한다고 답했다. 나머지는 부분적으로만 추적하거나, 아직 정량화할 수 없거나, 우선순위로 두지 않았다고 했다.

이 결과들을 합치면 기사 핵심 주장인 “컴퓨트 격차”를 뒷받침한다. 기업이 측정 시스템으로 정당화하기 어려울 정도로 더 빠르고 크게 인프라 결정을 내리고 있다는 것이다. 실제로는 워크로드 수준의 명확한 단위 경제성을 확보하지 않은 채 예약 인스턴스, GPU 클러스터, 모델 API 약정, 새로운 클라우드 파트너십을 승인하고 있을 수 있다.

엔터프라이즈 AI에서 이것이 중요한 이유는 비용 문제가 대개 뒤늦게 드러나기 때문이다. PoC는 모호한 경제성을 견딜 수 있지만, 규모가 큰 추론 제품은 그렇지 못하다. 조직이 어떤 워크로드가 예산을 소모하는지, 어떤 모델이 과도하게 할당되어 있는지, GPU 대기열과 메모리 한계가 어디에서 보이지 않는 낭비를 만드는지 모른다면, 다음 지출 단계는 그런 비효율을 되돌리기 더 어렵게 만들 뿐이다.

증거, 방법론, 그리고 여전히 불확실한 점

이 설문은 유용하지만 신중하게 읽어야 한다. VentureBeat 자체도 데이터가 2026년 2분기 한 번의 조사 물결과 107명의 적격 응답자에 기반하며, 정밀한 시장 측정보다는 방향성 신호로 받아들여야 한다고 밝힌다. 표본은 자발적 선택이며, 중견 시장 조직에 치우쳐 있고, 가장 큰 하이퍼스케일 사업자보다 초기 단계 AI 도입 기업 쪽에 더 가깝다.

이러한 주의점은 여러 이유로 중요하다. 첫째, 이번 설문에서의 현재 공급업체 사용은 글로벌 엔터프라이즈 AI 지출 점유율과 같지 않다. 둘째, 보고된 전환 의향은 실제 전환 행동보다 더 잡음이 많다. 셋째, 활용률과 비용 추적 응답은 독립 감사가 아닌 자기 보고다.

더 미래 지향적인 주장들 역시 관찰된 시장 결과가 아니라 설문 기반 태도다. AI 특화 클라우드, 비-Nvidia 가속기, 분산형 또는 주권형 컴퓨팅에 대한 관심은 확정된 구매가 아니라 평가 계획을 반영한다. 마찬가지로 추론에서 메모리 대역폭과 KV 캐시 제약에 대한 우려는 고급 배포에서 실재하지만, 약 5명 중 1명이 이 문제를 인식하지 못한다는 VentureBeat의 발견은 특정 기업에서 그 병목이 언제 긴급해질지보다 구매자 성숙도를 더 많이 말해준다.

이러한 유보 사항이 있더라도 설문의 내부 논리는 일관된다. 초기 도입 기업들은 아직 구축 중이고, 대안을 평가할 만큼 불만이 있으며, 그 대안을 제대로 판단하는 데 필요한 비용 통제는 아직 부족하다.

빌더와 엔터프라이즈 AI 팀에 주는 의미

인프라 벤더에게 메시지는 분명하다. 기업 영업은 점점 단순한 가속기 접근권이 아니라 운영 가시성에 관한 것이 되고 있다. 강력한 비용 귀속, 활용률 보고, 정책 제어, 워크로드 오케스트레이션을 보여줄 수 있는 공급업체가 단순한 순수 용량 판매자보다 더 큰 반응을 얻을 수 있다.

기업에게는 더 많은 컴퓨트를 사는 것에서 현재 컴퓨트를 더 잘 측정하는 것으로 우선순위를 옮겨야 할 수 있다. 이는 워크로드 단위 차지백, 모델 라우팅 정책, GPU 스케줄링, 캐싱 전략, 그리고 실험·학습·추론 간의 더 명확한 분리 회계를 의미한다. 또한 모델 API 비용과 자체 호스팅 경제성을 비교할 때 단순 토큰 가격이 아니라 인력, 통합, 신뢰성, 거버넌스 오버헤드까지 포함해야 함을 뜻한다.

특히 Google Cloud, Microsoft Azure, AWS, Oracle에서 제품을 출시하면서 OpenAI, Anthropic, Gemini의 API를 사용하는 AI 빌더에게 이번 설문은 인프라 선택이 더 이상 배경 결정이 아님을 상기시킨다. 이는 지연 시간, 마진, 신뢰성, 규제 준수, 제품 로드맵 유연성에 영향을 미친다. 재무와 엔지니어링이 그 트레이드오프를 함께 보지 못하면, 아키텍처 결정은 증거가 아니라 조달의 긴급성에 의해 좌우될 것이다.

다음에 주목할 것

다음으로 볼 신호는 평가에 대한 언급된 관심이 CoreWeave, Lambda, Crusoe, Nebius 또는 다른 AI 특화 클라우드로의 실제 워크로드 이동으로 이어지는지 여부다. 두 번째 핵심 지표는 기업들이 클라우드 대시보드와 부분 보고에 의존하기보다 더 공식적인 AI 비용 관찰 도구를 도입하는지 여부다.

또한 전환 물결이 Google Cloud, Microsoft Azure, OpenAI, Gemini 같은 기존 강자에 계속 집중될지, 아니면 의미 있는 가속기 다변화로 넓어질지도 지켜볼 가치가 있다. 비-Nvidia 평가가 실제 배포로 이어진다면, 이는 기업이 성능, 공급 리스크, 비용 통제를 어떻게 생각하는지에서 더 깊은 변화를 의미할 것이다.

마지막으로 운영 지표를 주시해야 한다. 향후 설문에서 GPU 활용률이 상승하고 더 많은 기업이 컴퓨팅 경제성을 엄격하게 추적한다면, 오늘의 과잉 지출은 일시적인 성장통처럼 보일 수 있다. 그렇지 않다면 엔터프라이즈 AI는 더 큰 청구서와 함께 같은 가시성 문제를 안고 다음 확장 사이클에 들어가게 될 것이다.

Creati.ai 관점

이번 설문에서 가장 중요한 통찰은 기업이 더 많은 AI 인프라를 원한다는 사실이 아니다. 그것은 이미 꽤 전부터 분명했다. 더 유용한 신호는 많은 구매자들이 이제 통합과 총소유비용을 진짜 의사결정 기준으로 인식하고 있지만, 그 어느 쪽도 자신 있게 측정할 수 있는 계측 수단은 아직 부족하다는 점이다.

이 격차는 스택 전반에 기회를 만든다. 클라우드 공급업체, 모델 플랫폼, 관찰성 벤더, 내부 플랫폼 팀 모두 AI 비용 통제를 재무의 뒷전 과제가 아니라 제품 기능으로 바꿀 기회를 갖는다. 승자는 컴퓨트를 읽을 수 있게 만드는 회사일 수 있다. 단순히 제공되는 것이 아니라, 귀속 가능하고, 통제 가능하며, 워크로드 간 비교가 쉬운 컴퓨트 말이다. 엔터프라이즈 AI에서는 더 명확한 경제성이 다음의 소폭 가격 인하보다 더 강한 경쟁 우위가 될 수 있다.