
一項新的 VentureBeat Pulse Research 調查指出,企業 AI 出現日益擴大的落差:即使許多組織仍缺乏對現有 AI 運算實際成本的基本可視性,它們仍在提高基礎架構目標,並考慮更換供應商。
這項調查基於 2026 年 6 月單一波次、來自員工超過 100 人組織的 107 位受訪者,結果顯示,只有 21% 表示自己已在大規模 production 中執行 AI。然而,根據 VentureBeat 的報導,45% 計畫在未來一年評估 AI 專用雲端,64% 打算在 12 個月內更換或新增一個基礎架構供應商,38% 表示這可能在接下來一季就發生。同時,83% संचालन GPU 的受訪者回報使用率為 50% 或以下,只有 44% 表示他們嚴格追蹤 AI 運算的成本與回報。
這個組合之所以重要,是因為它暗示 企業 AI 的下一階段,可能較少由對更多硬體的原始需求所驅動,而更多由薄弱的成本儀表化、不成熟的部署做法,以及匆忙的採購決策所塑造。對建構者與企業買家而言,重點不只是 AI 預算在上升,而是支出似乎正跑在營運紀律之前。
這項調查最清楚的訊息之一,是許多公司在 AI rollout 上仍處於早期階段。VentureBeat 表示,76% 的受訪者仍在實驗,或只有部分工作負載已進入 production。這使得目前的基礎架構重組格外值得注意:組織更換供應商,並不是站在成熟且穩定的營運經驗基礎上進行。許多公司仍在搭建地基。
目前的使用仍集中在既有的大型供應商。VentureBeat 報導指出,Google Cloud 以 48% 領先目前 AI 基礎架構使用率,其他主要平台包括 Microsoft、AWS 和 Oracle,以及 Gemini、OpenAI 和 Anthropic 等模型供應商 API,共同構成了當前堆疊的大部分。相較之下,在 AI 基礎架構圈內備受矚目的專用 GPU 雲端供應商,包括 CoreWeave、Lambda、Crusoe 和 Nebius,在這份樣本中目前使用幾乎沒有,甚至沒有。
但未來的評估計畫與現況部署大不相同。根據調查,未來一年最常被提到的評估項目是 AI 專用雲端,比例為 45%。VentureBeat 也報導,32% 打算評估非 Nvidia 加速器,28% 計畫評估下一代 Nvidia 晶片。換言之,下一個支出週期不一定會加深現狀,反而可能測試其替代方案。
對企業 AI 團隊來說,這是一個重要區別。公司今天可能深度承諾於雲端 AI,但仍可在下一個預算週期研究新的基礎架構層、新的加速器類型,以及訓練與推論不同的成本結構。
這份調查的採購訊號,可能比市場占有率快照更有價值。根據 VentureBeat,受訪者表示,在選擇 AI 基礎架構供應商時,與既有堆疊的整合是最重要因素,獲得 41% 提及,其次是總持有成本(TCO),為 35%。每百萬 tokens 的成本則低得多,只有 8%。
這個發現與把 AI 基礎架構競爭描繪成「最低單位價格競賽」的常見說法相悖。至少在這份樣本中,企業買家似乎更關心新基礎架構是否能與身分系統、資料管線、可觀測性工具、治理控制與既有合約相容,而不是表面上的 token 價格。
這也有助於解釋為何據報 Microsoft Azure 與 Google Cloud 在短期更換考量中各以 33% 佔前兩名,OpenAI 為 30%,Gemini 為 22%。VentureBeat 將此解讀為:短期內的大部分變動,可能是既有供應商之間在交換市占、或整合客戶支出,而不是快速轉向較新的專門供應商。
對產品團隊而言,這意味著單靠技術實力未必能贏得預算。能簡化遷移、整合帳單、改善治理,或讓企業採購更容易的供應商,可能比只專注於基準價格的廠商更有優勢。
這份報告中最強的數據也許是使用率。VentureBeat 表示,在有運作 GPU 的企業中,83% 回報使用率為 50% 或以下,49% 表示使用率為 25% 或以下。另有 8% 表示他們根本不測量使用率。
如果這些數字準確,代表大量昂貴的容量正閒置著。這在早期 AI 計畫中並不一定令人意外,因為團隊常會為了實驗而過度配置、在部署前先購買容量,或缺乏足夠成熟的工作負載排程器來讓系統保持忙碌。但這確實削弱了「只要更多 GPU 就能立刻解決大多數企業 AI 瓶頸」的說法。
會計面向看起來也同樣薄弱。根據 VentureBeat,不到一半的受訪者、也就是 44%,表示他們嚴格追蹤運算成本與回報。其他人則表示只追蹤一部分、目前還無法量化,或尚未把它列為優先事項。
綜合來看,這些結果支持文章的核心主張——「運算落差」:企業做出更快、規模更大的基礎架構決策,而其衡量系統卻無法為這些決策提供充分正當性。實務上,這可能意味著團隊在沒有清楚工作負載層級單位經濟的情況下,就批准了保留執行個體、GPU 叢集、模型 API 承諾或新的雲端合作。
對企業 AI 而言,這很重要,因為成本問題通常出現得很晚。概念驗證可以容忍模糊的經濟性;大規模推論產品則不行。如果組織不知道哪些工作負載在吃掉預算、哪些模型配置過多,或 GPU 排隊與記憶體限制在哪裡造成隱藏浪費,那麼下一階段的支出只會讓這些低效率更難被逆轉。
這是一份有用的調查,但應謹慎解讀。VentureBeat 也指出,資料來自 2026 年第二季的單一波次,樣本為 107 位合格受訪者,應被視為方向性訊號,而非精準的市場測量。樣本是自我選擇的,偏向中型市場組織,且較傾向較早期的 AI 採用者,而非最大的 hyperscale 營運者。
這個提醒很重要,原因有幾個。第一,這份調查中的目前供應商使用情況,不等於全球企業 AI 支出市占。第二,受訪者所稱的更換意向,通常比實際更換行為更吵雜。第三,使用率與成本追蹤的回覆都是自我申報,而非獨立稽核。
一些更前瞻的說法也只是基於調查的態度,而不是已觀察到的市場結果。對 AI 專用雲端、非 Nvidia 加速器,以及分散式或主權運算的興趣,反映的是評估計畫,而非已承諾的採購。同樣地,對推論中的記憶體頻寬與 KV-cache 限制的擔憂,在先進部署中確實存在,但 VentureBeat 發現約五分之一的受訪者並不知道這個問題,這更說明買家的成熟度,而不是這個瓶頸何時會對某家企業變得緊急。
即便有這些保留,調查內部邏輯仍相當一致:早期採用者仍在建置,他們不滿到足以評估替代方案,而許多公司還沒有足夠的成本控制來好好判斷這些替代方案。
對基礎架構供應商而言,訊息很清楚:企業銷售越來越關乎營運可視性,而不只是能否取得加速器。能展現強大成本歸因、使用率報告、政策控制與工作負載編排的供應商,可能會比只賣原始容量的廠商更有吸引力。
對企業來說,優先事項也許需要從購買更多運算,轉向更好地衡量現有運算。這意味著工作負載層級的 chargeback、模型路由策略、GPU 排程、快取策略,以及在實驗、訓練與推論之間更清楚的分帳。同時也意味著,在比較模型 API 成本與自架經濟性時,必須把人力、整合、可靠性與治理額外成本都算進去,而不只是 token 價格。
對 AI 建構者而言,尤其是那些在 Google Cloud、Microsoft Azure、AWS 或 Oracle 上交付產品,同時又使用 OpenAI、Anthropic 或 Gemini API 的團隊,這份調查提醒大家:基礎架構選擇已不再只是背景決策。它會影響延遲、毛利、可靠性、法遵與產品路線圖的彈性。如果財務與工程無法共同看見這些取捨,架構決策就會由採購壓力,而不是由證據所驅動。
下一個要觀察的訊號,是受訪者所表達的評估興趣,是否會轉化為實際工作負載向 CoreWeave、Lambda、Crusoe、Nebius 或其他 AI 專用雲端的移動。第二個關鍵指標,是企業是否採用更正式的 AI 成本可觀測工具,而不是繼續靠雲端儀表板與部分報告來管理支出。
也值得觀察更換潮是否仍集中在 Google Cloud、Microsoft Azure、OpenAI 和 Gemini 這些既有者,或是擴大成有意義的加速器多元化。如果非 Nvidia 的評估最後轉化為部署,這將表示企業對效能、供應風險與成本控制的思考出現了更深層的轉變。
最後,請留意營運指標。如果未來調查顯示 GPU 使用率上升,且更多公司嚴格追蹤運算經濟性,那麼今天的超支可能只是暫時的成長痛。但如果沒有,企業 AI 可能會在下一輪擴張中帶著相同的可視性問題前進,只是帳單更大而已。
這份調查最重要的洞察,不是企業想要更多 AI 基礎架構。這點早已顯而易見。更有價值的訊號是,許多買家如今已認知到整合與總持有成本才是真正的決策標準,但他們仍缺乏能有把握地衡量這兩者的儀表化能力。
這個落差為整個堆疊帶來機會。雲端供應商、模型平台、可觀測性廠商與內部平台團隊,都有機會把 AI 成本控制變成產品功能,而不是財務部門的事後補救。贏家可能是那些讓運算變得可讀的公司:不只是可用,而是可歸因、可治理,並且能輕鬆比較不同工作負載。對企業 AI 而言,更清楚的經濟性,可能會成為比下一次微幅降價更強的競爭優勢。
一項 VentureBeat 調查顯示,企業推進 AI 基礎架構與供應商更換的速度,快於他們追蹤 GPU 使用量或真實運算成本的速度。