AI News

NVIDIA 與 LangChain 正將新版本的 open-agent stack 定位為昂貴 closed-model 系統的實用替代方案。根據供應商發佈的公告,NVIDIA 表示 LangChain 已為 NVIDIA Nemotron 3 Ultra 調校其 Deep Agents harness,並在 LangChain 自家的 Deep Agents benchmark 上取得公司所稱的開放模型領先級表現,同時相較於領先的 closed models 降低每次執行的 inference cost。

這則消息的重點不是推出新的 base model,也不是釋出一個 fine-tuned checkpoint。相反地,NVIDIA 與 LangChain 主張,提升 agent 表現的方法在於改變模型周邊的系統,而非重新訓練模型本身。這包括 prompt 變更、tool descriptions、middleware 與 runtime controls。對 AI builders 與企業團隊而言,這一點很重要,因為 agent reliability 已成為正式部署的主要阻礙之一,尤其是涉及讀取檔案、呼叫工具,以及跨業務系統執行動作的工作流程。

這項公告著重的是 harness engineering,而非模型重訓

根據 NVIDIA Blog,LangChain 針對 NVIDIA Nemotron 3 Ultra 調校了其 Deep Agents harness,並直接透過 LangChain 提供該調校後的 profile。NVIDIA 表示,結果是在相關 benchmark 中,開放模型裡的最高 accuracy,且在該評測中的 business task 表現與得分最高的 closed models 相當。NVIDIA 也說明,並不需要進行模型重訓。

這個區分是整個主張的核心。LangChain 不是對 NVIDIA Nemotron 3 Ultra 做 fine-tuning,而是分析 benchmark 的 execution traces,找出失敗點,再調整模型周邊的 harness。NVIDIA 表示,這些變更包含 system prompts、tool descriptions 與 middleware。公司將這視為企業在保持對 open stack 的掌控之下,提升 agent 行為的一種方式,因為這套系統可在自家雲端或基礎架構上執行。

LangChain 執行長 Harrison Chase 在 NVIDIA Blog 中表示,這項工作說明,企業若能把 memory、tool use、evaluation 與 model behavior 一起調校,就能從 open stack 中獲得強大的效能。這項主張反映了 agent 開發中的更大轉變:模型仍然重要,但 orchestration 越來越決定 agent 是否能正確完成商業任務。

LangChain Deep Agents 中的調校如何運作

NVIDIA Developer Blog 對於變動內容提供了最清楚的技術說明。文中描述了一個圍繞 LangChain Deep Agents harness profiles 建立的流程,這些 profiles 可視為針對單一模型的客製化層。工作流程是迭代式的:先執行 evaluation suite、檢視失敗、提出 profile 變更、驗證修正,再多次重新執行完整 benchmark,以限制 regression 與 overfitting。

這些調整範圍相對有限,但在實務上很重要。LangChain 可以修改基礎 system prompts、加入 prompt suffixes、重寫 tool descriptions,或引入 middleware 與 sub-agents。NVIDIA 的教學範例顯示了一個涉及內建 read_file 工具的失敗案例。在那個情況下,agent 只看到了檔案的第一頁,便過早回答,而不是繼續透過 pagination 讀取後續內容。建議的修正並非重訓模型,而是加入邏輯與指令,幫助 agent 正確持續閱讀。

這個例子點出了它為何對 production systems 重要。許多企業 agent 的失敗並不是驚人的 hallucination,而是程序性錯誤。模型太早停止、錯用工具、漏掉 offset,或混淆 tool name。harness profile 提供開發者一個結構化的位置來修正這些錯誤,而不必改動底層模型權重。

Developer Blog 也提到調校迴圈中的自動化,包括使用 LangSmith Engine,以及它所稱的 ralph loop 來提出並驗證 profile 變更。NVIDIA 將其視為在限制修改範圍與檢查重複 benchmark 執行仍可通過的同時,擴大優化規模的一種方式。公司的敘述偏向教學而非證據性,但它確實指出了 agent engineering 的發展方向:以 benchmark 驅動的系統調校,更像 software QA,而不是傳統的 model training。

NVIDIA 正在為企業部署包裝這套 stack

NVIDIA 不只是宣傳 benchmark 成果;它也在圍繞這些成果包裝一條企業部署路徑。公司表示,NVIDIA NemoClaw for LangChain Deep Agents 是一個開放式 reference blueprint,將針對 NVIDIA Nemotron 3 Ultra 調校的 LangChain Deep Agents 程式碼,與用於執行 agent actions 的安全 runtime NVIDIA OpenShell 結合在一起。

這是 NVIDIA 嘗試把 model-plus-orchestration 工作轉化為可部署的企業模式。依 NVIDIA 的說法,價值在於一套端到端 open stack:開放模型、開放 harness 與開放安全 runtime。對企業買家來說,賣點是可客製化、治理能力,以及對系統執行位置的控制。

NVIDIA 也列出透過 Baseten、Crusoe Cloud、DeepInfra、Fireworks、Nebius 與 Together AI 的存取路徑,讓開發者有 hosted 選項,而不必一開始就自行架設。這個分發細節很重要,因為許多企業團隊希望保有 open components 的彈性,但不想立刻承擔所有基礎架構負擔。

公司也強調了生態系夥伴。NVIDIA 表示,Abridge、Amdocs 與 Box 正將 specialized agents 嵌入各自的平台,而 EY 也在擴大圍繞 NemoClaw blueprints 的 LangChain Deep Agents 實作能力。這些說法顯示有生態系支援,但公告並未提供與調校後 NVIDIA Nemotron 3 Ultra 設定直接相關的部署指標、工作負載量或客戶成果。

證據、基準測試,以及仍屬供應商報告的部分

這則故事中最強的效能主張都來自供應商。兩個來源都是 NVIDIA 的出版內容,而公告核心的 benchmark 是 LangChain 的 Deep Agents benchmark。NVIDIA 表示,NVIDIA Nemotron 3 Ultra 在開放模型中達到最高 accuracy,以更高 throughput 完成更多任務,且每次執行的 inference cost 比領先的 closed models 低 10 倍。

這些主張很重要,但仍應搭配一般性的保留看待。這些來源在此並未提供完整的比較方法學,包括精確的競品名稱、執行配置、所有模型的 prompt 設定,或獨立重現。NVIDIA 也表示,這個 benchmark 是 stochastic 的,應多次執行;這是一個有用的揭露,因為它意味著結果會有一定變異。

這組主張中最可信的技術說法反而較窄:效能是透過 harness engineering 提升,而非重訓。Developer Blog 以具體方式解釋了其機制,而這種模式也符合許多 agent systems 在實務中的運作方式。不過,在獨立評估驗證之前,與專有 frontier models 的相當性、benchmark 領先地位,以及成本比率,仍然是 NVIDIA 與 LangChain 的主張。

為何 builders 與企業團隊應該關注

對於打造 AI agents 的產品團隊來說,實際教訓是 orchestration 已成為首要優化目標。如果 NVIDIA Nemotron 3 Ultra 能僅靠 profile tuning 就明顯改善 LangChain Deep Agents,團隊或許可以先從既有開放模型中榨取更多價值,再考慮 fine-tuning 或更昂貴的 closed APIs。

這有幾個影響。首先,evaluation 變成不可或缺。NVIDIA 所描述的工作流程依賴於執行 benchmark、分析失敗,並反覆測試修正。沒有良好 evals 的團隊,很難知道 prompt 或 middleware 的變更到底是提升了 reliability,還是只是改變了失敗模式。

其次,secure execution 越來越成為產品的一部分,而不是附加功能。NVIDIA OpenShell 與更廣泛的 NVIDIA NemoClaw blueprint,被視為圍繞 agent actions 的安全與治理層。如果 runtime 不能執行權限邊界或稽核 agent 做了什麼,企業 AI 系統的買家就不會太在意一個吸睛的 benchmark。

第三,成本可能從 model selection 轉移到 system design。closed models 仍主導許多複雜 agent 任務,但如果 open stack 在某些 workflows 上已經夠接近,經濟模型就會改變。當每次執行成本更低時,持續 evaluation、更多實驗,以及針對特定領域的客製化都會更容易。這對內部工具、coding workflows,以及需要大量反覆測試的文件密集型作業尤其相關。

競爭面的意義也很明確。NVIDIA 正試圖把 NVIDIA Nemotron、LangChain 與部署夥伴串成一致的 agent stack,不僅與模型供應商競爭,也與整合式專有平台競爭。LangChain 也因此受益,因為它展示了自家 harness 不只是 orchestration layer,而是能驅動效能的槓桿。

接下來要觀察什麼

下一個值得監測的訊號是獨立重現。如果第三方開發者在使用 LangChain Deep Agents 時,對公開的 NVIDIA Nemotron 3 Ultra profile 回報相似的提升,那麼這項公告的份量就會比單一供應商 benchmark 更重。

第二個訊號是 NVIDIA NemoClaw 與 NVIDIA OpenShell 是否會成為企業部署中的常見參考點,還是主要停留在示範 blueprint 的角色。採用細節、案例研究與安全審查,會比上市當天的說法更重要。

第三,要觀察 Baseten、Crusoe Cloud、DeepInfra、Fireworks、Nebius 與 Together AI 這類 hosted providers 是否以方便與 closed alternatives 比較的方式提供調校後的設定。若買家能快速測試同一套 stack,open vs. closed 的爭論就會更具體。

最後,也要留意是否像 LangSmith Engine 這類的自動調校會成為標準。如果 harness optimization 能部分自動化,並以嚴謹的 eval discipline 驗證,那麼建立足以應付真實商業流程的專門 AI agents 的門檻,將有機會降低。

Creati.ai 觀點

這則公告最重要的部分,不是 NVIDIA 說 NVIDIA Nemotron 3 Ultra 表現很好,而是這些公司正試圖把討論焦點從 model supremacy,轉向 agent-system engineering。這正是許多企業部署成敗的關鍵所在。builders 早就知道,base models 的 benchmark 勝利,往往會在涉及 tools、memory 與 runtime controls 的雜亂工作流程中消失。

如果 NVIDIA 與 LangChain 能持續證明,開放元件加上有紀律的 harness tuning,可以在明確的業務任務上接近 closed-model performance,那麼企業 AI 的採購標準就會改變。問題將不再是「哪個模型最聰明?」,而會變成「哪一套 stack 能讓我們評估、治理、客製化,並負擔得起持續運行?」這項公告沒有為這場辯論下定論,而其最大的主張也仍是供應商報告。不過,它確實為 AI agents 的下一階段提供了更有用的框架:系統工程,而不只是模型挑選。

精選

NVIDIA 與 LangChain 以調校後的 agent harness 推進 Nemotron 3 Ultra,為企業代理人打造 open stack 的有力案例

NVIDIA 表示,經 LangChain 調校的 Nemotron 3 Ultra 在開放模型代理人基準測試中達到頂尖成果,凸顯更低成本的企業 AI stack。