Salesforce與Nvidia押注企業專屬推理能挑戰前沿AI

Salesforce與Nvidia宣布了Koa,這是一款為Agentforce設計的企業推理模型,旨在降低成本、保護資料並處理業務工作流程。

AI News

Salesforce與Nvidia宣布了Koa,這是一款為銷售、行銷和客戶支援工作打造,而非用於通用問題解決的推理模型。Koa在Salesforce的Dreamforce大會上亮相,將加入Agentforce提供的模型選項之中;Agentforce是該公司用於建立AI代理人的平台。

這項宣布之所以重要,是因為它反映了前沿AI開發與企業部署之間日益擴大的分化。Salesforce並未將每個複雜請求都送往OpenAI或Anthropic的通用模型,而是提供一個針對客戶工作流程調校的系統,其資料控管與推理效率則是圍繞商業軟體設計。

Koa建立在Nvidia Nemotron之上,這是Nvidia的一款開放權重模型。兩家公司共同進行了後訓練,使用代表銷售對話與客戶服務互動的合成情境。根據Salesforce高層Jayesh Govindarajan表示,這項工作沒有使用任何真實客戶資料。

Koa鎖定Salesforce的營運工作流程

Salesforce表示,Koa的目標是處理Agentforce客戶希望自動化的那類多步驟任務。這些任務可能包括回答客戶問題、支援銷售活動,以及處理涉及不同客戶人物誌與不同複雜度層級的服務互動。

這樣的重點讓Koa有別於通常以廣泛推理能力行銷的模型。Salesforce並未將這款模型定位為企業中所有AI系統的替代品。相反地,它是在Agentforce既有模型組合中新增一個專門選項,而其中已經包含較小、專為特定任務設計的語言模型。

該公司先前是透過AI閘道將更高難度的推理任務轉送至Claude或ChatGPT等外部模型。閘道會決定由哪個模型處理請求。Koa為Salesforce在這一層路由提供了另一個選擇,尤其是在任務與銷售或客戶支援流程密切相關時。

這款模型的企業定位也取決於其運行位置,以及訓練時使用了哪些資訊。Salesforce表示,Koa並未使用客戶紀錄進行訓練。其後訓練資料是以合成方式生成,用來模擬互動情境,包括一名憤怒的客戶聯絡服務中心,以及一名銷售人員嘗試成交。

為何開放權重與來源脈絡很重要

Salesforce選擇建立在Nvidia Nemotron之上,反映了希望對AI堆疊擁有更多控制權的企業所面臨的一項現實限制:從零開始訓練一個有能力的基礎模型既昂貴又技術上困難。Govindarajan告訴TechCrunch,Nemotron提供了一個可取得的美國預訓練模型,而Salesforce認為它具備不錯的能力,且資料來源更清楚。

對評估開放權重模型的企業買家而言,這個來源脈絡問題很重要。Govindarajan將Nemotron與阿里巴巴的Qwen對比,並表示Salesforce並不知道Qwen是用哪些資料訓練的。他的說法是Salesforce高層對選擇標準的陳述,而不是對競品模型的獨立評估。

Nvidia的Kari Ann Briski表示,Nemotron的架構是為了節省token的推理而設計。實際上,Salesforce與Nvidia的主張是:Koa能以更少生成文字得出可用答案,因此相較於把同樣工作交給更大的通用模型,使用成本更低。

目前可得的報導沒有提供Koa的獨立基準測試、定價、延遲測量,或並排品質結果。因此,關於更少token消耗、更快回應,以及在Salesforce工作流程上表現更佳的說法,在客戶或第三方評測者發布可比較證據之前,都應視為供應商的說法。

這是一個專門模型,而非離開Anthropic或OpenAI

Salesforce的Koa宣布,並不意味著公司要切斷與前沿模型供應商的關係。Salesforce也宣布了Claudeforce,這是與Anthropic的合作,讓企業能把Claude作為AI介面來使用,同時將企業資料保留在Salesforce的系統與安全基礎架構之內。

這種組合顯示的是一種產品組合策略,而不是對單一模型的承諾。像Koa這樣的專門模型可以處理可預測的商業任務,而Claude或其他前沿系統則可繼續提供給需要更廣泛能力的請求。AI閘道成為控制點,讓Salesforce得以把不同工作負載分配給不同模型。

對企業客戶來說,這種安排可降低對單一供應商的依賴,同時保留先進模型的存取權。它也讓Salesforce有方式讓其平台在模型選擇、資料治理與代理人執行中扮演更核心的角色。代價是複雜度增加:買家必須理解路由決策如何形成、模型品質如何因任務而異,以及隨著通用系統持續進步,專門模型是否仍具競爭力。

Koa對建構者與買家的意義

對AI產品團隊而言,Koa說明了為何即使通用模型已廣泛可得,領域專屬後訓練仍然具有吸引力。懂得公司工作流程慣例的模型,可能需要更少指令、產生更短的推理軌跡,並更自然地融入既有的權限與紀錄系統。

合成資料方法也可能吸引那些無法使用生產資料進行模型開發的組織。它可以幫助團隊在不暴露真實紀錄的情況下,測試涉及敏感客戶互動的情境。但模擬對話無法自動捕捉真實商業營運的全部多樣性、歧義或失敗模式。Salesforce客戶在把重要任務交給Koa之前,仍需以自身流程驗證它。

可靠性與治理將和原始模型品質一樣重要。Agentforce部署可能需要針對異常請求的明確升級規則、自動化動作的稽核日誌,以及防止低成本模型被用於未評估任務的控制措施。AI閘道的存在可以支援這些政策,但目前報導尚未說明Koa的控制或評估架構有多細緻。

其競爭意涵超越Salesforce的產品線。如果企業軟體公司能把開放權重基礎模型、合成後訓練與受控路由結合起來,它們可能會攫取目前流向通用AI實驗室的更多價值。前沿供應商仍會提供重要能力,但軟體公司可能成為決定何時需要這些能力的那一層。

接下來值得觀察的重點

第一個訊號將是Koa在真實Agentforce工作負載上的品質、延遲、token使用量與成本的獨立證據。客戶案例應釐清,這款模型是否能在不增加人工審查的情況下,提高解決率或任務完成率。

建構者也應觀察Koa如何透過AI閘道被提供:客戶是否能設定路由規則、比較輸出、設定支出上限並稽核模型決策。部署選項、區域可用性與資料保留政策,對受監管產業尤其重要。

最後,市場將揭示Salesforce的雙軌做法——Koa負責專門工作,而Claude或其他前沿模型負責更廣泛推理——是否會成為企業軟體中可重複的模式。Nvidia的開放權重策略,也將部分取決於有多少公司能在沒有Salesforce平台資料、工具與通路的情況下,複製Salesforce的後訓練方法。

Creati.ai觀點

Koa之所以重要,不在於目前證據已證明它是更優秀的推理模型,而在於它顯示企業AI競爭正朝哪個方向移動。Salesforce把推理視為可部署的工作流程能力,而不只是基準測試的類別。這把焦點轉向每項任務成本、資料邊界、路由與營運可靠性。

對Koa最有力的證明,將來自正式上線後的結果,而非這場宣布本身。如果Salesforce能證明,一個以合成資料訓練的專門模型能可靠且低成本地處理常見的Agentforce任務,那麼其他企業平台可能也會採取類似架構。如果做不到,客戶仍會把困難工作轉向前沿供應商,即使這意味著更高成本與更多治理顧慮。

廣告