
Amazon Web Services 已擴充 Amazon SageMaker AI,以支援 NVIDIA Nemotron 3 模型的無伺服器自訂,讓企業能以受管理的方式微調 NVIDIA 較新的兩款開放權重大型語言模型,而無需配置訓練基礎架構。
根據 AWS Machine Learning Blog 的文章,新的支援涵蓋 Nemotron 3 Nano 與 Nemotron 3 Super,並包含三種調整方式:監督式微調、帶有可驗證獎勵的強化學習,以及從 AI 回饋中進行強化學習。這項更新的立即意義與其說是新模型發布,不如說是模型分發方式的改變:AWS 正在讓 NVIDIA 的模型更容易在既有的企業 ML 平台內進行調整,定價與營運也以按需使用為主,而非專用 GPU 叢集。
這點很重要,因為許多企業希望保有自訂開放模型的控制權,但不想自行搭建訓練堆疊。AWS 把 NVIDIA Nemotron 3 放進 Amazon SageMaker AI 的無伺服器模型自訂工作流程中,試圖降低從模型實驗到將其轉化為領域專屬資產之間的營運門檻,例如用於程式撰寫支援、工作流程協調與內部推理系統等任務。
AWS 表示,Amazon SageMaker AI 現在支援 NVIDIA Nemotron 3 系列中的兩款模型進行無伺服器模型自訂:Nemotron 3 Nano,描述為總參數 300 億、啟用參數 30 億;以及 Nemotron 3 Super,描述為總參數 1,200 億、啟用參數 120 億。公司表示,客戶可以從 Amazon SageMaker Studio 開始,或以程式方式使用 SageMaker Python SDK。
這次發布重點在於調整,而不只是推論存取。AWS 表示,使用者可透過監督式微調來適應帶標註的範例,透過帶有可驗證獎勵的強化學習來處理結果可檢查的任務,並透過從 AI 回饋中進行強化學習來做偏好式對齊。實務上,這代表 AWS 把標準的指令微調與更專門的強化學習式方法,都納入同一條受管理的自訂路徑中。
公司的訴求很直接:移除模型訓練營運中所謂的「無差異的繁重工作」。在 AWS 的描述裡,這包括基礎架構配置、分散式訓練設定、檢查點管理與容錯。相較之下,工作流程則聚焦在資料準備、選擇調整方法,以及透過 Amazon SageMaker Studio 啟動作業。
對 企業 AI 採購者而言,這是漸進但值得注意的產品動作,因為它把兩個當前優先事項連結在一起:對開放權重模型的興趣,以及偏好能降低營運複雜度的受管理平台。對已經標準化採用 AWS 的組織來說,這項公告讓 NVIDIA Nemotron 3 更容易與 Amazon SageMaker AI 既有提供的其他開放模型一起評估。
AWS 的文章花了相當多篇幅介紹 NVIDIA Nemotron 3 的架構,而這些細節有助於說明,為什麼這個模型家族被定位為適合企業自訂,而不只是前沿模型的基準測試。
根據 AWS,NVIDIA Nemotron 3 採用混合式 Mamba-Transformer mixture-of-experts 設計。文章指出,該架構結合了用於序列處理的 Mamba-2 層、用於聯想回憶的 Transformer attention 層,以及在路由到專家之前會壓縮 tokens 的 LatentMoE 層。AWS 也表示,這些模型支援最多 100 萬 tokens 的上下文長度,並且在每次前向傳播時只啟用總參數中的一小部分。
這些都是供應商所述的技術特性,但實際訊息很清楚:NVIDIA 與 AWS 正把這些模型呈現為足以支撐持續性企業工作負載的高效率方案,而不只是一次性的展示。AWS 將 Nemotron 3 Nano 描述為針對運算效率最佳化,適合高吞吐量、多代理使用場景;而 Nemotron 3 Super 則被定位為更能勝任、適合更具推理密集性的需求。
AWS 材料中的使用案例敘事明顯偏向應用型企業系統。列出的例子包括軟體開發、資安分流、IT 票單自動化、企業工作流程協調,以及自主代理系統。AWS 也強調工具呼叫、領域術語、組織特有的決策模式,以及品牌語氣對齊,作為自訂目標。
這種定位在當前市場很重要。介於大型專有 API 與較小、可自訂模型之間做選擇的企業,愈來愈常問的一個問題是:較小的模型是否能被專門化到足以穩定且低成本地完成單一工作。AWS 主張,經過微調的小型開放權重模型,有時可在狹窄任務上匹敵甚至超越較大的專有系統;但在這則公告中,這仍是供應商的普遍主張,而非經獨立驗證的基準結果。
這次發布最強烈的產品意涵在於其打包方式。過去,自訂開放模型往往要求團隊先管理 GPU 配額、訓練協調,以及模型專屬配方,然後才能測試某項任務是否值得投入。AWS 試圖把這個流程壓縮為平台工作流程。
在 AWS 的描述中,使用者在 Amazon SageMaker Studio 中選取模型、選擇調整方法、指向資料集並設定作業。訓練資料必須採用 JSONL 格式,而其 schema 要求則取決於技術。對於監督式微調,AWS 表示使用者需要具備標註輸入輸出配對的對話式範例。對於帶有可驗證獎勵的強化學習,提示詞必須搭配可驅動獎勵函數的真值。
AWS 也表示,Amazon SageMaker AI 可為如完全匹配、程式碼執行或數學答案等任務使用內建獎勵函數;而更複雜的使用案例則可採用自訂 Python 獎勵邏輯。這對建立領域專屬評估器的團隊特別重要,因為結果品質無法用單純的準確率檢查來衡量。這也指出真正的工作仍然存在:即使在無伺服器訓練環境中,獎勵設計、資料品質與評估仍是最困難的部分。
對 AI 產品團隊而言,吸引力在於速度與降低營運負擔。對企業平台領導者而言,吸引力在於治理與重複使用。如果模型自訂是在 Amazon SageMaker AI 中完成,而不是透過臨時筆記本與未受管理的運算資源,那麼它更容易納入現有 AWS 的身分、資料與部署控制之中。
這則報導的證據基礎僅限於 AWS 官方材料與類 wire 的鏡像清單,因此核心事實都來自供應商可控來源。來源集合中沒有獨立第三方對效能、成本或採用率主張的驗證。
因此,幾項值得注意的說法都應被視為供應商報告。AWS 表示,Nemotron 3 Nano 的吞吐量是前代 Nemotron 2 Nano 的四倍。AWS 也表示,Nemotron 3 模型透過 NeMo Gym 與現實世界的多步驟代理任務對齊,並且很適合程式設計、推理與長上下文分析。這些說法可能在方向上有幫助,但仍然基於 AWS 與 NVIDIA 對模型的描述。
同樣地,AWS 主張,微調後的小型開放模型能在目標任務上與更大型的專有替代方案競爭甚至超越,同時提供成本節省與私有基礎架構優勢。這是企業 AI 中常見的論點,而且在受限工作流程中往往成立,但這項公告並未提供一對一測量、客戶案例或價格資料來證明這一點。
能明確確認的範圍較窄:Amazon SageMaker AI 現在為 Nemotron 3 Nano 與 Nemotron 3 Super 提供無伺服器模型自訂,支援的調整方法包括監督式微調、帶有可驗證獎勵的強化學習,以及從 AI 回饋中進行強化學習。
對建構者而言,這次更新顯示模型平台之間的競爭正在從單純提供模型存取,轉向受管理的專門化。雲端平台不再只是託管一個開放模型就夠了;平台還需要讓資料準備、調整、評估與部署變得夠簡單,讓產品團隊能快速迭代。
這正是 Amazon SageMaker AI 想要強化的定位。如果團隊能以最少的基礎架構工作微調 NVIDIA Nemotron 3,他們就更可能在投入更大型平台投資前,先測試領域專屬助理、程式碼代理,或內部 AI 代理。納入帶有可驗證獎勵的強化學習,對於建構具有可檢查結果的工作流程特別重要,例如結構化擷取、程式碼生成,或高度依賴數學推理的步驟。
對企業買家而言,決策點不在於無伺服器是否方便,而在於最終系統是否可靠、可治理且具經濟效益。無伺服器調整可以縮短設定時間,但它無法解決資料品質差、獎勵設計不佳或缺乏評估的問題。評估 Amazon SageMaker AI 用於企業 AI 專案的公司,仍然需要強健的測試集、紅隊流程,以及針對模型漂移與輸出品質的監控。
這次發布也凸顯了雲端 AI 平台與模型供應商之間日益重疊。NVIDIA 提供模型家族與大部分效能敘事;AWS 提供平台、工作流程與採購路徑。對客戶而言,如果整合順暢,這可能是優勢。但若訓練與評估管線深度建立在 Amazon SageMaker Studio 與 SageMaker Python SDK 之上,也可能增加對特定雲端工具堆疊的依賴。
下一個有用的信號,是 AWS 是否會以相同的調整方法,把無伺服器自訂擴展到更多開放模型,以及是否會針對自訂模型加入更強的評估工具,而不只是訓練工作流程。
客戶證據將更為重要。請留意參考架構、案例研究或基準公開,顯示 Nemotron 3 Nano 何時能在微調後取代更大的模型,以及 Nemotron 3 Super 何時能證明其額外能力的合理性。若沒有這些,目前的訊息依然令人期待,但不完整。
也值得追蹤企業在生產環境中實際使用從 AI 回饋中進行強化學習與帶有可驗證獎勵的強化學習的頻率。AWS 正在傳達高階調整方法正被產品化,但廣泛採用取決於團隊是否能在沒有專門研究人才的情況下,將獎勵函數與評估落實運作。
最後,競爭對手的回應也很可能出現。其他雲端平台與模型託管服務都在朝更容易適應開放模型的方向前進。關鍵比較點將是成本透明度、評估工作流程品質、治理控制,以及調整後的模型能多快從實驗走向生產。
這項公告與其說是突破性模型,不如說是主流雲端平台內自訂開放模型工作流程的常態化。這很重要。隨著企業 AI 越來越成熟,瓶頸正從原始模型能力,轉向為特定工作量身調整模型的速度與可靠性。AWS 將 NVIDIA Nemotron 3 帶入 Amazon SageMaker AI 的無伺服器路徑,是在押注營運簡便性會成為主要購買驅動力。
更大的策略性結論是,模型自訂正成為預設期待,而非進階功能。對於打造 AI 代理、程式系統或內部 copilot 的團隊來說,關鍵問題愈來愈是:平台能否支援快速、可重複的調整,同時具備穩健的評估護欄。AWS 在這裡已經解決了部分工作流程。剩下的考驗是,客戶是否能把這些受管理的調整選項,轉化為在成本、準確度與控制上的可衡量生產收益。