NVIDIA 以 Alpamayo 2 Edge 瞄準即時自動駕駛推理

NVIDIA 推出了 Alpamayo 2 Edge，這是一款擁有 20 億參數的視覺－語言－行動模型，設計目的是在 NVIDIA DRIVE AGX Thor 上直接執行自動駕駛推理。該模型旨在根據環景攝影機資料與導航輸入產生駕駛軌跡，同時維持在車載系統的運算與延遲限制之內。

這項公告處理了自動駕駛車輛的一項核心工程問題：更大型的推理模型可能提供更強的能力，但要將其部署在車輛中，就必須降低計算成本，同時不能捨棄開發者需要的行為。NVIDIA 的技術部落格描述了一套以自適應推理、閉迴路強化學習、評估與推理最佳化為核心的模型及工具工作流程。

為選擇性推理打造的較小模型

Alpamayo 2 Edge 使用一個源自 NVIDIA Cosmos 3 Edge、基於 Nemotron 的 20 億參數推理骨幹，並將其與擴散式行動專家結合。系統會接收環景攝影機觀測資料、時間脈絡與導航輸入，接著產生未來的駕駛軌跡。

模型不會針對每種情況都產生冗長的推理軌跡，而是採用 NVIDIA 所稱的自適應推理。當模型認為 Chain-of-Causation 推理有用時便會產生這類推理，在較為例行的駕駛情境中則避免產生不必要的 token。預期好處是在降低推理需求的同時，為確實需要推理的情況保留額外的推理能力。

NVIDIA 也表示，該模型是透過離線蒸餾訓練的。在這個過程中，Alpamayo 2 Super 產生的 Chain-of-Causation 推理自動標籤，被用來將推理行為轉移到較小、面向邊緣運算的模型中。技術資料沒有提供與更大型 Alpamayo 系統的完整比較，也沒有證實該模型在所有駕駛條件下的表現。

訓練與評估是部署方案的一部分

這個模型並不是以獨立 checkpoint 的形式呈現。NVIDIA 將 Alpamayo 2 Edge 與其閉迴路強化學習環境 AlpaGym，以及用於評估推理品質、經人類校準的評估與獎勵模型 AlpaJudge 連結起來。

NVIDIA 表示，閉迴路強化學習相較於未採用閉迴路強化學習的最佳 checkpoint，讓駕駛效能提升了 48.9%。該公司並未將這個數字描述為獨立基準測試，而現有證據也沒有說明評估集、基準線細節、統計變異，或結果如何從模擬環境轉移到道路測試。因此，這項數據應被視為供應商報告的開發成果，而非自動駕駛效能的一般衡量標準。

NVIDIA 描述了 AlpaJudge 的三種工作流程。開發者可以為 PhysicalAI-AV 資料收集中的樣本評分，找出學習價值更高的訓練範例，並在後訓練期間將推理分數用作獎勵。系統包含基於參考資料與不基於參考資料的變體，供不同類型的證據使用。

這種做法反映了邊緣模型開發方式的實際轉變。問題不只是精簡模型能否產生答案，也在於團隊能否反覆衡量其推理品質、選取有用資料，並在施加部署限制後改善模型行為。

NVIDIA 報告 Thor 上的延遲為 160～190 毫秒

NVIDIA 在 Alpamayo Developer Hub 提供的部署方案使用 TensorRT 與 DFlash2，來最佳化 DRIVE AGX Thor 上的推理。該公司報告這套硬體的像素到軌跡延遲為 160～190 毫秒。

這項測量很重要，因為自動駕駛模型必須處理不斷變化的場景，並在受限的控制迴路內產生可用的軌跡。然而，這個報告範圍與 NVIDIA 的方案及硬體配置相關。來源沒有說明完整的車輛軟體堆疊、感測器配置、安全監控的額外負擔、電力條件，也沒有證實延遲在所有運作情境中都能維持一致。

對建構者而言，實際意義在於模型品質不能脫離執行行為單獨評估。一個模型即使在離線測試中表現良好，但若超過車輛的推理預算，在沒有蒸餾、選擇性推理、量化或其他最佳化的情況下仍可能無法使用。NVIDIA 的資料著重於將這些步驟納入可重複的開發者工作流程，而不是將其視為最後階段的整合工作。

對 AV 開發者與買家的意義

Alpamayo 2 Edge 面向希望在車載平台上實現以推理為基礎的駕駛行為、而非完全依賴遠端運算的團隊。在車內執行推理可以降低對連線能力的依賴，並避免雲端處理所帶來的往返延遲，但同時也會對模型大小、記憶體、電力與回應時間施加嚴格限制。

自適應架構讓產品團隊能夠不平均地分配運算資源：例行場景可以使用較少推理，而模糊或與安全相關的情況則可觸發更多處理。這種設計可能有助於管理平均工作負載，但也帶來驗證挑戰。開發者需要了解模型何時選擇進行推理、這些決策是否可靠，以及可用預算暫時承受壓力時系統會如何運作。

AlpaJudge 與 AlpaGym 的結合，對於建立自有後訓練管線的組織也可能具有重要性。經人類校準的分數有助於排列資料優先級，並獎勵難以透過簡單軌跡指標捕捉的行為。不過，評估品質仍取決於人類判斷的相關性、訓練樣本的涵蓋範圍，以及模擬結果與真實駕駛之間的關係。

NVIDIA 的公告沒有提供客戶部署、生產核准或廣泛採用的證據。該模型可透過 Hugging Face 探索，而 NVIDIA 則引導開發者前往 Alpamayo Developer Hub 與開發者論壇。這些資源讓發布內容便於實驗，但本身並不能證明其已具備生產就緒程度。

接下來值得關注的事項

最重要的後續工作，是在具代表性的駕駛情境中對 Alpamayo 2 Edge 進行獨立評估，尤其是自適應推理會改變延遲或軌跡品質的情況。開發者也會希望了解 160～190 毫秒的結果是如何測量的，以及其中排除了多少額外系統負擔。

另一項訊號是 NVIDIA 或外部團隊是否會報告超越模擬環境的結果。實車測試、失效分析、功耗測量以及長尾情境的證據，將有助於釐清這套訓練流程能否良好轉移至真實的車載堆疊。

最後，市場將觀察 Alpamayo 工具是否會成為 AV 開發者更廣泛的平台，還是主要維持為 NVIDIA 自有硬體與軟體生態系的展示。模型權重、評估工具與可重現部署方案的可取得性，將影響這項結果。

Creati.ai 的觀點

NVIDIA 的公告值得注意之處，與其說是某個模型大小或基準測試，不如說是將車載推理視為端到端系統問題。Alpamayo 2 Edge 在一套工作流程中結合了精簡模型、條件式推理、以模擬為基礎的後訓練、評估，以及針對硬體的最佳化。

最強的主張仍然來自 NVIDIA，而目前的證據尚未顯示其生產環境效能或客戶採用情況。對 AI 建構者與企業買家而言，真正有用的測試將是：這套工作流程能否在真實車輛限制下產生可預測的行為，而不只是 20 億參數模型能否在受控環境中產生令人信服的推理軌跡。