TensorRT Edge-LLM 在 Jetson AGX Thor 上以快 6.4 倍完成 MLPerf Edge Agentic 基準測試
NVIDIA 表示,TensorRT Edge-LLM 在 Jetson AGX Thor 上讓 Qwen3.6-27B 的執行速度快了 6.4 倍,凸顯了邊緣代理在快取與量化上的效益。
LLM 效能 的最新新聞與分析
NVIDIA 表示,TensorRT Edge-LLM 在 Jetson AGX Thor 上讓 Qwen3.6-27B 的執行速度快了 6.4 倍,凸顯了邊緣代理在快取與量化上的效益。
NVIDIA 似乎已發布 tri-mode diffusion LLM 權重,顯示對更快推論的新興趣,但公開證據仍然有限。
Claude Opus 4.6 在 Terminal-Bench 上取得 65.4%、在 OSWorld 上取得 72.7% 的突破性表現,在真實工作應用中超越了 Gemini 3 Flash。