TensorRT Edge-LLM schließt MLPerf Edge Agentic Benchmark auf Jetson AGX Thor 6,4-mal schneller ab
NVIDIA sagt, TensorRT Edge-LLM habe Qwen3.6-27B auf Jetson AGX Thor 6,4-mal schneller ausgeführt und damit Cache- und Quantisierungsgewinne für Edge-Agenten hervorgehoben.