Rendimiento de LLM

NVIDIA afirma que TensorRT Edge-LLM ejecutó Qwen3.6-27B 6,4 veces más rápido en Jetson AGX Thor, destacando mejoras de caché y cuantización para agentes en el borde.

NVIDIA parece haber lanzado pesos de difusión LLM en modo tri, lo que señala un nuevo interés en una inferencia más rápida, pero las pruebas públicas siguen siendo limitadas.

Claude Opus 4.6 logra un rendimiento innovador con 65.4% en Terminal-Bench y 72.7% en OSWorld, superando al Gemini 3 Flash en aplicaciones laborales del mundo real.