Últimas Noticias y Análisis sobre GPU de IA
GPT-6 Astra Ultrafast de OpenAI ya está disponible en las GPU NVIDIA Blackwell y promete flujos de trabajo de agentes más rápidos, aunque las principales afirmaciones de rendimiento proceden del proveedor.
AWS compara modelos MoE de 30B en SageMaker AI entre G5, G6, G6e y G7, mostrando cómo Blackwell podría mejorar el coste y la latencia de inferencia.
La nueva guía de inferencia de NVIDIA vincula la capacidad de GPU y el TCO al comportamiento de la carga de trabajo, la optimización del modelo y la implementación flexible, en lugar de basarse solo en la demanda máxima.
NVIDIA dice que Groq 3 LPX está en producción completa con Vera Rubin, con el objetivo de acelerar la inferencia de contexto largo para agentes de IA y cargas de trabajo de múltiples turnos.
El Toolkit ALCHEMI de NVIDIA conecta agentes de codificación de IA con simulación de materiales acelerada por GPU, mientras que los benchmarks muestran que la validación sigue siendo esencial.
Reflection AI firmó un acuerdo de cómputo de 1.000 millones de dólares con Nebius, subrayando cómo las startups de modelos abiertos se apresuran a asegurar la escasa infraestructura de IA.
NVIDIA insta a los desarrolladores de LLM a co-diseñar modelos para una inferencia favorable a las GPU, apostando a que las arquitecturas conscientes del hardware reduzcan costes y latencia a escala.
NVIDIA ha conectado BioNeMo Agent Toolkit con Claude Science de Anthropic, con el objetivo de permitir que los investigadores ejecuten flujos de trabajo biológicos acelerados por GPU desde lenguaje natural.
NVIDIA ha integrado BioNeMo Agent Toolkit con Claude Science de Anthropic, con el objetivo de facilitar los flujos de trabajo biológicos acelerados para la investigación impulsada por IA.
Un socio chino de la nube de Nvidia adquirió 300 servidores con GPU de IA H100/H200 prohibidas por valor de 92 millones de dólares, mientras las acciones de Sharetronic se desploman tras un arresto por contrabando de Super Micro.
