eficiencia energética de la IA

NVIDIA dice que Vera Rubin NVL72 puede ofrecer hasta 30 veces más rendimiento de inferencia agentiva por megavatio que GB300, a la espera de una revisión independiente del benchmark.

NVIDIA dice que Vera Rubin NVL72 puede ofrecer hasta 30 veces más rendimiento de IA agéntica por megavatio que GB300, apuntando a los costes de inferencia de contexto largo.

NVIDIA dice que Vera Rubin NVL72 puede ofrecer hasta 30 veces más rendimiento de IA agentiva por megavatio que GB300, reconfigurando la economía de la inferencia.

OpenAI afirma que su chip Jalapeño mejora la velocidad de inferencia de IA y la eficiencia energética en distintos modelos, pero los resultados siguen siendo reportados por el proveedor antes del despliegue.

NVIDIA dice que Vera Rubin NVL72 ofrece hasta 30x más rendimiento agentivo por megavatio que GB300, reconfigurando la economía de inferencia para los creadores de IA.

KAIST informa de un coste energético oculto recién identificado en los agentes de IA, lo que plantea nuevas preguntas para el despliegue de IA empresarial y el diseño de agentes.

Un nuevo reportaje sugiere que los sistemas avanzados de IA pueden consumir mucha más electricidad que los chatbots básicos, lo que plantea nuevas preguntas de coste e infraestructura para los compradores de IA.

Naveen Rao, exresponsable de IA en Databricks, lanzó Unconventional AI, una empresa que promete hacer que el procesamiento de inferencia sea muchísimo más eficiente energéticamente mediante hardware novedoso.