efficacité énergétique de l'IA

NVIDIA indique que Vera Rubin NVL72 peut offrir jusqu’à 30 fois plus de débit d’inférence agentique par mégawatt que GB300, sous réserve d’une revue indépendante du benchmark.

NVIDIA indique que Vera Rubin NVL72 peut fournir jusqu’à 30 fois plus de débit d’IA agentique par mégawatt que GB300, en visant les coûts d’inférence à long contexte.

NVIDIA affirme que Vera Rubin NVL72 peut offrir jusqu’à 30 fois plus de débit d’IA agentique par mégawatt que GB300, redéfinissant l’économie de l’inférence.

OpenAI affirme que sa puce Jalapeño améliore la vitesse d’inférence de l’IA et l’efficacité énergétique sur plusieurs modèles, mais les résultats restent fournis par le vendeur avant le déploiement.

NVIDIA indique que Vera Rubin NVL72 délivre jusqu’à 30x plus de débit agentique par mégawatt que GB300, redéfinissant l’économie de l’inférence pour les créateurs d’IA.

KAIST signale un coût énergétique caché nouvellement identifié dans les agents IA, soulevant de nouvelles questions pour le déploiement de l’IA en entreprise et la conception des agents.

Un nouveau reportage suggère que les systèmes d’IA avancés peuvent consommer beaucoup plus d’électricité que les chatbots de base, soulevant de nouvelles questions de coûts et d’infrastructure pour les acheteurs d’IA.

Naveen Rao, ancien directeur de l'IA chez Databricks, a lancé Unconventional AI, une société qui promet de rendre le traitement d'inférence bien plus économe en énergie grâce à un nouveau matériel.