eficiência energética da IA

A NVIDIA diz que o Vera Rubin NVL72 pode entregar até 30x mais throughput de inferência agentiva por megawatt do que o GB300, sujeito à revisão independente do benchmark.

A NVIDIA diz que o Vera Rubin NVL72 pode entregar até 30x mais throughput de IA agentiva por megawatt do que o GB300, mirando custos de inferência em contexto longo.

A NVIDIA diz que a Vera Rubin NVL72 pode entregar até 30x mais throughput de IA agentica por megawatt do que a GB300, remodelando a economia da inferência.

A OpenAI afirma que seu chip Jalapeño melhora a velocidade de inferência de IA e a eficiência energética em vários modelos, mas os resultados ainda são relatados pela própria fornecedora antes da implantação.

A NVIDIA diz que a Vera Rubin NVL72 entrega até 30x mais throughput agentivo por megawatt do que a GB300, remodelando a economia de inferência para construtores de IA.

A KAIST relata um novo custo energético oculto identificado em agentes de IA, levantando novas questões para a implantação de IA corporativa e o design de agentes.

Uma nova reportagem sugere que sistemas avançados de IA podem consumir muito mais eletricidade do que chatbots básicos, levantando novas questões de custo e infraestrutura para compradores de IA.

Naveen Rao, ex-chefe de IA da Databricks, lançou a Unconventional AI, que promete tornar o processamento de inferência muito mais eficiente em termos de energia usando hardware inovador.