Последние Новости и Анализ по Теме энергоэффективность ИИ
NVIDIA заявляет, что Vera Rubin NVL72 может обеспечивать до 30 раз больший агентный inference throughput на мегаватт, чем GB300, в ожидании независимой проверки бенчмарка.
NVIDIA говорит, что Vera Rubin NVL72 может обеспечить до 30 раз больший агентный AI throughput на мегаватт, чем GB300, нацеливаясь на стоимость инференса с длинным контекстом.
NVIDIA говорит, что Vera Rubin NVL72 может обеспечить до 30 раз больший агентный ИИ-пропускной способности на мегаватт, чем GB300, меняя экономику инференса.
OpenAI утверждает, что чип Jalapeño повышает скорость инференса ИИ и энергоэффективность across models, но результаты пока исходят от самого вендора и предшествуют внедрению.
NVIDIA утверждает, что Vera Rubin NVL72 обеспечивает до 30 раз больший агентный throughput на мегаватт, чем GB300, меняя экономику инференса для создателей ИИ.
KAIST сообщает о недавно выявленной скрытой энергетической стоимости в AI agents, поднимая новые вопросы для внедрения enterprise AI и проектирования агентов.
Новые сообщения указывают, что продвинутые системы AI могут потреблять гораздо больше электроэнергии, чем базовые чатботы, поднимая новые вопросы о затратах и инфраструктуре для покупателей AI.
Нивин Рао, ранее возглавлявший направление ИИ в Databricks, запустил Unconventional AI, которая обещает сделать обработку вывода намного более энергоэффективной за счет использования нового оборудования.
