GPU для ИИ

GPT-6 Astra Ultrafast от OpenAI теперь доступна на GPU NVIDIA Blackwell и обещает ускорить рабочие процессы агентов, однако ключевые заявления о производительности представлены самим поставщиком.

AWS проводит бенчмарк 30B MoE-моделей на SageMaker AI между G5, G6, G6e и G7, показывая, как Blackwell может улучшить стоимость и задержку инференса.

Новый гайд NVIDIA по инференсу связывает мощность GPU и TCO с поведением нагрузки, оптимизацией модели и гибким развертыванием, а не только с пиковым спросом.

NVIDIA заявляет, что Groq 3 LPX находится в полном производстве вместе с Vera Rubin и нацелен на более быстрый длинноконтекстный инференс для AI-агентов и многошаговых сценариев.

Toolkit NVIDIA ALCHEMI соединяет AI-агентов для кодирования с GPU-ускоренным моделированием материалов, а бенчмарки показывают, что валидация по-прежнему необходима.

Reflection AI подписала с Nebius соглашение на вычислительные ресурсы на $1 млрд, что подчеркивает, как стартапы с открытыми моделями спешат обеспечить дефицитную ИИ-инфраструктуру.

NVIDIA призывает разработчиков LLM совместно проектировать модели для GPU-дружественного инференса, делая ставку на то, что аппаратно-ориентированные архитектуры снизят стоимость и задержку в масштабе.

NVIDIA подключила BioNeMo Agent Toolkit к Claude Science от Anthropic, стремясь дать исследователям возможность запускать ускоренные GPU биологические рабочие процессы с помощью естественного языка.

NVIDIA интегрировала BioNeMo Agent Toolkit с Claude Science от Anthropic, стремясь упростить для AI-ориентированных исследований ускоренные биологические рабочие процессы.

Китайский облачный партнер Nvidia приобрел 300 серверов с запрещенными ИИ-GPU H100/H200 на сумму 92 млн долларов, поскольку акции Sharetronic резко падают после ареста, связанного с контрабандой Super Micro.