AI GPU

OpenAIのGPT-6 Astra UltrafastがNVIDIA Blackwell GPUで利用可能になり、エージェントワークフローの高速化が期待されている。ただし、主要な性能に関する主張はベンダー報告に基づく。

AWSはSageMaker AI上でG5、G6、G6e、G7にまたがって30B MoEモデルをベンチマークし、Blackwellが推論コストとレイテンシをどう改善しうるかを示している。

NVIDIAの新しい推論ガイドは、GPU容量とTCOを、ピーク需要だけでなく、ワークロードの挙動、モデル最適化、柔軟なデプロイに結び付けている。

NVIDIAは、Groq 3 LPXがVera Rubinで本格量産に入り、AIエージェントやマルチターン処理向けの長文コンテキスト推論の高速化を狙うと述べている。

NVIDIAのALCHEMI ToolkitはAIコーディングエージェントをGPU加速材料シミュレーションに接続する一方、ベンチマークでは検証が依然として不可欠であることが示された。

Reflection AIはNebiusと10億ドルの計算契約を結び、オープンモデル系スタートアップが希少なAIインフラを確保しようと奔走している実態を浮き彫りにした。

NVIDIAはLLM開発者に対し、GPUに適した推論を前提にモデルを共同設計するよう求めており、ハードウェアを意識したアーキテクチャが大規模運用でコストと遅延を下げると見込んでいる。

NVIDIAはBioNeMo Agent ToolkitをAnthropicのClaude Scienceに接続し、研究者が自然言語からGPU加速の生物学ワークフローを実行できるようにすることを目指している。

NVIDIAはBioNeMo Agent ToolkitをAnthropicのClaude Scienceと統合し、AI主導の研究向けに加速された生物学ワークフローをより扱いやすくすることを目指している。

中国のNvidiaクラウドパートナーが、禁止されたH100/H200 AI GPUを搭載した300台のサーバーを9,200万ドル相当で取得した。Super Microの密輸容疑による逮捕を受けて、Sharetronicの株価は急落している。