推論

OpenAIは、GPT-5.6がモデル、推論、エージェント全体で1ドルあたりの知能を改善すると述べ、フロンティアAIにおいてコスト効率が中心課題になったことを示している。

OpenAIとBroadcomは、推論ワークロード向けに特化して設計され、OpenAI自身のモデルを用いて開発された、OpenAI初のカスタムAIアクセラレータチップ「Jalapeño」を発表しました。

AI向けメモリコストと供給圧力が強まる中、AnthropicはFractileの推論チップ購入に向けて初期協議を行っていると報じられている。

GoogleはMarvell Technologyと、AI推論の効率を高めるため、メモリ処理ユニットと次世代TPUという2つの新しいAIチップを共同開発する交渉を行っている。

Nvidiaは3月に開催される次回のGTCカンファレンスで新しい推論チッププラットフォームを発表する予定で、これによりAIハードウェア市場での優位性をさらに強固にしようとしています。

人気のオープンソース推論エンジンvLLMを商用化するスタートアップInferactは、Andreessen HorowitzとLightspeedが主導する1億5千万ドルのシードラウンドを調達し、AIアプリケーションの展開を加速します。