Anthropic 在記憶體短缺之際評估 Fractile AI 推理晶片
據報導,隨著 AI 記憶體成本和供應壓力加劇,Anthropic 正與 Fractile 展開早期談判,考慮購買其推理晶片。
據報導,隨著 AI 記憶體成本和供應壓力加劇,Anthropic 正與 Fractile 展開早期談判,考慮購買其推理晶片。
Google 正在與 Marvell Technology 協商,共同開發兩款新的 AI 晶片——一款記憶體處理單元,以及一款下一代 TPU——以提升 AI 推論效率。
Nvidia 將在三月舉行的 GTC 大會上宣布一款全新的推理晶片平台,旨在進一步鞏固其在人工智慧硬體市場的領導地位。
將流行的開源推論引擎 vLLM 商業化的創業公司 Inferact 已完成由 Andreessen Horowitz 與 Lightspeed 領投的 1.5 億美元種子輪融資,以加速 AI 應用的部署。