Liquid AI が Hugging Face で LFM2.5-Encoders を公開、CPU優先の長文コンテキストNLPが大規模モデルを上回れるかに賭ける
Liquid AI は Hugging Face で LFM2.5-Encoder モデルを公開し、大型ハードウェアなしで文書規模の NLP に対して高速な長文コンテキスト CPU 推論を提案した。
Liquid AI は Hugging Face で LFM2.5-Encoder モデルを公開し、大型ハードウェアなしで文書規模の NLP に対して高速な長文コンテキスト CPU 推論を提案した。
NVIDIAはLLM開発者に対し、GPUに適した推論を前提にモデルを共同設計するよう求めており、ハードウェアを意識したアーキテクチャが大規模運用でコストと遅延を下げると見込んでいる。
Cognichipは、チップを自律的に設計するAIを開発するために6,000万ドルの資金を確保し、開発コストを75%削減し、期間を半分に短縮することを目指しています。
ハードウェアAIに関する最新ニュースと分析