Liquid AI、視覚言語推論を高速化するため LFM2.5-VL-3B に speculative decoding を追加
Liquid AI は、エッジデバイスや H100 GPU 上で LFM2.5-VL-3B のデコードを高速化する 2.8 億パラメータの drafter、LFM2.5-VL-DSpark を公開した。
Liquid AIに関する最新ニュースと分析
Liquid AI は、エッジデバイスや H100 GPU 上で LFM2.5-VL-3B のデコードを高速化する 2.8 億パラメータの drafter、LFM2.5-VL-DSpark を公開した。
Liquid AI は Hugging Face で LFM2.5-Encoder モデルを公開し、大型ハードウェアなしで文書規模の NLP に対して高速な長文コンテキスト CPU 推論を提案した。