Liquid AI、視覚言語推論を高速化するため LFM2.5-VL-3B に speculative decoding を追加
Liquid AI は、エッジデバイスや H100 GPU 上で LFM2.5-VL-3B のデコードを高速化する 2.8 億パラメータの drafter、LFM2.5-VL-DSpark を公開した。
オンデバイスAIに関する最新ニュースと分析
Liquid AI は、エッジデバイスや H100 GPU 上で LFM2.5-VL-3B のデコードを高速化する 2.8 億パラメータの drafter、LFM2.5-VL-DSpark を公開した。
PrismMLは、PCやスマートフォン向けに設計された圧縮推論モデルBonsai 2 27Bを公開し、プライベートで端末内完結のAIの可能性をさらに高めた。
Googleは、Gemma 4のダウンロード数が1億5000万件を突破し、オンデバイスAIアプリ向けにオープンモデルを活用する開発者を紹介したと述べた。
Googleは、16GBのメモリを搭載したノートパソコン上でローカルに動作するよう設計された、エンコーダー不要の多モーダルオープンモデル「Gemma 4 12B」を発表した。
報道によると、ChromeはAI機能のためにローカルのGemini Nanoモデルをインストールしており、ストレージ、同意、エネルギーに関する懸念が高まっている。
Googleは、自社のGemma AIモデルを搭載したiOS向けのオフライン優先AI音声入力アプリをリリースし、Wispr Flowのような競合に対抗する構えです。
Appleが創業50周年を迎える中、元内部関係者は、同社が初期のAI優位性を無駄にしたものの、今はオンデバイスAIとGoogle Geminiに賭けてSiriの再起動を図っていると語っている。