PrismML

PrismMLは、PCやスマートフォン向けに設計された圧縮推論モデルBonsai 2 27Bを公開し、プライベートで端末内完結のAIの可能性をさらに高めた。

Caltechの支援を受けるPrismMLは、Bonasiを公開しました。Bonasiは比較可能な8Bモデルより14倍小さく、5倍エネルギー効率が高い1ビットLLMで、クラウドに依存せずAIを動作させることを目指しています。