1-Bit LLM

Caltechの支援を受けるPrismMLは、Bonasiを公開しました。Bonasiは比較可能な8Bモデルより14倍小さく、5倍エネルギー効率が高い1ビットLLMで、クラウドに依存せずAIを動作させることを目指しています。