PrismML 將 27B 推理模型縮減至 5.9 GB,推動本地 AI
PrismML 發布了 Bonsai 2 27B,一款為電腦與手機設計的壓縮推理模型,進一步強化了私有、端側 AI 的可行性。
PrismML 的最新新聞與分析
PrismML 發布了 Bonsai 2 27B,一款為電腦與手機設計的壓縮推理模型,進一步強化了私有、端側 AI 的可行性。
獲得 Caltech 支持的 PrismML 發布了 Bonasi,這是一款 1 位元 LLM,體積比同類 8B 模型小 14 倍、能源效率高 5 倍,旨在不依賴雲端運行 AI。