PrismML

PrismML이 PC와 휴대폰용으로 설계된 압축 추론 모델 Bonsai 2 27B를 공개하며, 프라이빗한 온디바이스 AI의 가능성을 더욱 강화했다.

Caltech의 지원을 받는 PrismML은 Bonasi를 출시했다. Bonasi는 비교 가능한 8B 모델보다 14배 작고 에너지 효율은 5배 높은 1비트 LLM으로, 클라우드 의존 없이 AI를 실행하는 것을 목표로 한다.