PrismML

PrismML a publié Bonsai 2 27B, un modèle de raisonnement compressé conçu pour les PC et les téléphones, renforçant l’argument en faveur d’une IA privée sur l’appareil.

Soutenue par Caltech, PrismML a lancé Bonasi, un LLM 1 bit 14 fois plus petit et 5 fois plus économe en énergie que des modèles 8B comparables, avec l’objectif d’exécuter l’IA sans dépendance au cloud.