The Register explique la transition des entreprises vers l'exécution d'applications d'IA plus près de l'endroit où les données sont générées et consommées.

Les entreprises chinoises intègrent l’IA dans les voitures, les robots et les produits industriels, à mesure que la technologie évolue vers les appareils en périphérie.

Soutenue par Caltech, PrismML a lancé Bonasi, un LLM 1 bit 14 fois plus petit et 5 fois plus économe en énergie que des modèles 8B comparables, avec l’objectif d’exécuter l’IA sans dépendance au cloud.

Le PDG d'Arm, Rene Haas, à Davos souligne la transition des centres de données centralisés vers l'Edge AI distribué, en abordant les goulots d'étranglement liés à l'énergie et à la mémoire.