The Register объясняет переход бизнеса к запуску ИИ-приложений ближе к месту, где данные создаются и потребляются.

Китайские компании встраивают ИИ в автомобили, роботы и промышленные продукты, по мере того как технология смещается к периферийным устройствам.

Поддерживаемая Caltech компания PrismML выпустила Bonasi — 1-битную LLM, которая в 14 раз меньше и в 5 раз энергоэффективнее сопоставимых 8B-моделей, стремясь запускать ИИ без зависимости от облака.

Генеральный директор Arm Рене Хаас на Давосском форуме подчёркивает переход от централизованных дата-центров к распределённому Edge AI, решая проблемы энергопотребления и ограничений памяти.