Исследования Google

WikiSkill от Google Research позволяет ИИ-агентам сохранять записи о неудачах и успехах, улучшая производительность при повторяющихся задачах без дообучения базовых моделей.

Google Research публично выпустил TurboQuant — набор алгоритмов сжатия памяти для ИИ, не требующий обучения, который позволяет сократить использование памяти KV-кэша в 6 раз и ускорить вычисления механизма внимания в 8 раз, что потенциально может снизить затраты предприятий на инференс ИИ более чем на 50 %.