Оптимизация ИИ

Исследователи Nvidia сообщают, что управление памятью и надзорный агент помогли Claude Opus 5 получить идеальный результат ARC-AGI-3, меняя подход к проектированию агентов.

Google Research публично выпустил TurboQuant — набор алгоритмов сжатия памяти для ИИ, не требующий обучения, который позволяет сократить использование памяти KV-кэша в 6 раз и ускорить вычисления механизма внимания в 8 раз, что потенциально может снизить затраты предприятий на инференс ИИ более чем на 50 %.