Recherche Google

WikiSkill de Google Research permet aux agents d’IA de conserver des traces des échecs et des réussites, améliorant les performances sur les tâches répétées sans réentraîner les modèles sous-jacents.

Google Research a publié publiquement TurboQuant, une suite d'algorithmes de compression de mémoire pour l'IA sans entraînement qui permet une réduction de 6x de l'utilisation de la mémoire du cache KV et une accélération de 8x du calcul d'attention, pouvant potentiellement réduire les coûts d'inférence IA en entreprise de plus de 50 %.