Pesquisa Google

O WikiSkill da Google Research permite que agentes de IA retenham registros de falhas e sucessos, melhorando o desempenho em tarefas repetidas sem re-treinar os modelos subjacentes.

O Google Research tornou público o TurboQuant, uma suíte de algoritmos de compressão de memória para IA que não requer treinamento, que proporciona uma redução de 6x no uso de memória do cache KV e um aumento de 8x na velocidade do cálculo de atenção, podendo reduzir os custos de inferência de IA nas empresas em mais de 50%.