Últimas Notícias e Análises sobre IA de borda
A NVIDIA diz que o TensorRT Edge-LLM executou o Qwen3.6-27B 6,4x mais rápido no Jetson AGX Thor, destacando ganhos de cache e quantização para agentes de edge.
O guia de implantação do Jetson da NVIDIA mostra como quantização e decodificação especulativa podem levar modelos compactos de raciocínio para cargas de trabalho locais de IA na borda.
O modelo local 27B da StartLux teria obtido pontuação superior ao DeepSeek V4 Flash em um benchmark na China, levantando dúvidas sobre desempenho e comprovação em IA de borda.
A NVIDIA detalha um fluxo de trabalho Holoscan assistido por agentes, usando CLI, skills e HoloHub para criar e avaliar aplicações médicas de IA em tempo real.
The Register explica a mudança das empresas para executar aplicações de IA mais perto de onde os dados são gerados e consumidos.
Empresas chinesas estão incorporando IA em carros, robôs e produtos industriais, à medida que a tecnologia migra para dispositivos de borda.
A PrismML, apoiada pelo Caltech, lançou o Bonasi, um LLM de 1 bit que é 14 vezes menor e 5 vezes mais eficiente em energia do que modelos 8B comparáveis, com o objetivo de executar IA sem dependência da nuvem.
O CEO da Arm, Rene Haas, em Davos enfatiza a mudança de centros de dados centralizados para Edge AI distribuída, abordando gargalos de energia e memória.
