A Liquid AI lançou dois novos modelos pequenos de encoder, LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, no Hugging Face, posicionando-os como modelos de NLP de longo contexto capazes de lidar com cargas de trabalho em escala documental em CPUs, em vez de exigir implantações maiores e mais pesadas em GPU. Segundo o anúncio da empresa no Hugging Face Blog, os novos modelos suportam entradas de 8.192 tokens e foram projetados para tarefas de produção como classificação, checagens de política, roteamento e detecção de PII.

O lançamento importa porque muitos trabalhos empresariais de NLP ainda operam fora do atual foco dos grandes modelos de linguagem. Filtros de segurança, classificadores de entrada, roteadores de intenção e ferramentas de conformidade geralmente processam documentos longos continuamente e com margens baixas, o que torna o custo de hardware e a latência mais importantes do que a qualidade de geração no estilo chatbot. A proposta da Liquid AI é que essas cargas de trabalho de encoder podem ser movidas para a infraestrutura de CPU existente e ainda assim competir com alternativas maiores ou mais conhecidas como o ModernBERT.

O que a Liquid AI lançou e onde isso se encaixa

O lançamento inclui dois modelos: LFM2.5-Encoder-230M e LFM2.5-Encoder-350M. A Liquid AI os descreve como encoders de uso geral, em vez de modelos de recuperação estreitos, embora venham da mesma família de seus LFM2.5-Retrievers anteriores. A empresa afirma que os novos modelos foram pré-treinados com um objetivo de linguagem mascarada para que possam ser ajustados em uma gama mais ampla de tarefas, incluindo classificação de texto, rotulagem de tokens e busca.

Essa distinção importa para equipes de produto que escolhem entre embeddings, retrievers e encoders. Um modelo de recuperação pode ser suficiente para busca multilíngue, mas fluxos de trabalho empresariais muitas vezes exigem julgamento no nível de documento inteiro ou de token: encaminhar tickets de suporte, verificar violações de políticas ou encontrar informações de identificação pessoal. Os exemplos da Liquid AI se concentram fortemente nesses casos de uso. No anúncio, a empresa destacou demos de roteamento de prompts zero-shot, revisão de políticas zero-shot, detecção multilíngue de PII e até um experimento de geração de texto com difusão mascarada, todos executados em Hugging Face Spaces apenas com CPU.

Os modelos são derivados da arquitetura LFM2 da Liquid AI. Segundo a empresa, os encoders foram inicializados a partir dos backbones decodificadores LFM2.5-230M e LFM2.5-350M e, em seguida, convertidos desses decodificadores causais em encoders bidirecionais ao alterar a máscara de atenção, tornar as convoluções curtas não causais e treinar com masked language modeling. A Liquid AI afirma que primeiro treinou para competência de linguagem de curto contexto em 1.024 tokens e depois adaptou os modelos para um contexto de 8.192 tokens com uma mistura de dados mais ampla para fortalecer o desempenho factual, jurídico e multilíngue.

Por que o desempenho em CPU é a principal história

A principal alegação não é apenas a qualidade do benchmark, mas a vazão em sequências longas. A Liquid AI afirma que seus encoders são especialmente fortes em CPU, onde a latência de longo contexto frequentemente se torna o fator decisivo para o custo de implantação. Na comparação da própria empresa, o LFM2.5-Encoder-230M foi mais rápido que o ModernBERT-base em todas as comprimentos de sequência testados e foi cerca de 3,7 vezes mais rápido em 8.192 tokens.

O exemplo específico no Hugging Face Blog é notável porque traduz velocidade de benchmark em uma mensagem operacional: um contrato inteiro, uma transcrição ou um longo thread de suporte poderia ser processado em menos de 30 segundos em uma CPU de laptop, versus mais de um minuto e meio para o ModernBERT-base na mesma duração de contexto. Para muitas equipes empresariais, isso muda se a classificação de documentos longos é barata o suficiente para rodar rotineiramente.

Em GPU, a Liquid AI relata uma vantagem mais estreita. Segundo a empresa, o ModernBERT-base ainda fica à frente abaixo de aproximadamente 1.000 tokens em GPU da Apple, enquanto os modelos LFM2.5-Encoder assumem a liderança em torno de 2.000 tokens e acima. Esse padrão reforça a posição de mercado pretendida: estes não são necessariamente a opção mais rápida para qualquer fluxo de trabalho de entrada curta, mas estão sendo comercializados para inferência de longo contexto e sempre ativa, em que a economia de CPU importa.

Esse posicionamento também reflete uma divisão mais ampla na infraestrutura de IA. Modelos generativos ainda absorvem a maior parte da atenção, mas muitos sistemas de produção dependem de modelos menores que pontuam, classificam, filtram e roteiam texto antes ou em torno de uma chamada a um modelo maior. Se esses modelos puderem rodar localmente ou em CPUs comuns, os desenvolvedores podem reduzir custos, melhorar opções de residência de dados e diminuir a dependência da disponibilidade de GPU.

A história da arquitetura se alinha com tendências mais amplas de design de longo contexto

Embora o anúncio da Liquid AI se concentre em modelos de encoder, a segunda fonte desse grupo, um post do NVIDIA Developer Blog sobre design de attention de longo contexto, ajuda a explicar por que o lançamento está acontecendo agora. A NVIDIA argumenta que, à medida que cargas de trabalho agentic e de longo contexto se tornam mais comuns, a attention passa a dominar cada vez mais o custo de inferência, tornando as escolhas de arquitetura do modelo um determinante importante de desempenho.

O post da NVIDIA não trata especificamente da Liquid AI e foca em inferência em GPU, não em implantação first-CPU. Ainda assim, seu ponto central é diretamente relevante: o desempenho de longo contexto é moldado por decisões arquitetônicas como tamanho de grupo, dimensão de cabeça e gerenciamento do estado KV, e não apenas por engenharia de kernels. O post recomenda designs de attention conscientes do hardware, incluindo maior tamanho de grupo para eficiência de decode, dimensões de cabeça alinhadas à memória da GPU e aos tamanhos de tile, além de redução do estado KV efetivo por meio de compressão ou abordagens de attention esparsa e híbrida. A NVIDIA cita TensorRT-LLM e arquiteturas como NVIDIA Nemotron 3 como exemplos dessa abordagem de co-design.

Esse contexto mais amplo faz o lançamento da Liquid AI ser mais do que um upload rotineiro de modelo. A empresa está efetivamente argumentando que a mesma lógica de eficiência de attention que impulsiona o co-design para GPU também pode gerar ganhos práticos para cargas de trabalho de encoder limitadas por CPU. A Liquid AI diz que os LFM2.5-Encoders herdam do backbone LFM2.5 a propriedade de que o custo cresce lentamente à medida que o comprimento de entrada aumenta. Para usuários que avaliam sistemas de IA empresarial, isso costuma ser mais valioso do que desempenho de pico em tarefas sintéticas curtas.

Evidências, benchmarks e o que ainda é informado pela própria empresa

As alegações de desempenho mais fortes nesta história são informadas pelo vendedor. Os resultados de qualidade e as comparações de velocidade vêm do próprio post da Liquid AI no Hugging Face Blog, não de um laboratório de benchmark independente nem de um estudo de implantação empresarial de terceiros. A Liquid AI afirma ter feito fine-tuning completo de cada modelo em cada tarefa e avaliado 14 modelos em 17 tarefas de GLUE, SuperGLUE e classificação multilíngue, reportando médias em cinco seeds reservadas. A empresa também diz que todo o framework de avaliação e os resultados brutos são open source.

Segundo esses resultados, o LFM2.5-Encoder-350M ficou em quarto lugar entre os 14 modelos testados, com apenas modelos maiores à frente, incluindo um modelo de 3,5B. A Liquid AI também afirma que o LFM2.5-Encoder-230M superou o ModernBERT-base e todos os modelos EuroBERT em sua configuração reportada, sendo menor do que a maioria deles. São alegações relevantes, mas os leitores devem tratá-las como informadas pela empresa até que repetições externas apareçam.

O NVIDIA Developer Blog fornece contexto técnico em vez de validação independente dos modelos da Liquid AI. Sua análise também é autoral da empresa e se baseia em premissas de hardware da NVIDIA, incluindo comportamento medido de kernels com computação de attention FP8 e cache KV. Isso o torna útil para entender por que o design de attention de longo contexto importa, mas não deve ser lido como confirmação de terceiros da vantagem do benchmark da Liquid AI em CPU.

Também há incógnitas práticas. Os materiais de origem não fornecem preços empresariais detalhados, termos de suporte ou estudos de caso de produção. Tampouco estabelecem como os modelos se comportam sob ruído documental do mundo real, restrições de latência em ambientes multi-tenant ou conjuntos de dados jurídicos e de conformidade deslocados de domínio. Desenvolvedores interessados em implantação provavelmente precisarão testar o LFM2.5-Encoder-230M e o LFM2.5-Encoder-350M contra seus próprios corpora e metas de nível de serviço.

O que isso significa para desenvolvedores e compradores corporativos

Para desenvolvedores de IA, o apelo imediato está no design de workflow. Um encoder menor que continue utilizável em 8.192 tokens em CPU pode ser encaixado em sistemas que, de outra forma, exigiriam truncamento, chunking ou inferência cara em GPU. Isso é relevante para pipelines de revisão de contratos, triagem de atendimento ao cliente, filtragem de trust and safety, entrada multilíngue e aplicação de políticas. Também é relevante para stacks híbridas em que um modelo compacto filtra ou roteia solicitações antes de uma chamada a um modelo maior.

Para equipes de IA corporativa, a história do custo pode importar ainda mais do que a posição no ranking. Inferência amigável à CPU pode simplificar a implantação em ambientes regulados ou com restrição de orçamento, especialmente quando a capacidade de GPU é escassa ou quando os dados precisam permanecer dentro da infraestrutura on-prem existente. Encoders de longo contexto também podem reduzir a complexidade de engenharia se eliminarem a necessidade de dividir documentos em muitos chunks e recombinar resultados downstream.

Para desenvolvedores de modelos, o lançamento é mais um sinal de que o mercado está se ampliando além dos modelos de chat de ponta em direção a primitivas de inferência especializadas. O ModernBERT continua sendo um ponto de comparação importante, mas a Liquid AI está tentando competir com uma promessa mais específica: melhor economia de longo contexto em tamanhos pequenos de modelo. Se essa afirmação se sustentar na prática, os desenvolvedores podem tratar encoders menos como utilitários de commodity e mais como decisões de arquitetura com impacto direto em orçamentos de latência e custos do sistema.

O que observar em seguida

O próximo sinal importante será a replicação independente. Se desenvolvedores externos confirmarem a diferença reportada pela Liquid AI em relação ao ModernBERT-base, especialmente em CPUs comuns e cargas de trabalho documentais reais, o lançamento poderá influenciar como as equipes arquitetam sistemas de NLP corporativo de baixo custo.

Outro sinal é a adoção dentro do ecossistema Hugging Face. Se o LFM2.5-Encoder-230M e o LFM2.5-Encoder-350M começarem a aparecer em demos de produção, classificadores ajustados ou stacks de avaliação corporativa, isso sugeriria que os modelos estão resolvendo um problema operacional real, em vez de apenas postar benchmarks internos fortes.

Também vale acompanhar se a Liquid AI expande ainda mais a família LFM2. A relação entre LFM2.5-Retrievers e esses novos encoders sugere uma estratégia mais ampla em torno de modelos pequenos e eficientes de longo contexto para diferentes camadas de workflow: busca, roteamento, rotulagem e filtragem. No lado da infraestrutura, os princípios delineados pela NVIDIA e implementados no TensorRT-LLM continuarão a moldar quais arquiteturas são práticas em janelas de contexto mais longas.

Perspectiva da Creati.ai

Este lançamento é interessante não porque tente vencer os maiores modelos, mas porque mira uma parte negligenciada da stack: o entendimento de documentos longos que precisa funcionar continuamente e de forma barata. Em muitos sistemas reais, essa camada decide se a chamada ao modelo caro acontece ou não. Se as alegações de CPU da Liquid AI se confirmarem, os LFM2.5-Encoders podem se tornar blocos de construção úteis para equipes de IA corporativa que tentam controlar gastos de inferência sem abrir mão da cobertura de longo contexto.

A lição maior é arquitetônica. O mercado está avançando além da narrativa simples de “modelo maior = produto melhor”. Seja em CPU com o LFM2.5-Encoder-230M ou em stacks de GPU moldadas pela orientação de co-design da NVIDIA, o desempenho está cada vez mais ligado a alinhar a estrutura do modelo à carga de trabalho e ao hardware. Para os desenvolvedores, isso significa que a vantagem competitiva pode vir menos de ter um foundation model e mais de escolher o modelo pequeno certo no lugar certo.