Liquid AI, 더 빠른 비전-언어 추론을 위해 LFM2.5-VL-3B에 speculative decoding 추가
Liquid AI는 엣지 디바이스와 H100 GPU에서 LFM2.5-VL-3B 디코딩을 가속하는 2억 8천만 파라미터 drafter인 LFM2.5-VL-DSpark를 공개했다.
Liquid AI에 대한 최신 뉴스 및 분석
Liquid AI는 엣지 디바이스와 H100 GPU에서 LFM2.5-VL-3B 디코딩을 가속하는 2억 8천만 파라미터 drafter인 LFM2.5-VL-DSpark를 공개했다.
Liquid AI는 Hugging Face에 LFM2.5-Encoder 모델을 공개하며, 더 큰 하드웨어 없이 문서 규모 NLP를 위한 더 빠른 장문 컨텍스트 CPU 추론을 내세웠다.