Liquid AI, Hugging Face에서 LFM2.5-Encoders 출시… CPU 우선 장문 컨텍스트 NLP가 더 큰 모델을 앞설 수 있다는 데 베팅
Liquid AI는 Hugging Face에 LFM2.5-Encoder 모델을 공개하며, 더 큰 하드웨어 없이 문서 규모 NLP를 위한 더 빠른 장문 컨텍스트 CPU 추론을 내세웠다.
Liquid AI는 Hugging Face에 LFM2.5-Encoder 모델을 공개하며, 더 큰 하드웨어 없이 문서 규모 NLP를 위한 더 빠른 장문 컨텍스트 CPU 추론을 내세웠다.
NVIDIA는 LLM 개발자들에게 GPU 친화적 추론을 위해 모델을 공동 설계하라고 촉구하며, 하드웨어를 고려한 아키텍처가 대규모에서 비용과 지연을 줄일 것이라고 보고 있다.
Cognichip은 칩을 자율적으로 설계하는 AI를 개발하기 위해 6천만 달러의 자금을 확보했으며, 개발 비용을 75% 줄이고 기간을 절반으로 단축할 수 있다고 약속했다.
하드웨어 AI에 대한 최신 뉴스 및 분석