온디바이스 AI

Liquid AI는 엣지 디바이스와 H100 GPU에서 LFM2.5-VL-3B 디코딩을 가속하는 2억 8천만 파라미터 drafter인 LFM2.5-VL-DSpark를 공개했다.

PrismML이 PC와 휴대폰용으로 설계된 압축 추론 모델 Bonsai 2 27B를 공개하며, 프라이빗한 온디바이스 AI의 가능성을 더욱 강화했다.

Google은 Gemma 4가 1억 5천만 다운로드를 돌파했으며, 온디바이스 AI 앱을 위해 오픈 모델을 사용하는 빌더들을 소개했다고 밝혔다.

Google은 16GB 메모리를 탑재한 노트북에서 로컬로 실행되도록 설계된 인코더 없는 멀티모달 오픈 모델 Gemma 4 12B를 공개했다.

보도에 따르면 Chrome은 AI 기능을 위해 로컬 Gemini Nano 모델을 설치해 왔으며, 이로 인해 저장 공간, 동의, 에너지에 대한 우려가 제기되고 있다.

구글은 자사의 Gemma AI 모델로 구동되는 iOS용 오프라인 우선 AI 받아쓰기 앱을 출시하며 Wispr Flow 같은 경쟁사를 겨냥하고 있다.

애플이 창립 50주년을 맞이한 가운데, 전직 내부자들은 이 회사가 초기 AI 우위를 낭비했지만 이제는 온디바이스 AI와 구글 제미니에 베팅해 시리를 재시동하려 한다고 말한다.