On-Device-KI

Liquid AI hat LFM2.5-VL-DSpark veröffentlicht, einen Drafting-Modell mit 280 Millionen Parametern, der das Decoding von LFM2.5-VL-3B auf Edge-Geräten und H100-GPUs beschleunigt.

PrismML hat Bonsai 2 27B veröffentlicht, ein komprimiertes Reasoning-Modell für PCs und Smartphones, das das Argument für private KI direkt auf dem Gerät stärkt.

Google sagt, Gemma 4 habe 150 Millionen Downloads überschritten, und präsentierte Entwickler, die die offenen Modelle für On-Device-KI-Apps nutzen.

Google stellte Gemma 4 12B vor, ein encoderfreies multimodales Open-Model, das lokal auf Laptops mit 16 GB Arbeitsspeicher ausgeführt werden kann.

Berichten zufolge installiert Chrome ein lokales Gemini-Nano-Modell für KI-Funktionen, was Bedenken hinsichtlich Speicherplatz, Einwilligung und Energieverbrauch aufwirft.

Google hat eine Offline-first-KI-Diktier-App für iOS veröffentlicht, die auf seinen Gemma-KI-Modellen basiert und sich gegen Konkurrenten wie Wispr Flow richtet.

Während Apple sein 50-jähriges Bestehen feiert, sagen ehemalige Insider, dass das Unternehmen einen frühen KI-Vorteil verspielt hat, nun aber auf On-Device-KI und Google Gemini setzt, um Siri neu zu beleben.