AI News

Ein deutsches Forschungskonsortium hat Soofi S veröffentlicht, ein offenes Sprachmodell mit 30 Milliarden Parametern, das nach eigenen Angaben unter vollständig offenen Konkurrenten bei kombinierten englischen und deutschen Benchmarks führt, während es mit den Inferenzkosten eines weit kleineren Systems läuft. Die Einführung ist mehr als nur eine weitere Modellveröffentlichung, denn das Team formuliert damit ein direktes Plädoyer für in Europa gebaute, deutsch fokussierte Basismodelle, die bei der Leistung konkurrieren können, ohne auf APIs US-amerikanischer Hyperscaler angewiesen zu sein.

Die Veröffentlichung kommt zudem mit einem ungewöhnlichen Vorbehalt. Laut Berichten von The Decoder und dem dort zitierten aktualisierten technischen Bericht des Konsortiums stellte das Team fest, dass Testfragen aus dem Wissenschafts-Benchmark GPQA versehentlich durch einen Fehler bei der Aufteilung des Datensatzes in die Trainingsdaten gelangt waren. Nachdem die Community das Problem identifiziert hatte, entfernte das Konsortium GPQA aus seiner Bewertung, berechnete die Ergebnisse für alle verglichenen Modelle neu und erklärte, dass sich an der Rangfolge nichts geändert habe. Diese Kombination aus ambitionierten Benchmark-Behauptungen und einer öffentlichen Korrektur von Kontamination macht Soofi S sowohl wegen seines technischen Designs als auch wegen des Transparenztests bemerkenswert, dem es sich nun stellen muss.

Was Soofi S anders machen will

Laut The Decoder ist Soofi S 30B-A3B ein Mixture-of-Experts-System mit 31,6 Milliarden Gesamtparametern, aber nur etwa 3,2 Milliarden aktiven Parametern pro Token. Das Konsortium hat dem Bericht zufolge das hybride Design von Nvidias Nemotron 3 Nano übernommen und Mamba-2-Layer mit klassischen Attention-Layern kombiniert, statt durchgehend einen Standard-Transformer mit dichter Parametrisierung zu verwenden.

Diese architektonische Entscheidung ist zentral für das Konzept des Projekts. Bei herkömmlichen Transformer-Modellen erhöhen lange Prompts die Belastung des für Attention verwendeten KV-Caches, was den Durchsatz senken kann, wenn Kontextfenster wachsen oder mehr Anfragen parallel bedient werden. Das Design von Soofi S begrenzt diesen Effekt dem Bericht zufolge, weil nur eine kleine Teilmenge der Layer diesen Cache vorhält. The Decoder sagt, dass das Konsortium einen nahezu konstanten Durchsatz von 4.000 bis 256.000 Tokens gemessen habe und berichtete, dass Soofi S bei 40.000 Tokens und 32 parallelen Anfragen pro GPU rund achtmal mehr Tokens pro Sekunde erzeugte als dichte Modelle im Bereich von 14B bis 24B.

Diese Zahlen stammen aus Messungen des Konsortiums und nicht aus unabhängigen Drittanbieter-Benchmarks. Wenn sie sich im Einsatz jedoch bestätigen, würden sie Soofi S für Teams relevant machen, die dokumentenlastige Anwendungen, Long-Context-Copilots und Unternehmenssysteme bauen, bei denen Latenz und GPU-Auslastung genauso wichtig sind wie rohe Benchmark-Werte.

Das Modell wurde laut The Decoder vollständig auf der Infrastruktur von Deutsche Telekom trainiert, konkret in der Industrial AI Cloud des Unternehmens in München. Das ist aus einem anderen Grund bedeutsam: Souveräne KI-Projekte in Europa hatten oft Schwierigkeiten, sowohl glaubwürdigen Zugang zu Rechenleistung als auch glaubwürdige technische Ergebnisse vorzuweisen. Soofi S wird ausdrücklich als Beleg dafür positioniert, dass ein regional trainiertes, offen veröffentlichtes Modell lokale Infrastruktur nutzen und dennoch in gängigen Evaluierungen mithalten kann.

Eine Datenstrategie zuerst für Deutsch, ohne Englisch aufzugeben

Der größte strategische Wurf des Konsortiums scheint eher im Datenmix als allein in der Architektur zu liegen. The Decoder berichtet, dass Deutsch in der ersten Trainingsphase 7,2 Prozent und in der zweiten 15,3 Prozent ausmachte, verglichen mit rund 5 Prozent für alle Nicht-Englisch-Sprachen zusammen in Nvidias Nemotron-Referenzrezept.

Dem Bericht zufolge umfasste das Training rund 27 Billionen Tokens in drei Phasen: ein breiter erster Durchlauf über Web-, Code-, Mathematik- und Fachtexte; ein zweiter Durchlauf über hochwertigeres Material; und eine kürzere Langkontext-Phase mit Dokumenten von bis zu einer Million Tokens. Der deutsche Anteil stammte unter anderem aus HPLT, German Commons, FinePDFs, FineWiki und dem kommerziell lizenzierten Genios-Archiv deutscher Nachrichteninhalte. Das Team nutzte außerdem maschinell übersetzte und synthetische deutsche Texte.

Diese Gewichtung der Daten scheint sich in der eigenen Bewertung des Konsortiums ausgezahlt zu haben. The Decoder zufolge führt Soofi S unter 16 offenen Rivalen, darunter OLMo 3 32B und Apertus 70B, alle vollständig offenen Modelle in der aggregierten englischen und deutschen Bewertung an. Beim Wissensbenchmark speziell für Deutschland soll das Modell mit Qwen3.5 35B-A3B auf INCLUDE-DE gleichgezogen haben. Bei Programmieraufgaben ließen gemeldete Werte von 73,8 auf HumanEval, 70,2 auf MBPP und 84,2 auf deutschem MBPP das Modell in der Benchmark-Suite des Konsortiums vor Open-Source-Konkurrenten liegen.

Für europäische KI-Teams ist das der eigentliche kommerzielle Hebel. Ein Modell, das zweisprachige Unternehmensabläufe, Codegenerierung und lokalen Fakten- oder Regulierungsbezug abdecken kann, ohne Englischfähigkeit einzubüßen, lässt sich leichter rechtfertigen als ein eng national ausgerichtetes Modell, das nur bei inländischen Aufgaben überzeugt. Wenn sich Soofi S in der Praxis als robust erweist, könnte es für interne Assistenten, Such- und Zusammenfassungstools, Coding-Assistenten und branchenspezifische Systeme attraktiv sein, die deutschsprachige Wissensarbeiter unterstützen.

Das Benchmark-Problem verändert die Bewertung des Launches

Der stärkste Grund, die Benchmark-Erzählung vorsichtig zu behandeln, ist, dass das Kontaminationsproblem nicht hypothetisch war. The Decoder berichtet, dass umformulierte Testfragen aus GPQA und GPQA Diamond in dem für das Training verwendeten QA-base-Datensatz gelandet seien, einschließlich englischer und maschinell übersetzter deutscher Versionen.

Laut dem Bericht lag die Ursache in einer Eigenheit der Kennzeichnung auf Hugging Face: GPQA hatte keinen separaten Trainingssplit, und seine Testinhalte standen unter dem Standardlabel „train“. Weil die Pipeline Material anhand des Split-Namens auswählte, gelangte der Benchmark in den Trainingskorpus. Ein späteres Audit fand dem Bericht zufolge drei weitere Benchmarks mit demselben Muster — TruthfulQA, BLiMP und Inverse Scaling — wobei The Decoder sagt, dass diese nicht Teil der Soofi-S-Evaluation waren.

Die Reaktion des Konsortiums bestand laut The Decoder darin, GPQA vollständig aus der Bewertung zu entfernen und die Vergleichsrangfolgen für alle 16 Modelle neu zu berechnen. Das Team sagte zudem, es prüfe Trainingsdaten nun direkt gegen Benchmark-Fragen, statt sich auf Split-Labels zu verlassen. Von The Decoder zitierte Konsortiumsteilnehmer argumentierten, dass die öffentliche Veröffentlichung der Daten eine Entdeckung durch die Community ermöglicht habe und damit den offenen Ansatz bestätige.

Das ist ein vertretbarer Punkt, löscht das Ereignis aber nicht aus. Für Modellkäufer und Entwickler unterstreicht der Vorfall eine breitere Lehre: Benchmark-Führung ist nützlich, aber nur dann, wenn die Datenpipeline und der Bewertungsprozess externer Prüfung standhalten. Die berichtete Verfügbarkeit von rund 152.000 Einzelresultaten und eine separate Bewertung durch den Partner Ellamind auf zurückgehaltenen internen Daten stützen die Position des Konsortiums, sind aber weiterhin eng an Projektteilnehmer gebunden und nicht an neutrale externe Labore.

Wo Soofi S stark wirkt — und wo nicht

Der Bericht von The Decoder deutet darauf hin, dass Soofi S eher ein klares Stärkenprofil als eine universelle Überlegenheit besitzt. Das Modell schneidet demnach besonders gut bei aggregierten deutschen und englischen Tests sowie bei Code-Benchmarks ab und profitiert zudem von effizientem Verhalten beim Bereitstellen langer Kontexte. Diese Eigenschaften passen eher zu praktischen Unternehmens-Workloads als zu einmaligen Consumer-Chatbot-Demos.

Der gleiche Bericht nennt aber auch Schwächen. Bei deutscher Wettbewerbsmathematik erreichte Soofi S demnach 56 auf Minerva MATH-DE und lag damit hinter Qwen3.5 35B-A3B und Gemma 3 27B. Auch bei NaturalQuestions blieb das Modell zurück, was die Autoren laut Bericht mit einer geringeren Fähigkeit zur Faktenspeicherung in Verbindung brachten, weil pro Token nur rund 3 Milliarden aktive Parameter zur Verfügung stehen.

Es gab zudem ein auffälliges Fehlermuster im RULER-Long-Context-Test. Laut The Decoder sank die Trefferquote von Soofi S bei der Aufgabe, häufig vorkommende Wörter aus langem Text zu extrahieren, jenseits von 32.000 Tokens auf etwa 3 Prozent, während das vergleichbare Nemotron-Modell 60 bis 64 Prozent hielt. Die Autoren führten diese Schwäche dem Bericht zufolge auf Long-Context-Trainingsdaten zurück, die zwar lange Dokumente enthielten, aber nicht genug synthetische Extraktionsaufgaben.

Diese Unterscheidung ist für KI-Entwickler wichtig. „Long Context“ ist nicht nur eine Fähigkeit. Ein Modell kann lange Eingaben effizient verarbeiten und dennoch bei spezifischen Abruf- oder Extraktionsaufgaben innerhalb dieser Eingaben Schwierigkeiten haben. Produktteams, die Soofi S für Enterprise-KI in Betracht ziehen, sollten ihre genaue Arbeitsform testen: juristische Prüfung, Kundensupport-Zusammenfassungen, Einsatz als Coding-Assistent, Research-Copilots oder mehrsprachige Wissenssuche können unterschiedliche Teile des Systems belasten.

Belege, Behauptungen und was unabhängig verifiziert ist

Die meisten Leistungs-, Effizienz- und Trainingsdetails in dieser Geschichte stammen aus The Decoders Bericht über die technischen Materialien des Konsortiums. Das bedeutet, dass die zentralen Benchmark- und Durchsatzbehauptungen vom Konsortium selbst berichtet und nicht unabhängig repliziert wurden.

Am stärksten belegt erscheinen die Existenz der Veröffentlichung selbst, die auf Nvidia Nemotron basierende Architekturentscheidung, die Nutzung der Infrastruktur von Deutsche Telekom, der stark auf Deutsch ausgerichtete Trainingsmix und die Offenlegung des Konsortiums, dass GPQA-Testinhalte in die Trainingsdaten gelangten und später aus der Bewertung entfernt wurden.

Weniger leicht zu verifizieren sind aus dem aktuellen Quellenstand die genauen Vorsprünge gegenüber OLMo 3 32B, Apertus 70B und Qwen3.5 35B-A3B sowie die echten Vorteile beim Betrieb unter Produktionslast. Diese Behauptungen mögen in der Tendenz stimmen, aber externe Reproduktionen werden wichtiger sein als die Diagramme am Starttag.

Auch der Lizenzzeitplan verdient Aufmerksamkeit. The Decoder zufolge befinden sich die Instruct- und Reasoning-Varianten in der Beta und sollen in den kommenden Wochen unter einer permissiven Lizenz erscheinen, während bereits ein größeres Soofi-L-Modell trainiert wird. Bis diese Varianten ausgeliefert sind und Entwickler sie direkt testen können, ist der kommerzielle Nutzen der Modellfamilie nur teilweise sichtbar.

Worauf als Nächstes zu achten ist

Erstens sollte beobachtet werden, ob unabhängige Evaluatoren die Schlagzeile reproduzieren, dass Soofi S unter den vollständig offenen Modellen bei Deutsch und Englisch führt. Drittanbieter-Tests auf HumanEval, MBPP, RULER und deutschsprachigen Testsets werden nun mehr Gewicht haben, da das GPQA-Problem öffentlich ist.

Zweitens sollten eher Bereitstellungs-Benchmarks als statische Model Cards beachtet werden. Wenn Soofi S den Durchsatz über lange Kontexte wirklich besser erhält als dichte Konkurrenten, könnte das für Enterprise-KI-Budgets und für Teams wichtig sein, die viele gleichzeitige Nutzer mit begrenzter GPU-Kapazität bedienen müssen.

Drittens sind Adoptionssignale in deutschsprachigen Branchen relevant. Ein Modell, das auf der Infrastruktur von Deutsche Telekom trainiert und für Deutsch optimiert wurde, könnte Kunden mit Anforderungen an Datenresidenz, Beschaffung oder souveräne KI ansprechen, doch diese Käufer werden auch Belege für Zuverlässigkeit, Sicherheit und Support wollen.

Viertens ist zu beobachten, ob Soofi L und die kommenden Instruct-Modelle denselben Transparenzstandard einhalten. Das Offenheitsargument des Konsortiums wird nur dann stärker, wenn künftige Veröffentlichungen weiterhin Datensätze, Methoden und Korrekturen nach dem Launch einer externen Prüfung zugänglich machen.

Creati.ai-Perspektive

Soofi S ist nicht interessant, weil Europa einfach ein weiteres offenes Modell veröffentlicht hat, sondern weil es eine praktischere Nische adressiert: zweisprachige Unternehmensleistung plus Langkontext-Effizienz auf lokaler Infrastruktur. Das ist ein nützlicheres Wertversprechen als abstrakte Souveränität allein. Wenn sich die Durchsatzbehauptungen bei Replikation bestätigen, könnte Soofi S für Entwickler attraktiv sein, die Systeme mit großem Kontext benötigen, ohne die üblichen Bereitstellungskosten dichter Frontier-Modelle zu zahlen.

Die Offenlegung der Kontamination ist jedoch Teil der Geschichte und nicht bloß eine Fußnote. Auf dem heutigen Modellmarkt wird Transparenz selbst zu einem Wettbewerbsmerkmal. Soofi S könnte letztlich davon profitieren, den Fehler öffentlich korrigiert zu haben, wird aber dennoch unabhängige Validierung benötigen. Für Gründer und Unternehmen lautet die richtige Schlussfolgerung nicht „das Modell ignorieren“ oder „den Benchmarks vertrauen“, sondern „die offenen Gewichte mit den eigenen Workloads testen“. Genau dort wird sich zeigen, ob Soofi S zu einem ernsthaften regionalen Plattformkandidaten wird oder als beeindruckender technischer Bericht stehen bleibt.

Ausgewählt

Deutsches Konsortium stellt Soofi S vor, ein offenes 30B-Modell mit Fokus auf Langkontext-Effizienz und stärkerer Leistung auf Deutsch

Das offene Modell Soofi S aus Deutschland beansprucht Spitzenwerte bei vollständig offenen Englisch- und Deutsch-Benchmarks, während seine Entwickler zudem einen Leck in Testdaten offengelegt und korrigiert haben.