Un consortium de recherche allemand a publié Soofi S, un modèle de langage ouvert de 30 milliards de paramètres qui, selon lui, devance les rivaux entièrement ouverts sur des benchmarks combinés en anglais et en allemand tout en fonctionnant avec un coût d’inférence comparable à celui d’un système bien plus petit. Ce lancement compte au-delà d’une simple nouvelle sortie de modèle, car l’équipe plaide directement en faveur de modèles de fondation construits en Europe et centrés sur l’allemand, capables de rivaliser en performance sans dépendre des API des hyperscalers américains.

La sortie s’accompagne aussi d’une réserve inhabituelle. D’après les informations de The Decoder et le rapport technique mis à jour du consortium cité là-bas, l’équipe a constaté que des questions de test du benchmark scientifique GPQA avaient été accidentellement intégrées aux données d’entraînement à la suite d’une erreur de séparation du jeu de données. Une fois le problème identifié par la communauté, le consortium a retiré GPQA de son évaluation, recalculé les résultats de tous les modèles comparés et indiqué que le classement n’avait pas changé. Cette combinaison d’affirmations ambitieuses sur les benchmarks et d’une correction publique de contamination rend Soofi S remarquable à la fois par sa conception technique et par l’épreuve de transparence à laquelle il est désormais confronté.

Ce que Soofi S cherche à faire différemment

Selon The Decoder, Soofi S 30B-A3B est un système de mixture of experts avec 31,6 milliards de paramètres au total, mais seulement environ 3,2 milliards actifs par token. Le consortium aurait adopté la conception hybride de Nemotron 3 Nano de Nvidia, combinant des couches Mamba-2 avec des couches d’attention traditionnelles plutôt que d’utiliser un transformer dense standard de bout en bout.

Ce choix architectural est au cœur de la proposition du projet. Dans les modèles transformer classiques, les invites longues augmentent la charge sur le cache KV utilisé pour l’attention, ce qui peut réduire le débit à mesure que les fenêtres de contexte s’agrandissent ou que davantage de requêtes sont servies en parallèle. La conception de Soofi S limiterait cet effet, car seule une petite sous-partie des couches maintient ce cache. The Decoder indique que le consortium a mesuré un débit quasi stable de 4 000 à 256 000 tokens et a rapporté qu’à 40 000 tokens avec 32 requêtes parallèles, Soofi S générait environ huit fois plus de tokens par seconde et par GPU que les modèles denses de la tranche 14B à 24B.

Ces chiffres proviennent de mesures communiquées par le consortium, et non de benchmarks indépendants de tiers. Néanmoins, s’ils se confirment en production, ils rendraient Soofi S pertinent pour les équipes qui construisent des applications riches en documents, des copilotes à long contexte et des systèmes d’entreprise où la latence et l’utilisation des GPU comptent autant que les scores bruts de benchmark.

Le modèle a été entièrement entraîné sur l’infrastructure de Deutsche Telekom, plus précisément dans l’Industrial AI Cloud de l’entreprise à Munich, selon The Decoder. Cela a une importance particulière : les projets d’IA souveraine en Europe ont souvent eu du mal à démontrer à la fois un accès crédible au calcul et des résultats techniques crédibles. Soofi S est explicitement présenté comme la preuve qu’un modèle entraîné localement et publié ouvertement peut utiliser une infrastructure locale tout en restant compétitif dans des évaluations grand public.

Une stratégie de données d’abord pour l’allemand, sans renoncer à l’anglais

Le pari stratégique majeur du consortium semble être davantage le mélange de données que l’architecture seule. The Decoder rapporte que l’allemand représentait 7,2 % de la première phase d’entraînement et 15,3 % de la seconde, contre environ 5 % pour l’ensemble des langues non anglaises combinées dans la recette de référence Nemotron de Nvidia.

Selon ce rapport, l’entraînement a couvert environ 27 billions de tokens en trois phases : un premier passage large sur des textes web, du code, des mathématiques et des contenus de domaine ; un second passage sur des matériaux de meilleure qualité ; et une phase plus courte de long contexte avec des documents allant jusqu’à un million de tokens. La part allemande provenait de sources telles que HPLT, German Commons, FinePDFs, FineWiki et l’archive sous licence commerciale Genios de contenus d’actualité allemands. L’équipe a également utilisé du texte allemand traduit automatiquement et du texte synthétique.

Ce poids accordé aux données semble avoir porté ses fruits dans l’évaluation propre du consortium. The Decoder affirme que Soofi S arrive en tête de tous les modèles entièrement ouverts sur le score agrégé en anglais et en allemand face à 16 rivaux ouverts, dont OLMo 3 32B et Apertus 70B. Sur les connaissances spécifiques à l’Allemagne, il aurait fait jeu égal avec Qwen3.5 35B-A3B sur INCLUDE-DE. Sur les tests de programmation, des scores annoncés de 73,8 sur HumanEval, 70,2 sur MBPP et 84,2 sur le MBPP allemand placeraient le modèle devant ses pairs open source dans la suite de benchmarks du consortium.

Pour les équipes européennes d’IA, c’est là le véritable argument commercial. Un modèle capable de gérer des workflows d’entreprise bilingues, de générer du code et de traiter un contexte factuel ou réglementaire local sans sacrifier l’anglais est plus facile à justifier qu’un modèle strictement national qui ne performe que sur des tâches domestiques. Si Soofi S se révèle robuste dans la pratique, il pourrait séduire pour des assistants internes, des outils de recherche et de synthèse, des produits d’assistance au codage et des systèmes sectoriels destinés aux travailleurs du savoir germanophones.

Le problème du benchmark change la manière dont le lancement sera jugé

La raison la plus solide d’aborder prudemment le récit autour des benchmarks est que le problème de contamination n’était pas hypothétique. The Decoder rapporte que des questions de test reformulées de GPQA et GPQA Diamond se sont retrouvées dans le jeu de données QA-base utilisé pendant l’entraînement, y compris des versions anglaises et des versions allemandes traduites automatiquement.

Selon le rapport, la cause tenait à une bizarrerie d’étiquetage sur Hugging Face : GPQA n’avait pas de partition d’entraînement distincte et son contenu de test figurait sous l’étiquette par défaut « train ». Comme le pipeline sélectionnait les données par nom de partition, le benchmark a fui dans le corpus d’entraînement. Un audit ultérieur aurait révélé trois autres benchmarks présentant le même schéma — TruthfulQA, BLiMP et Inverse Scaling — bien que The Decoder précise qu’ils ne faisaient pas partie de l’évaluation de Soofi S.

La réponse du consortium, telle que décrite par The Decoder, a consisté à retirer entièrement GPQA de l’évaluation et à recalculer les classements comparatifs des 16 modèles. L’équipe a également indiqué qu’elle recoupe désormais directement les données d’entraînement avec les questions de benchmark au lieu de se fier aux étiquettes de partition. Des participants du consortium cités par The Decoder ont soutenu que la publication publique des données avait permis à la communauté de détecter le problème et validait donc l’approche ouverte.

C’est un argument défendable, mais cela n’efface pas l’épisode. Pour les acheteurs et les développeurs de modèles, l’incident renforce une leçon plus large : la suprématie sur les benchmarks est utile, mais seulement si le pipeline de données et le processus d’évaluation résistent à un examen extérieur. La disponibilité signalée d’environ 152 000 résultats individuels et une évaluation distincte par le partenaire Ellamind sur des données internes mises de côté renforcent la position du consortium, mais restent étroitement liées aux participants du projet plutôt qu’à des laboratoires externes neutres.

Là où Soofi S semble fort — et là où il ne l’est pas

Le récit de The Decoder suggère que Soofi S possède un profil de forces clair plutôt qu’une supériorité universelle. Le modèle semble particulièrement performant sur les tests agrégés en allemand et en anglais ainsi que sur les benchmarks de code, tout en bénéficiant d’un comportement efficace pour le service de longs contextes. Ces atouts correspondent davantage à des charges de travail d’entreprise concrètes qu’à des démonstrations ponctuelles de chatbot grand public.

Mais le même rapport signale aussi des points faibles. En mathématiques de compétition en allemand, Soofi S aurait obtenu 56 sur Minerva MATH-DE, derrière Qwen3.5 35B-A3B et Gemma 3 27B. Il a également été en retrait sur NaturalQuestions, ce que les auteurs auraient relié à une moindre capacité de stockage factuel due au fait de n’avoir qu’environ 3 milliards de paramètres actifs par token.

Il y a aussi eu un schéma d’échec notable dans le test RULER de long contexte. Selon The Decoder, lorsqu’on lui demandait d’extraire des mots fréquemment présents dans un long texte, le taux de réussite de Soofi S tombait à environ 3 % au-delà de 32 000 tokens, tandis que le modèle Nemotron comparable maintenait 60 à 64 %. Les auteurs auraient attribué cette faiblesse à des données d’entraînement long contexte contenant de longs documents mais pas assez de tâches synthétiques de type extraction.

Cette distinction est importante pour les bâtisseurs d’IA. Le « long contexte » n’est pas une seule capacité. Un modèle peut traiter efficacement de longues entrées tout en peinant sur des comportements spécifiques de récupération ou d’extraction à l’intérieur de ces entrées. Les équipes produit qui envisagent Soofi S pour de l’IA d’entreprise devraient tester la forme exacte de leur flux de travail : revue juridique, synthèse du support client, usage comme assistant de codage, copilotes de recherche ou récupération de connaissances multilingues peuvent solliciter différentes parties du système.

Preuves, affirmations et ce qui est vérifié indépendamment

La plupart des détails sur les performances, l’efficacité et l’entraînement dans cet article proviennent du rapport de The Decoder sur les matériaux techniques du consortium. Cela signifie que les principales affirmations de benchmark et de débit restent rapportées par le consortium plutôt que reproduites de manière indépendante.

Ce qui semble le mieux étayé par les éléments disponibles, c’est l’existence même de la sortie, le choix d’architecture fondé sur Nvidia Nemotron, l’utilisation de l’infrastructure de Deutsche Telekom, le mélange d’entraînement fortement orienté vers l’allemand et la divulgation du consortium selon laquelle du contenu de test GPQA a fuité dans les données d’entraînement avant d’être retiré de l’évaluation.

Ce qu’il reste plus difficile à vérifier avec les sources actuelles, ce sont les marges comparatives précises face à OLMo 3 32B, Apertus 70B et Qwen3.5 35B-A3B, ainsi que les véritables avantages de service en conditions de production. Ces affirmations peuvent s’avérer globalement justes, mais des reproductions externes compteront davantage que les graphiques du jour du lancement.

Le calendrier de licence mérite aussi d’être surveillé. The Decoder indique que les variantes instruct et reasoning sont en bêta et devraient être publiées sous licence permissive dans les prochaines semaines, tandis qu’un modèle Soofi L plus grand est déjà en cours d’entraînement. Tant que ces variantes ne sont pas livrées et que les développeurs ne peuvent pas les tester directement, l’utilité commerciale de la famille reste seulement partiellement visible.

Ce qu’il faut surveiller ensuite

Premièrement, il faut voir si des évaluateurs indépendants reproduisent le titre selon lequel Soofi S domine les modèles entièrement ouverts en allemand et en anglais. Des tests tiers sur HumanEval, MBPP, RULER et des suites en langue allemande auront désormais plus de poids puisque le problème GPQA est public.

Deuxièmement, il faut surveiller les benchmarks de déploiement plutôt que les fiches statiques du modèle. Si Soofi S conserve réellement mieux le débit sur de longs contextes que ses pairs denses, cela pourrait compter pour les budgets d’IA d’entreprise et pour les équipes qui cherchent à servir de nombreux utilisateurs simultanés avec une capacité GPU limitée.

Troisièmement, il faut surveiller les signaux d’adoption dans les industries germanophones. Un modèle entraîné sur l’infrastructure de Deutsche Telekom et optimisé pour l’allemand peut séduire des clients ayant des exigences de résidence des données, d’approvisionnement ou d’IA souveraine, mais ces acheteurs voudront aussi des preuves de fiabilité, de sécurité et de support.

Enfin, il faut voir si Soofi L et les futurs modèles instruct maintiennent le même niveau de transparence. L’argument d’ouverture du consortium ne devient plus fort que si les prochaines sorties continuent à soumettre les jeux de données, les méthodes et les corrections post-lancement au regard extérieur.

Perspective Creati.ai

Soofi S est intéressant non pas parce que l’Europe a lancé un autre modèle ouvert, mais parce qu’il cible une niche plus pratique : des performances d’entreprise bilingues plus une efficacité de long contexte sur une infrastructure locale. C’est une proposition de valeur plus utile que la souveraineté abstraite seule. Si les affirmations sur le débit survivent à la réplication, Soofi S pourrait séduire les bâtisseurs qui ont besoin de systèmes à grand contexte sans payer les coûts de service généralement associés aux modèles denses de pointe.

La divulgation de la contamination fait cependant partie de l’histoire et n’est pas une simple note de bas de page. Sur le marché actuel des modèles, la transparence devient une caractéristique concurrentielle à part entière. Soofi S pourrait finir par bénéficier d’avoir corrigé l’erreur publiquement, mais il aura tout de même besoin d’une validation indépendante. Pour les fondateurs et les équipes d’entreprise, la bonne conclusion n’est ni « ignorer le modèle » ni « faire confiance aux benchmarks », mais « tester les poids ouverts avec vos propres charges de travail ». C’est là que Soofi S deviendra soit un véritable candidat à une plateforme régionale, soit restera un rapport technique impressionnant.