Un consortium de recherche allemand a publié Soofi S 30B-A3B, un grand modèle de langage ouvert présenté à la fois comme un pari sur la performance et un pari sur la souveraineté pour la pile IA européenne. D’après les informations rapportées par The Decoder, citant le rapport de pré-entraînement du modèle, le système a été entraîné entièrement sur l’infrastructure de Deutsche Telekom à Munich et est conçu pour offrir de solides performances en allemand sans renoncer à sa compétitivité sur les tâches en anglais et en code.

Ce lancement compte, car les efforts européens autour des modèles ouverts se sont souvent divisés en deux camps : des projets multilingues d’intérêt public mettant l’accent sur la couverture et la gouvernance, et des systèmes à poids ouverts mondiaux qui gagnent sur les benchmarks mais sont généralement façonnés par des laboratoires américains ou chinois. Soofi S tente de combler cet écart. Le consortium affirme que le modèle est désormais en tête parmi ses pairs entièrement ouverts sur les benchmarks agrégés en allemand et en anglais, tout en utilisant une architecture pensée pour maintenir une inférence efficace à longue fenêtre de contexte.

Cette combinaison pourrait rendre la publication pertinente au-delà des seuls milieux de recherche. Pour les acheteurs d’entreprise, Soofi S est présenté comme un modèle pouvant s’exécuter sur une infrastructure régionale avec une documentation d’entraînement transparente. Pour les développeurs, c’est un autre signe que la concurrence sur les modèles ouverts se déplace d’un simple comptage des paramètres vers un mélange de curation des données, d’efficacité d’inférence et de contrôle juridictionnel.

Ce qu’est Soofi S et qui l’a construit

Selon The Decoder, Soofi S est un modèle de type mixture-of-experts avec 31,6 milliards de paramètres au total, mais seulement environ 3,2 milliards actifs à chaque token généré. Le consortium appelle le modèle Soofi S 30B-A3B, en référence à ce schéma d’activation clairsemée. En pratique, cela signifie que son profil de calcul peut se rapprocher de celui d’un modèle bien plus petit que d’un système dense de 30B, du moins pour la génération de tokens.

Le projet a été coordonné par le KI Bundesverband, ou association allemande de l’IA, et financé par le ministère fédéral allemand de l’Économie et de l’Énergie dans le cadre du programme européen IPCEI-CIS, selon le rapport cité par The Decoder. Parmi les institutions participantes figurent Fraunhofer IAIS, Fraunhofer IIS, DFKI, la TU Darmstadt, l’université de Wurtzbourg, le centre de recherche L3S, la Haute école des sciences appliquées de Berlin, Ellamind et Merantix Momentum.

L’aspect infrastructure est au cœur de l’histoire. Le modèle a été entraîné sur l’Industrial AI Cloud de Deutsche Telekom à Munich, l’entraînement ayant eu lieu de mars à mai sur jusqu’à 512 GPU Nvidia B200, selon le compte rendu technique de The Decoder. La publication indique que cette session a consommé environ 253 000 heures de GPU. L’installation de Deutsche Telekom est décrite dans le rapport comme fonctionnant à l’énergie renouvelable, utilisant un refroidissement par eau de canal et réinjectant la chaleur résiduelle dans le quartier environnant, bien que ces détails de durabilité proviennent des documents du projet lui-même et non d’une vérification indépendante.

L’architecture et les choix d’entraînement sont la véritable histoire du produit

La conception technique explique pourquoi le consortium insiste autant sur le débit que sur les performances brutes en benchmark. Le rapport indique que Soofi S adopte sans modification l’architecture Nemotron 3 Nano de Nvidia, en utilisant une conception hybride mêlant des couches Mamba-2 et des couches d’attention conventionnelles.

C’est important, car l’inférence à long contexte est devenue l’une des parties les plus coûteuses et les plus délicates à opérer pour les modèles de type frontier. Les modèles Transformer standard reposent sur un cache clé-valeur qui grossit avec la longueur du contexte. À mesure que les entrées s’allongent et que la concurrence augmente, la bande passante mémoire et les mouvements de cache deviennent un goulot d’étranglement. Selon The Decoder, seules six des 52 couches de Soofi S conservent ce cache, ce qui change la façon dont le modèle évolue sous de longues invites.

Le consortium affirme qu’à 40 000 tokens de contexte et 32 requêtes parallèles, Soofi S produit environ huit fois plus de tokens par seconde et par GPU que les modèles denses de la gamme 14B à 24B. Le rapport indique également que le débit reste quasiment plat de 4 000 à 256 000 tokens, Alibaba Qwen3.5 35B-A3B étant identifié comme le seul autre modèle mesuré présentant un comportement similaire. Ce sont des affirmations importantes pour quiconque construit des flux de travail riches en documents, des pipelines de recherche augmentée ou des systèmes d’agents devant gérer de grands contextes de travail, mais il s’agit de mesures rapportées par le consortium et non de benchmarks indépendants tiers.

La recette d’entraînement est tout aussi notable. Le consortium dit avoir traité environ 27 000 milliards de tokens en trois phases : une première phase large d’environ 20 000 milliards de tokens couvrant le web, le code, les mathématiques et des textes spécialisés par domaine ; une deuxième phase d’environ 6 000 milliards de tokens de meilleure qualité ; et une phase finale plus courte conçue pour étendre la fenêtre de contexte avec des documents allant jusqu’à un million de tokens.

Ce qui distingue Soofi S de nombreux pairs ouverts est son poids plus important accordé à l’allemand. The Decoder rapporte que l’allemand représentait 7,2 % de la première phase et 15,3 % de la deuxième, contre environ 5 % pour l’ensemble des langues non anglaises combinées dans la recette de référence Nemotron de Nvidia. Les données d’entraînement auraient inclus HPLT, German Commons, FinePDFs, FineWiki et le corpus commercial Genios, ainsi que des textes allemands traduits automatiquement et synthétiques.

Les gains sur les benchmarks viennent avec des réserves

L’affirmation principale est claire : le consortium affirme que Soofi S domine tous les modèles entièrement ouverts sur les scores agrégés des benchmarks anglais et allemand. Parmi les modèles qu’il aurait battus figurent OLMo 3 32B de l’Allen Institute for AI et Apertus 70B de l’ETH Zurich et de l’EPFL. Le rapport dit aussi qu’il a dépassé les bases souveraines européennes sur tous les benchmarks allemands de la suite de comparaison.

Sur les tâches de programmation, The Decoder indique que Soofi S a obtenu 73,8 % sur HumanEval, 70,2 sur MBPP, et 84,2 sur une variante allemande de MBPP. Sur INCLUDE-DE, un benchmark portant sur les connaissances régionales spécifiques à l’Allemagne, il aurait fait jeu égal avec Qwen3.5 35B-A3B à 61,2 points. Le rapport affirme en outre que, par rapport à la base Nemotron, le mélange de données centré sur l’allemand a amélioré la compétence linguistique de 15,1 points et GPQA-Diamond de 9,6 points sans nuire aux performances en anglais.

Ce sont de très bons résultats s’ils se confirment dans des tests plus larges, mais il faut les lire avec prudence. Les éléments disponibles dans ce groupe d’articles proviennent du reportage de The Decoder sur le rapport de pré-entraînement du projet et sur les contenus du site web. Il n’existe pas d’audit indépendant des benchmarks dans le corpus source, ni de reproduction externe des revendications de débit ou de qualité.

Le modèle présente aussi des faiblesses évidentes. The Decoder rapporte que Soofi S a sous-performé en mathématiques de concours en allemand, avec un score de 56 sur Minerva MATH-DE, derrière Qwen3.5 35B-A3B et Gemma 3 27B. Il a également accusé du retard sur NaturalQuestions, que les auteurs lient, selon le rapport, au nombre réduit de paramètres actifs par rapport à des modèles denses susceptibles de conserver davantage de connaissances factuelles.

Le comportement sur long contexte n’est pas non plus uniformément solide. Sur le test RULER, le modèle aurait eu des difficultés sur des tâches d’extraction impliquant des mots fréquemment répétés dans de longs documents. Au-delà de 32 000 tokens, son taux de réussite est tombé à environ 3 %, tandis que le modèle Nemotron comparable atteignait encore environ 60 à 64 %, selon le résumé du rapport par The Decoder. Les auteurs attribuent cet écart à l’absence de données synthétiques axées sur l’extraction dans l’entraînement à long contexte.

Un modèle ouvert, mais pas ouvert selon toutes les définitions

Soofi S est publié avec les poids du modèle, certains checkpoints intermédiaires sélectionnés, le code d’entraînement et d’évaluation, ainsi qu’un inventaire détaillé des données, selon The Decoder. Ce niveau de transparence est important dans un marché où « ouvert » signifie souvent seulement des poids téléchargeables avec peu d’informations de provenance.

Le consortium affirme que ce lot satisfait à la définition Open Source AI Definition 1.0 de l’Open Source Initiative. En même temps, le rapport reconnaît qu’il ne respecterait pas une norme européenne plus stricte proposée pour les données ouvertes, car environ 1,3 % du mélange d’entraînement provenait du corpus commercialisé sous licence Genios. L’équipe indique qu’environ 99 % de l’ensemble de données peut être reconstruit de manière indépendante, mais la licence exacte de publication n’était pas encore finalisée au moment du rapport.

Cette nuance compte pour les achats d’entreprise et pour les équipes produit en aval. Pour certains utilisateurs, des poids ouverts, du code et de la documentation suffisent. Pour d’autres, en particulier les acheteurs du secteur public et les entreprises ayant des exigences strictes de redistribution ou d’audit, les détails de licence non résolus et l’inclusion de données sous licence commerciale peuvent rester une contrainte importante.

Pourquoi cela compte pour les développeurs et les acheteurs d’entreprise

Pour les développeurs d’IA, l’enseignement principal de Soofi S est que la spécialisation régionale peut encore faire la différence. Plutôt que de viser une multilinguisme maximale, le consortium semble s’être concentré sur la qualité en allemand tout en préservant une utilité large en anglais. C’est une stratégie pratique pour les équipes qui servent des secteurs réglementés, la documentation technique, le support client et les flux de connaissance internes, où la performance en langue locale vaut davantage qu’une couverture universelle.

Pour les déploiements d’IA en entreprise, la combinaison de poids ouverts, de performances adaptées à l’allemand et d’un entraînement sur l’infrastructure de Deutsche Telekom donne au modèle un positionnement clair autour de la résidence des données et de l’infrastructure souveraine. Cela ne résout pas automatiquement les questions de conformité ou de risque, mais cela crée une option plus concrète pour les organisations qui veulent des alternatives aux plateformes américaines fermées ou aux sorties opaques de modèles à poids ouverts.

L’architecture pourrait se révéler tout aussi importante que les benchmarks. Si Soofi S parvient à maintenir son débit sur des contextes très longs dans de réelles conditions de production, il pourrait être utile pour la relecture documentaire, les assistants de codage et les agents IA qui doivent conserver une grande mémoire de travail. Mais ces cas d’usage dépendront du fait que la faiblesse d’extraction observée sur RULER se manifeste ou non dans les charges de travail clients. Un modèle rapide à long contexte est moins convaincant s’il manque des tâches clés de récupération ou d’extraction dans ces longs documents.

Preuves et affirmations

La majeure partie des preuves substantielles de cette histoire provient du reportage de The Decoder sur le rapport de pré-entraînement du consortium, le site du projet et les commentaires du principal auteur. Par conséquent, les affirmations les plus fortes de cet article, y compris la suprématie sur les benchmarks, les gains de débit, l’efficacité d’entraînement et la conformité open source, doivent être considérées comme rapportées par le projet et non vérifiées indépendamment.

Ce qui semble solide d’après les sources disponibles, c’est l’existence de la publication, l’architecture de base du modèle, l’implication du consortium dirigé par le KI Bundesverband, l’utilisation de l’infrastructure de Deutsche Telekom et la publication des poids, du code et de la documentation. Les performances comparatives et les avantages opérationnels restent provisoires tant que des utilisateurs externes n’ont pas testé Soofi S face à OLMo 3 32B, Apertus 70B, Qwen3.5 35B-A3B, Gemma 3 27B et Nvidia Nemotron dans des environnements reproductibles.

Ce qu’il faut surveiller ensuite

Le premier signal à surveiller est la licence. Les conditions exactes de publication détermineront si Soofi S est surtout un artefact de recherche ou un modèle de base pratique pour les équipes produit commerciales.

Deuxièmement, il faudra des benchmarks et des tests d’inférence indépendants. Les comparaisons externes sur HumanEval, MBPP, les charges de travail à long contexte et les tâches documentaires d’entreprise en allemand compteront davantage que les positions sur les classements rapportées par le projet lui-même.

Troisièmement, le consortium dit rechercher des partenaires industriels pour la phase suivante dans les documents techniques, la génération de code et les systèmes basés sur des agents. Des références de déploiement réel dans ces domaines constitueraient une preuve plus solide que les seuls succès sur les benchmarks.

Enfin, il faudra voir si Soofi S devient un modèle pour d’autres initiatives européennes d’IA souveraine. Si sa combinaison d’un poids régional des données, d’un reporting transparent et d’une conception efficace pour les très longs contextes s’avère utile, elle pourrait influencer la manière dont les futurs modèles ouverts seront construits sur une infrastructure cloud locale.

Point de vue de Creati.ai

Soofi S est remarquable non pas parce que l’Europe a produit un autre modèle ouvert, mais parce que l’équipe semble avoir fait un choix produit plus net que beaucoup de projets d’IA d’intérêt public. Elle a choisi un marché linguistique spécifique, misé sur une documentation ouverte et adopté une architecture optimisée pour un problème réel de déploiement : le coût des très longs contextes.

La question ouverte est de savoir si ces choix de conception se traduisent par de l’adoption. Les acheteurs d’IA en entreprise se soucient de la clarté des licences, de la crédibilité des benchmarks et du comportement opérationnel sous des charges de travail de production chaotiques. Si Soofi S peut démontrer des performances fiables dans des pipelines documentaires en allemand et dans des scénarios d’assistant de codage sur une infrastructure souveraine, il pourrait devenir plus qu’une alternative européenne symbolique. Sinon, il pourrait rester une sortie de recherche impressionnante avec un attrait commercial limité.