OpenAI, Anthropic et Google DeepMind confirment des semaines d’échanges sur la sécurité de l’IA

OpenAI discute de sécurité de l’IA avec ses rivaux Anthropic et Google DeepMind depuis plusieurs semaines, a déclaré mardi aux journalistes Chris Lehane, le responsable mondial des affaires publiques de l’entreprise. Cette révélation confirme que les principaux acteurs des modèles de pointe se coordonnent en privé alors que les décideurs débattent de la manière de gérer des systèmes toujours plus capables.

Ces discussions interviennent dans un contexte de fracture croissante à Washington. Le PDG d’Anthropic, Dario Amodei, a exhorté l’industrie à ralentir le rythme du développement de l’IA de pointe afin de réduire les risques catastrophiques, tandis que le président Donald Trump et son conseiller IA David Sacks ont balayé ces inquiétudes, estimant que des restrictions plus strictes pourraient affaiblir les États-Unis face à la Chine. Pour les concepteurs d’IA et les acheteurs en entreprise, ce différend pourrait déterminer la manière dont les évaluations de modèles, les contrôles de déploiement et la supervision indépendante évolueront lors de la prochaine phase du marché.

Pourquoi ces discussions font surface maintenant

Les commentaires de Lehane, rapportés par TechCrunch après une couverture antérieure de Bloomberg, ont suivi un essai public d’Amodei appelant à une coopération plus étroite entre les entreprises d’IA. Le PDG de OpenAI, Sam Altman, le PDG de Google DeepMind, Demis Hassabis, et Elon Musk de SpaceXAI figuraient parmi les personnalités du secteur qui auraient soutenu cet appel à l’action.

Altman a également déclaré qu’OpenAI travaillerait avec Anthropic pour intégrer des évaluateurs tiers à ses opérations. Ces évaluateurs seraient chargés de surveiller si les modèles avancés sont développés et déployés en toute sécurité, bien que les informations disponibles ne précisent pas la portée, l’autorité ni les normes de fonctionnement des examens proposés.

Des discussions privées avaient déjà été évoquées avant la confirmation d’OpenAI. TechCrunch a rapporté qu’Altman avait récemment reconnu des conversations privées avec d’autres dirigeants de l’IA. The Information a par ailleurs indiqué qu’OpenAI, Anthropic et Google DeepMind travaillaient à la création d’un organisme de normalisation pour le secteur, tout en précisant qu’Altman aurait dit au personnel d’OpenAI qu’un tel effort devrait peut-être se poursuivre sans le soutien du gouvernement américain.

Ces discussions semblent donc relever de bien plus qu’un simple contact informel entre dirigeants. Elles pourraient inclure des pratiques communes de sécurité, une évaluation externe et un mécanisme possible de définition de normes entre laboratoires concurrents. Les entreprises n’ont pas publié publiquement de cadre détaillé, et TechCrunch a indiqué avoir contacté OpenAI, Anthropic et Google pour obtenir des commentaires.

La coordination en matière de sécurité se heurte aux préoccupations antitrust

La coopération entre concurrents directs crée une complication juridique et commerciale. Altman et d’autres ont reconnu que des discussions conjointes pourraient soulever des préoccupations antitrust si les régulateurs concluaient que la coordination en matière de sécurité sert à limiter la concurrence, ralentir les lancements de produits ou se partager les marchés.

La proposition d’Amodei comprenait une exemption gouvernementale étroite protégeant certaines coordinations liées à la sécurité. Selon TechCrunch, Lehane a déclaré que les entreprises n’avaient pas besoin d’une telle exemption. Cette position laisse ouverte une question centrale : quelles garanties les laboratoires peuvent-ils discuter ensemble sans franchir la ligne vers des comportements susceptibles d’être interprétés comme une suppression de la concurrence ?

La distinction est importante car ces entreprises ne sont pas de simples groupes de recherche académique. OpenAI, Anthropic et Google DeepMind se disputent les développeurs, les contrats d’entreprise, la capacité d’infrastructure et l’influence sur les normes qui pourraient régir les modèles avancés. Un protocole de test commun pourrait améliorer la comparabilité et réduire les travaux en double, mais il pourrait aussi donner aux plus grands laboratoires un contrôle disproportionné sur les règles appliquées au reste du secteur.

Pour les entreprises qui construisent sur ces modèles, l’issue pourrait affecter la documentation, les exigences d’audit et l’accès à des capacités plus risquées. Un processus volontaire de l’industrie pourrait avancer plus vite que la législation, mais il pourrait aussi manquer d’application cohérente ou d’autorité indépendante.

Preuves, affirmations et fracture politique

Le fait le mieux confirmé dans les reportages est l’affirmation de Lehane selon laquelle OpenAI mène depuis des semaines des discussions sur la sécurité avec Anthropic et Google DeepMind. L’effort plus large visant à créer un organisme de normalisation repose encore sur le reportage de The Information plutôt que sur une annonce publique des entreprises.

Les avantages de l’évaluation par des tiers sont également prospectifs plutôt que démontrés dans les éléments source. Aucun résultat indépendant, aucun nom d’évaluateur, aucun critère de test ni aucun processus d’application n’ont été fournis. Les références au risque catastrophique reflètent la position d’Amodei et d’autres défenseurs de la sécurité de l’IA, et non une mesure établie montrant qu’un modèle ou un déploiement spécifique a atteint un tel seuil.

Hassabis a auparavant appelé les États-Unis à créer un nouvel organisme de normalisation capable d’examiner les modèles avancés et de coordonner des ralentissements à l’échelle du secteur si les risques augmentent. Cette proposition contraste avec la position attribuée à Trump et Sacks, qui ont présenté les avertissements sur le risque existentiel comme exagérés ou politiquement motivés et mis l’accent sur la concurrence avec la Chine.

Le conflit de politique publique donne aux discussions privées une importance inhabituelle. Si le gouvernement américain n’est pas disposé à créer un mécanisme de contrôle formel, les laboratoires de pointe pourraient tenter d’en construire un eux-mêmes. Mais un organisme privé dirigé par les entreprises évaluées serait confronté à des questions d’indépendance, de transparence et de conflits d’intérêts.

Ce que ces discussions pourraient signifier pour les développeurs d’IA

Pour les développeurs de modèles, la conséquence immédiate est une possible évolution vers des pratiques d’évaluation partagées. Des tests communs pourraient faciliter la comparaison des systèmes sur les capacités dangereuses, le suivi des changements entre versions de modèles et l’identification des cas où un déploiement nécessite des contrôles renforcés. Ils pourraient aussi créer de nouveaux coûts de conformité, en particulier pour les petites entreprises qui ne disposent pas des équipes de sécurité et des infrastructures des plus grands laboratoires.

Pour les équipes produit en entreprise, la vérification indépendante pourrait devenir un élément de la diligence raisonnable vis-à-vis des fournisseurs. Les acheteurs pourraient finir par vouloir des preuves qu’un modèle a subi des tests externes avant de l’autoriser à traiter des données sensibles, à utiliser des outils ou à prendre des décisions dans des flux de travail réglementés. Toutefois, aucun calendrier confirmé n’existe pour de telles exigences, et aucun accord décrit dans les reportages n’a encore établi de certification commune.

Les enjeux commerciaux sont tout aussi directs. Un ralentissement coordonné autour de résultats de sécurité pourrait affecter les calendriers de sortie, la disponibilité des API et la vitesse à laquelle les développeurs reçoivent de nouvelles capacités. À l’inverse, si les entreprises ne peuvent pas se coordonner à cause du risque antitrust, chaque laboratoire pourrait continuer à fixer ses propres seuils et méthodes d’évaluation. Cela pourrait préserver la concurrence, mais laisser les clients avec des informations incohérentes sur le risque des modèles.

La question dépasse également ces trois entreprises. Un organisme de normalisation du secteur devrait tenir compte des développeurs de modèles ouverts, des fournisseurs cloud, des chercheurs indépendants et des entreprises déployant des modèles dans des environnements spécialisés. Des règles élaborées uniquement par les plus grands laboratoires de pointe pourraient être difficiles à adopter pour l’écosystème au sens large.

Ce qu’il faut surveiller ensuite

Le prochain signal concret sera de savoir si OpenAI, Anthropic ou Google DeepMind identifie publiquement les participants, la portée et la gouvernance des discussions sur la sécurité. Des détails sur les évaluateurs tiers — y compris qui les nomme, ce qu’ils peuvent inspecter et si leurs conclusions seront publiées — distingueraient un plan de supervision substantiel d’un engagement général et vague.

La réaction des législateurs au FRONTIER Act comptera également. Lehane a déclaré qu’OpenAI soutenait une disposition exigeant des principaux laboratoires de pointe qu’ils laissent entrer des « organisations indépendantes de vérification » dans leurs entreprises. La formulation législative, les pouvoirs d’exécution et la définition d’un laboratoire concerné pourraient déterminer si la proposition devient une véritable obligation ou reste une position politique.

Enfin, les développeurs devraient surveiller l’annonce formelle d’un organisme de normalisation, des repères d’évaluation partagés et des preuves que le processus inclut des organisations extérieures aux trois plus grands participants. Sans ces signaux, les discussions restent une divulgation importante sur la coordination, mais pas encore un régime de sécurité opérationnel.

Point de vue de Creati.ai

L’importance de cette histoire ne tient pas seulement au fait que trois entreprises d’IA se parlent. C’est qu’elles semblent reconnaître la nécessité de processus de sécurité communs tout en opérant dans un marché où la coopération peut créer des risques juridiques et concurrentiels. Cette tension déterminera si la supervision émergera sous forme de législation, de normes volontaires ou d’un patchwork de pratiques propres à chaque entreprise.

Pour les développeurs et les acheteurs en entreprise, la leçon pratique est de considérer les engagements en matière de sécurité comme incomplets tant qu’ils ne produisent pas de preuves vérifiables : tests définis, accès indépendant, résultats publiés et conséquences claires en cas d’échec. Les discussions peuvent être un bon point de départ, mais leur crédibilité dépendra de la capacité des participants à rendre la supervision réellement indépendante sans transformer un forum de sécurité en mécanisme de verrouillage du marché de l’IA.