Anthropic a fourni davantage de détails sur son projet d’apposer un filigrane au texte généré par Claude, en décrivant un système conçu pour identifier les contenus rédigés par l’IA sans modifier visiblement la réponse pour les lecteurs. L’entreprise affirme que le filigrane pourra être détecté à l’aide de la bonne clé cryptographique et prévoit de proposer une API distincte de détection des filigranes.

Cette précision intervient après qu’Anthropic a déclaré plus tôt cette semaine que Claude adopterait le filigranage afin de se conformer au Code de transparence de l’AI Act de l’Union européenne. Cette décision a suscité un débat parmi les utilisateurs, inquiets que des employeurs, des écoles ou d’autres institutions puissent utiliser cette technologie pour identifier un usage non divulgué de Claude.

Comment le filigrane de Claude est conçu pour fonctionner

Dans un billet de blog publié vendredi, Anthropic a indiqué que Claude utiliserait l’approche SynthID-Text développée par Google DeepMind et présentée en 2024. La méthode repose sur les choix qu’un modèle de langage effectue lorsque plusieurs mots ou expressions conviendraient tout aussi bien. Par exemple, un modèle peut avoir plusieurs façons raisonnables de décrire la météo. Sur l’ensemble d’une réponse, ces choix peuvent former un schéma statistique invisible pour un lecteur ordinaire, mais vérifiable par une personne disposant de la clé de détection appropriée.

Anthropic a déclaré que le filigrane ne devrait pas affecter la qualité des sorties de Claude. L’entreprise décrit une réponse filigranée comme indiscernable, pour un lecteur, d’une réponse non filigranée, ce qui signifie que les utilisateurs ne devraient probablement pas remarquer le système dans des flux de travail ordinaires de rédaction ou de codage.

L’API de détection prévue pourrait être plus importante que le filigrane lui-même. Si elle est publiée comme décrit, elle offrirait aux développeurs, éditeurs, enseignants et administrateurs d’entreprise un moyen d’intégrer la vérification dans leurs propres systèmes plutôt que de s’appuyer uniquement sur des outils généraux de détection de l’IA.

Édition, relecture et réécritures complètes

Anthropic reconnaît que le filigrane n’est pas permanent dans toutes les versions possibles d’un texte. L’entreprise affirme qu’une légère modification ne l’éliminera probablement pas complètement, tandis qu’une réécriture intégrale remplaçant chaque mot le fera. Cette distinction rend le système plus utile pour identifier des sorties de Claude largement conservées que pour prouver qu’un document final a un quelconque lien avec un modèle.

Le résultat peut aussi dépendre de la manière dont Claude est utilisé comme éditeur. Si le modèle ne fait que relire un passage rédigé par un humain, Anthropic indique qu’il pourrait y avoir peu de texte auquel un filigrane puisse s’accrocher, car la plupart des mots proviennent de l’auteur original. La détection dépendra de la longueur du passage et de l’ampleur des modifications apportées par Claude.

Cette limite est importante pour les équipes produit qui construisent des flux de conformité ou de provenance. Un résultat positif de filigrane pourrait indiquer que Claude a généré ou substantiellement modifié le contenu, mais il ne permettra peut-être pas d’établir qui a écrit les idées sous-jacentes, quelle part du texte provient d’une personne, ni si la version finale a ensuite été réécrite ailleurs.

Ce que le système signifie pour le code

Anthropic s’attend à ce que le filigrane soit plus faible dans le code que dans la prose ordinaire. Un logiciel fonctionnel laisse généralement moins de liberté à un modèle pour choisir entre des mots ou des structures interchangeables, ce qui réduit le nombre de décisions arbitraires disponibles pour un schéma de filigranage.

L’entreprise affirme qu’un signal détectable peut néanmoins apparaître lorsque le code contient des choix linguistiques flexibles, en particulier dans les commentaires. Elle caractérise l’effet sur le code exécutable comme négligeable par définition, ce qui suggère que le filigrane est destiné principalement à servir de mécanisme de provenance plutôt que de contrainte sur la génération de code.

Pour les organisations techniques, cette distinction pourrait rendre le filigranage plus pertinent pour la documentation, les commentaires, les messages de commit et les explications générées que pour le comportement fonctionnel d’un programme. Cela signifie aussi qu’un résultat de détection peut être moins fiable pour de courts extraits ou du code très contraint que pour des réponses plus longues en langage naturel.

Les éléments qui soutiennent les affirmations d’Anthropic

Les détails actuels proviennent de l’explication donnée par Anthropic sur son implémentation prévue. Les déclarations de l’entreprise sur une qualité de sortie inchangée, la résistance aux modifications légères et l’impact limité sur le code sont des affirmations du fournisseur ; le matériel source ne fournit ni résultats de tests indépendants, ni chiffres de précision de détection, ni taux de faux positifs, ni date de lancement de l’API de détection des filigranes.

La base technique n’est pas entièrement propre à Anthropic. Anthropic cite SynthID-Text, l’approche de filigranage de Google DeepMind, comme méthode qu’elle entend utiliser. L’entreprise dit aussi que d’autres grands développeurs de modèles ont signé le même Code de pratique et prévoient de mettre en œuvre leurs propres filigranes, bien que la source ne nomme pas ces développeurs et ne précise pas si leurs systèmes seront interopérables.

Cela diffère des produits de détection d’IA qui examinent des signaux stylistiques ou des schémas d’écriture récurrents. Anthropic distingue explicitement la vérification par filigrane de services comme Pangram, qui tentent de déduire l’usage de l’IA à partir des caractéristiques du texte. Une vérification par filigrane cherche un signal créé par le modèle ; un détecteur fondé sur le style formule un jugement probabiliste à partir de l’écriture elle-même.

L’opposition des utilisateurs a ajouté une dimension de marché et de politique au déploiement. TechCrunch a rapporté que des utilisateurs sur Reddit ont critiqué la décision, tandis que Business Insider a rapporté que des dizaines de personnes sur X ont affirmé avoir résilié leurs abonnements à Claude. Ces réactions sont des déclarations d’utilisateurs rapportées, et non la preuve d’un changement mesuré dans la base de clients d’Anthropic.

Implications pour les développeurs et les acheteurs d’entreprise

Pour les créateurs d’IA, l’annonce indique que la provenance deviendrait une fonctionnalité au niveau de l’API plutôt qu’une couche distincte de modération ou de détection. Les applications qui génèrent des rapports, des textes marketing, des réponses de support ou de la documentation interne pourraient éventuellement être capables d’ajouter une vérification lisible par machine au contenu qu’elles produisent.

Les acheteurs d’entreprise devront déterminer ce qu’un filigrane peut légitimement prouver. Il peut aider à identifier un contenu qui reste proche de la sortie de Claude, mais il ne résoudra pas les cas de coauthorship, les documents lourdement modifiés ou les contenus copiés via plusieurs outils. Les organisations qui utilisent des filigranes dans des décisions d’emploi, d’éducation ou de conformité devront prévoir des politiques pour les résultats incertains et les éventuels faux négatifs.

L’approche crée aussi un compromis de déploiement. Le filigranage peut soutenir les exigences de transparence sans afficher une étiquette visible dans chaque réponse, mais la vérification dépend de l’accès au bon système de détection. Tant qu’Anthropic n’aura pas publié l’API et que des évaluations indépendantes n’auront pas été réalisées, les développeurs ne pourront pas évaluer la latence, le coût, la fiabilité ou la compatibilité avec les systèmes de gestion de contenu tiers.

Ce qu’il faut surveiller ensuite

Le premier signal sera la publication par Anthropic de l’API de détection des filigranes, y compris sa documentation, ses contrôles d’accès, sa tarification et les types de contenu pris en charge. Des tests indépendants devront ensuite examiner les taux de détection sur des réponses courtes et longues, la paraphrase, la traduction, la relecture et la réécriture adversariale.

Les développeurs devraient aussi surveiller si Anthropic publie des recommandations de politique pour les textes mêlant humain et IA, et la manière dont l’entreprise gère le code, les commentaires et la documentation. Une autre question ouverte est de savoir si les filigranes de différents fournisseurs de modèles peuvent être reconnus de manière cohérente ou s’ils restent liés à l’implémentation propre à chaque entreprise.

Enfin, le Code de transparence de l’UE et son application pratique détermineront si le filigranage devient une exigence de base pour les grands fournisseurs de modèles ou un élément d’un système de divulgation plus large.

Point de vue de Creati.ai

La précision apportée par Anthropic fait apparaître le filigranage de Claude moins comme une étiquette visible et plus comme un signal caché de provenance. Cela pourrait être utile pour une vérification à grande échelle, mais seulement si les outils de détection sont précis, accessibles et interprétés comme une preuve d’implication du modèle, et non comme une preuve définitive de paternité.

Le test le plus décisif viendra une fois l’API disponible. Tant que des résultats indépendants n’auront pas montré comment le filigrane se comporte lors d’une édition ordinaire et dans de vrais flux de production, les entreprises devraient le traiter comme un signal en évolution pour la gouvernance — pas comme un verdict autonome de conformité.