Anthropic hat weitere Details zu seinem Plan bereitgestellt, von Claude erzeugten Text mit einem Wasserzeichen zu versehen. Beschrieben wird ein System, das KI-geschriebenes Material identifizieren soll, ohne die Antwort für Leser sichtbar zu verändern. Das Unternehmen sagt, das Wasserzeichen werde mit dem richtigen kryptografischen Schlüssel erkennbar sein, und plant, eine separate API zur Wasserzeichenerkennung anzubieten.

Die Klarstellung folgt auf die Ankündigung von Anthropic Anfang dieser Woche, dass Claude Wasserzeichen einführen werde, um dem Transparenzkodex des EU AI Act zu entsprechen. Der Schritt hat unter Nutzern Debatten ausgelöst, die befürchten, Arbeitgeber, Schulen oder andere Institutionen könnten die Technologie nutzen, um nicht offengelegte Claude-Nutzung zu erkennen.

Wie Claudes Wasserzeichen funktionieren sollen

In einem am Freitag veröffentlichten Blogbeitrag sagte Anthropic, dass Claude den von Google DeepMind entwickelten und 2024 beschriebenen SynthID-Text-Ansatz verwenden werde. Die Methode basiert auf Entscheidungen, die ein Sprachmodell trifft, wenn mehrere Wörter oder Formulierungen gleich gut passen würden. Ein Modell kann zum Beispiel mehrere vernünftige Möglichkeiten haben, das Wetter zu beschreiben. Über eine Antwort hinweg können diese Entscheidungen ein statistisches Muster bilden, das für normale Leser nicht erkennbar ist, aber von jemandem mit dem entsprechenden Erkennungsschlüssel überprüft werden kann.

Anthropic sagte, das Wasserzeichen solle die Qualität von Claudes Ausgaben nicht beeinträchtigen. Das Unternehmen beschreibt eine wasserzeichenbehaftete Antwort für Leser als nicht von einer Antwort ohne Wasserzeichen zu unterscheiden, was bedeutet, dass Nutzer das System bei gewöhnlichen Schreib- oder Programmierabläufen wahrscheinlich nicht bemerken werden.

Die geplante Erkennungs-API könnte wichtiger sein als das Wasserzeichen selbst. Wenn sie wie beschrieben veröffentlicht wird, würde sie Entwicklern, Verlagen, Pädagogen und Unternehmensadministratoren eine Möglichkeit geben, Verifikation in ihre eigenen Systeme einzubauen, statt sich ausschließlich auf allgemeine KI-Erkennungstools zu verlassen.

Bearbeitung, Korrekturlesen und vollständige Umschreibungen

Anthropic räumt ein, dass das Wasserzeichen nicht in jeder möglichen Version eines Textes dauerhaft erhalten bleibt. Das Unternehmen sagt, leichte Bearbeitungen würden es wahrscheinlich nicht vollständig entfernen, während eine vollständige Umschreibung, die jedes Wort ersetzt, es wohl beseitigen würde. Diese Unterscheidung macht das System nützlicher, um im Wesentlichen erhaltene Claude-Ausgaben zu identifizieren, als um zu beweisen, dass ein Enddokument irgendeinen Bezug zu einem Modell hat.

Das Ergebnis kann auch davon abhängen, wie Claude als Editor eingesetzt wird. Wenn das Modell nur einen von Menschen verfassten Abschnitt Korrektur liest, sagt Anthropic, könnte es wenig Text geben, an dem ein Wasserzeichen ansetzen kann, weil die meisten Wörter vom ursprünglichen Autor stammen. Die Erkennung hängt von der Länge des Abschnitts und davon ab, wie stark Claude ihn verändert.

Diese Einschränkung ist wichtig für Produktteams, die Compliance- oder Herkunfts-Workflows aufbauen. Ein positives Wasserzeichenergebnis könnte darauf hindeuten, dass Claude Material erzeugt oder erheblich verändert hat, aber es kann nicht unbedingt klären, wer die zugrunde liegenden Ideen geschrieben hat, wie viel des Textes von einer Person stammt oder ob die Endfassung später an anderer Stelle neu formuliert wurde.

Was das System für Code bedeutet

Anthropic erwartet, dass das Wasserzeichen in Code schwächer ausfällt als in gewöhnlicher Prosa. Funktionierende Software lässt ein Modell im Allgemeinen weniger Freiheit bei der Wahl zwischen austauschbaren Wörtern oder Strukturen, wodurch die Zahl willkürlicher Entscheidungen für ein Wasserzeichenmuster sinkt.

Das Unternehmen sagt, bei Code mit flexiblen sprachlichen Entscheidungen, insbesondere Kommentaren, könne dennoch ein erkennbares Signal erscheinen. Den Effekt auf ausführbaren Code charakterisiert das Unternehmen definitionsgemäß als vernachlässigbar, was nahelegt, dass das Wasserzeichen in erster Linie als Herkunftsmechanismus und nicht als Einschränkung für die Code-Generierung gedacht ist.

Für Engineering-Organisationen könnte diese Unterscheidung Wasserzeichen für Dokumentation, Kommentare, Commit-Nachrichten und generierte Erklärungen relevanter machen als für das funktionale Verhalten eines Programms. Sie bedeutet auch, dass ein Erkennungsergebnis bei kurzen Ausschnitten oder stark eingeschränktem Code weniger zuverlässig sein kann als bei längeren Antworten in natürlicher Sprache.

Belege für die Aussagen von Anthropic

Die aktuellen Details stammen aus der eigenen Erklärung von Anthropic zur geplanten Implementierung. Die Aussagen des Unternehmens über unveränderte Ausgabequalität, Widerstand gegen leichte Bearbeitungen und begrenzte Auswirkungen auf Code sind Herstellerangaben; das Ausgangsmaterial liefert keine unabhängigen Testresultate, keine Angaben zur Erkennungsgenauigkeit, keine False-Positive-Raten und keinen Veröffentlichungstermin für die API zur Wasserzeichenerkennung.

Die technische Grundlage ist nicht völlig einzigartig für Anthropic. Anthropic nennt SynthID-Text, den Wasserzeichenansatz von Google DeepMind, als die Methode, die es verwenden will. Das Unternehmen sagt außerdem, dass andere große Modellentwickler denselben Verhaltenskodex unterzeichnet hätten und planen, ihre eigenen Wasserzeichen zu implementieren, obwohl die Quelle diese Entwickler nicht nennt oder beschreibt, ob ihre Systeme interoperabel sein werden.

Das unterscheidet sich von KI-Erkennungsprodukten, die stilistische Signale oder wiederkehrende Schreibmuster untersuchen. Anthropic grenzt die Verifikation per Wasserzeichen ausdrücklich von Diensten wie Pangram ab, die versuchen, KI-Nutzung aus Texteigenschaften abzuleiten. Eine Wasserzeichenprüfung sucht nach einem vom Modell erzeugten Signal; ein stilbasierter Detektor trifft eine probabilistische Einschätzung auf Grundlage des Textes selbst.

Der Widerstand von Nutzern hat der Einführung eine Markt- und politische Dimension verliehen. TechCrunch berichtete, dass Nutzer auf Reddit den Schritt kritisierten, während Business Insider berichtete, dass Dutzende Menschen auf X behaupteten, Claude-Abonnements gekündigt zu haben. Diese Reaktionen sind berichtete Nutzeräußerungen, kein Beleg für eine gemessene Veränderung der Kundenbasis von Anthropic.

Auswirkungen für Entwickler und Unternehmenskäufer

Für KI-Entwickler deutet die Ankündigung darauf hin, dass Herkunftsprüfung zu einer Funktion auf API-Ebene wird und nicht zu einer separaten Moderations- oder Erkennungsschicht. Anwendungen, die Berichte, Marketingtexte, Support-Antworten oder interne Dokumentation erzeugen, könnten künftig in der Lage sein, den von ihnen produzierten Inhalten einen maschinenlesbaren Prüfvermerk beizufügen.

Unternehmenskäufer müssen entscheiden, was ein Wasserzeichen legitimerweise beweisen kann. Es kann helfen, Inhalte zu identifizieren, die nahe an Claudes Ausgabe bleiben, aber es löst keine Fälle gemischter Urheberschaft, stark bearbeiteter Dokumente oder Material, das über mehrere Werkzeuge kopiert wurde. Organisationen, die Wasserzeichen bei Beschäftigungs-, Bildungs- oder Compliance-Entscheidungen einsetzen, brauchen Richtlinien für unklare Ergebnisse und mögliche False Negatives.

Der Ansatz schafft auch einen Kompromiss bei der Bereitstellung. Wasserzeichen können Transparenzanforderungen unterstützen, ohne in jeder Antwort ein sichtbares Label offenzulegen, aber die Verifikation hängt vom Zugriff auf das richtige Erkennungssystem ab. Bis Anthropic die API veröffentlicht und unabhängige Bewertungen vorliegen, können Entwickler weder Latenz, Kosten, Zuverlässigkeit noch die Kompatibilität mit Content-Management-Systemen von Drittanbietern einschätzen.

Worauf man als Nächstes achten sollte

Das erste Signal wird die Veröffentlichung der API zur Wasserzeichenerkennung durch Anthropic sein, einschließlich Dokumentation, Zugriffskontrollen, Preisgestaltung und unterstützter Inhaltstypen. Anschließende unabhängige Tests sollten Erkennungsraten bei kurzen und langen Antworten, Paraphrasierung, Übersetzung, Korrekturlesen und adversarialem Umschreiben untersuchen.

Entwickler sollten auch darauf achten, ob Anthropic Leitlinien für gemischte menschliche und KI-Texte veröffentlicht und wie das Unternehmen mit Code, Kommentaren und Dokumentation umgeht. Eine weitere offene Frage ist, ob Wasserzeichen verschiedener Modellanbieter konsistent erkannt werden können oder an die jeweilige Implementierung jedes Unternehmens gebunden bleiben.

Schließlich werden der EU-Transparenzkodex und seine praktische Durchsetzung bestimmen, ob Wasserzeichen zu einer grundlegenden Anforderung für große Modellanbieter werden oder nur ein Bestandteil eines breiteren Offenlegungssystems sind.

Creati.ai-Perspektive

Anthropics Klarstellung lässt Claudes Wasserzeichen weniger wie ein sichtbares Label und mehr wie ein verborgenes Herkunftssignal erscheinen. Das könnte für die Verifikation im großen Maßstab nützlich sein, aber nur, wenn die Erkennungstools genau, zugänglich und als Hinweis auf eine Modellbeteiligung und nicht als endgültiger Urhebernachweis interpretiert werden.

Der wichtigste Test wird kommen, sobald die API verfügbar ist. Bis unabhängige Ergebnisse zeigen, wie sich das Wasserzeichen bei normaler Bearbeitung und in realen Produktionsabläufen verhält, sollten Unternehmen es als sich entwickelndes Governance-Signal behandeln – nicht als eigenständiges Compliance-Urteil.