Filigranage de l'IA

OpenAI ajouterait des filigranes invisibles aux textes de ChatGPT dans l’UE, une mesure de conformité susceptible de transformer les processus de signalement des contenus générés par l’IA.

OpenAI présente son approche des règles européennes sur la provenance des textes, notamment la couverture du filigranage, les méthodes de détection et l’accès initial au système réservé aux chercheurs.

Anthropic détaille comment les filigranes de Claude identifieront le texte rédigé par l’IA, quelles modifications peuvent les contourner et ce que les développeurs doivent attendre.

Anthropic appose un filigrane sur le texte de Claude pour répondre aux règles de transparence de l’UE, suscitant un débat sur la détection de l’IA, l’usage en entreprise, l’intégrité académique et la vie privée.

Anthropic filigranera les sorties de Claude et d’autres modèles, étendant cette démarche à des systèmes plus anciens alors que les règles de transparence de l’UE poussent les développeurs d’IA vers des contenus traçables.

Un développeur affirme avoir rétroconçu l'outil de filigrane SynthID de Google DeepMind, démontrant que les filigranes des images générées par IA peuvent être supprimés.