Водяные знаки ИИ

Сообщается, что OpenAI добавит невидимые водяные знаки в текст ChatGPT в ЕС. Эта мера по обеспечению соответствия требованиям может изменить процессы раскрытия информации о контенте, созданном ИИ.

OpenAI объяснила свой подход к правилам ЕС о происхождении текстов, включая охват водяных знаков, методы обнаружения и первоначальный доступ исследователей к системе.

Anthropic подробно рассказывает о том, как водяные знаки Claude будут выявлять текст, написанный ИИ, какие правки могут их обойти и чего ждать разработчикам.

Anthropic наносит водяные знаки на текст Claude, чтобы соответствовать требованиям ЕС по прозрачности, что вызвало споры о выявлении ИИ, использовании на работе, академической честности и конфиденциальности.

Anthropic пометит водяными знаками вывод Claude и других моделей, распространив это и на более старые системы, поскольку правила прозрачности ЕС подталкивают разработчиков ИИ к отслеживаемому контенту.

Разработчик утверждает, что выполнил реверс-инжиниринг инструмента водяных знаков SynthID от Google DeepMind, продемонстрировав, что водяные знаки на изображениях, созданных ИИ, можно удалить.