A Anthropic forneceu mais detalhes sobre seu plano de inserir marca d’água no texto gerado pelo Claude, descrevendo um sistema projetado para identificar material escrito por IA sem alterar visivelmente a resposta para os leitores. A empresa diz que a marca d’água poderá ser detectada com a chave criptográfica correta e planeja oferecer uma API separada para detecção de marca d’água.

A clarificação vem depois de a Anthropic ter dito no início desta semana que o Claude adotaria marca d’água para cumprir o Código de Transparência da Lei de IA da União Europeia. A medida gerou debate entre usuários preocupados de que empregadores, escolas ou outras instituições pudessem usar a tecnologia para identificar o uso não divulgado do Claude.

Como a marca d’água do Claude foi projetada para funcionar

Em uma postagem de blog publicada na sexta-feira, Anthropic disse que o Claude usará a abordagem SynthID-Text desenvolvida pelo Google DeepMind e descrita em 2024. O método depende das escolhas que um modelo de linguagem faz quando várias palavras ou frases funcionariam igualmente bem. Por exemplo, um modelo pode ter várias maneiras razoáveis de descrever o clima. Ao longo de uma resposta, essas escolhas podem formar um padrão estatístico que não é perceptível para um leitor comum, mas que pode ser verificado por alguém com a chave de detecção apropriada.

A Anthropic disse que a marca d’água não deve afetar a qualidade da saída do Claude. A empresa descreve uma resposta com marca d’água como indistinguível, para o leitor, de uma sem marca d’água, o que significa que os usuários provavelmente não notarão o sistema durante fluxos de trabalho comuns de escrita ou programação.

A API de detecção planejada pode ser mais importante do que a própria marca d’água. Se for lançada conforme descrito, ela daria a desenvolvedores, editores, educadores e administradores corporativos uma forma de incorporar verificação em seus próprios sistemas, em vez de depender apenas de ferramentas gerais de detecção de IA.

Edição, revisão e reescritas completas

A Anthropic reconhece que a marca d’água não é permanente em todas as versões possíveis de um texto. A empresa diz que edições leves provavelmente não a removem completamente, enquanto uma reescrita total que substitua cada palavra removerá. Essa distinção torna o sistema mais útil para identificar saídas do Claude que permaneceram substancialmente intactas do que para provar que um documento final tem qualquer conexão com um modelo.

O resultado também pode depender de como o Claude é usado como editor. Se o modelo apenas revisar um trecho escrito por um humano, a Anthropic diz que pode haver pouco texto ao qual uma marca d’água possa se fixar, porque a maioria das palavras veio do autor original. A detecção dependerá do tamanho do trecho e de quanto o Claude o altera.

Essa limitação é importante para equipes de produto que constroem fluxos de conformidade ou procedência. Um resultado positivo de marca d’água pode indicar que o Claude gerou ou alterou substancialmente o material, mas pode não estabelecer quem escreveu as ideias subjacentes, quanto do texto veio de uma pessoa ou se a versão final foi reescrita depois em outro lugar.

O que o sistema significa para código

A Anthropic espera que a marca d’água seja mais fraca em código do que em prosa comum. Software funcional geralmente dá ao modelo menos liberdade para escolher entre palavras ou estruturas intercambiáveis, reduzindo o número de decisões arbitrárias disponíveis para um padrão de marca d’água.

A empresa diz que ainda pode surgir algum sinal detectável em casos em que o código inclua escolhas de linguagem flexíveis, especialmente comentários. Ela caracteriza o efeito sobre o código executável como negligenciável por definição, sugerindo que a marca d’água é destinada principalmente como um mecanismo de procedência, e não como uma restrição à geração de código.

Para organizações de engenharia, essa distinção pode tornar a marca d’água mais relevante para documentação, comentários, mensagens de commit e explicações geradas do que para o comportamento funcional de um programa. Também significa que um resultado de detecção pode ser menos confiável para trechos curtos ou código altamente restrito do que para respostas mais longas em linguagem natural.

O que está por trás das alegações da Anthropic

Os detalhes atuais vêm da própria explicação da Anthropic sobre sua implementação planejada. As declarações da empresa sobre qualidade de saída inalterada, resistência a edições leves e impacto limitado em código são alegações do fornecedor; o material original não fornece resultados de testes independentes, números de precisão de detecção, taxas de falso positivo nem uma data de lançamento para a API de detecção de marca d’água.

A base técnica não é totalmente exclusiva da Anthropic. A Anthropic identifica o SynthID-Text, abordagem de marca d’água do Google DeepMind, como o método que pretende usar. A empresa também diz que outros grandes desenvolvedores de modelos assinaram o mesmo Código de Prática e planejam implementar suas próprias marcas d’água, embora a fonte não nomeie esses desenvolvedores nem descreva se seus sistemas serão interoperáveis.

Isso é diferente de produtos de detecção de IA que examinam sinais estilísticos ou padrões de escrita recorrentes. A Anthropic distingue especificamente a verificação por marca d’água de serviços como o Pangram, que tentam inferir o uso de IA a partir de características no texto. Uma checagem de marca d’água procura um sinal criado pelo modelo; um detector baseado em estilo faz um julgamento probabilístico a partir da própria escrita.

A oposição dos usuários adicionou uma dimensão de mercado e política ao lançamento. A TechCrunch relatou que usuários no Reddit criticaram a medida, enquanto a Business Insider relatou que dezenas de pessoas no X afirmaram ter cancelado assinaturas do Claude. Essas reações são declarações de usuários reportadas, não evidência de uma mudança medida na base de clientes da Anthropic.

Implicações para construtores e compradores corporativos

Para construtores de IA, o anúncio aponta para a procedência se tornando um recurso no nível da API, em vez de uma camada separada de moderação ou detecção. Aplicativos que geram relatórios, textos de marketing, respostas de suporte ou documentação interna podem eventualmente conseguir anexar uma verificação legível por máquina ao conteúdo que produzem.

Compradores corporativos precisarão decidir o que uma marca d’água pode legitimamente provar. Ela pode ajudar a identificar conteúdo que permanece próximo da saída do Claude, mas não resolverá casos de autoria mista, documentos fortemente editados ou material copiado por meio de múltiplas ferramentas. Organizações que usam marcas d’água em decisões de emprego, educação ou conformidade precisarão de políticas para resultados incertos e possíveis falsos negativos.

A abordagem também cria uma troca na implementação. A marca d’água pode apoiar requisitos de transparência sem exibir um rótulo visível em cada resposta, mas a verificação depende de acesso ao sistema de detecção correto. Até que a Anthropic publique a API e avaliações independentes sejam feitas, os desenvolvedores não poderão avaliar sua latência, custo, confiabilidade ou compatibilidade com sistemas de gerenciamento de conteúdo de terceiros.

O que observar a seguir

O primeiro sinal será o lançamento da API de detecção de marca d’água pela Anthropic, incluindo sua documentação, controles de acesso, preços e tipos de conteúdo suportados. Testes independentes deverão então examinar taxas de detecção em respostas curtas e longas, paráfrase, tradução, revisão e reescrita adversarial.

Os desenvolvedores também devem observar se a Anthropic publica orientações de política para textos mistos de humanos e IA e como lida com código, comentários e documentação. Outra questão em aberto é se marcas d’água de diferentes fornecedores de modelos podem ser reconhecidas de forma consistente ou se permanecerão vinculadas à implementação de cada empresa.

Por fim, o Código de Transparência da UE e sua aplicação prática determinarão se a marca d’água se tornará um requisito básico para grandes fornecedores de modelos ou um componente de um sistema mais amplo de divulgação.

Perspectiva da Creati.ai

A clarificação da Anthropic faz a marca d’água do Claude soar menos como um rótulo visível e mais como um sinal oculto de procedência. Isso pode ser útil para verificação em grande escala, mas apenas se as ferramentas de detecção forem precisas, acessíveis e interpretadas como evidência de envolvimento do modelo — não como prova definitiva de autoria.

O teste mais decisivo virá depois que a API estiver disponível. Até que resultados independentes mostrem como a marca d’água se comporta em edições comuns e em fluxos de produção reais, as empresas devem tratá-la como um sinal em evolução para governança — não como um veredito independente de conformidade.