OpenAI adota marca d'água em textos para cumprir exigências da União Europeia

A desenvolvedora de inteligência artificial OpenAI anunciou a implementação de uma marca d'água invisível, denominada textGrain, para identificar conteúdos textuais produzidos por sistemas de IA na União Europeia. O recurso, que já existia desde 2024, passa a ser aplicado em larga escala pela primeira vez para cumprir as determinações do AI Act, legislação do bloco que obriga que materiais gerados artificialmente sejam legíveis por máquinas.

A Anthropic, concorrente do setor, informou que também adotará a mesma estratégia em textos gerados por sua ferramenta Claude. No entanto, a OpenAI esclareceu que, neste primeiro momento, a marcação não deve se tornar um padrão global em todas as regiões.

Do ponto de vista técnico, a marca d'água não aparece visualmente nas páginas. Ela é inserida de maneira sutil por meio da seleção de palavras do modelo, formando um padrão estatístico que pode ser decodificado por mecanismos de detecção posteriores.

Apesar de o desempenho do textGrain ter sido considerado satisfatório em avaliações controladas, a empresa ressalta que a confiabilidade pode variar no cotidiano. O tamanho do documento é um fator determinante para a eficácia do sistema de identificação.

Testes realizados com blocos de duzentos tokens apontaram que o detector reconheceu a marca em cerca de 80% das ocorrências, com uma margem de 1% de falsos positivos. O índice subiu para aproximadamente 95% em conteúdos maiores, com quatrocentos tokens.

Em contrapartida, textos de cunho matemático apresentaram taxas consideravelmente menores de identificação. De acordo com a empresa responsável, isso ocorre devido à restrição na variedade de vocabulário aplicável a esse tipo de assunto, além do fato de que modificações manuais também podem enfraquecer o sinal estatístico inserido.