A OpenAI começará a adicionar uma marca d’água invisível a textos gerados pelo ChatGPT e pelo Codex na União Europeia. A medida foi anunciada nesta segunda-feira (5) e será implementada nas próximas semanas para usuários elegíveis, como parte da adequação às regras de transparência do EU AI Act, que exigem que conteúdos produzidos por inteligência artificial possam ser identificados por outros sistemas.A tecnologia será aplicada a usuários do ChatGPT e do Codex em todos os planos na União Europeia. Para desenvolvedores que utilizam a API da OpenAI, a marca d’água estará disponível globalmente para determinados modelos a partir desta segunda-feira, mas ficará desativada por padrão. A empresa afirmou que não pretende transformar o recurso em um padrão global neste primeiro momento.Como funciona a marca d’água?A marca d’água não aparece como um símbolo ou elemento visível no conteúdo. Segundo a OpenAI, o sistema altera de forma sutil as escolhas de palavras feitas pelo modelo, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção.A tecnologia, chamada textGrain, fica incorporada ao próprio texto. Por isso, o sinal acompanha o conteúdo quando ele é copiado e colado. A OpenAI afirma que a marca d’água não identifica o usuário e que seus testes não apontaram mudanças significativas no desempenho dos modelos quando o recurso está ativado.A empresa também divulgou um relatório técnico sobre o funcionamento do sistema. O método utiliza uma chave secreta para organizar as previsões de próximas palavras do modelo. A aplicação repetida dessas alterações permite que um detector procure o padrão no texto e avalie se ele contém uma marca d’água da OpenAI.Edição pode dificultar a detecçãoApesar do funcionamento do sistema, a própria OpenAI reconhece que a tecnologia possui limitações. Em um dos testes, a substituição de 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%.A empresa também afirma que textos curtos, respostas de matemática e conteúdos traduzidos são mais difíceis de identificar. Segundo os testes apresentados, a detecção também melhora conforme aumenta a quantidade de texto analisado.taxa de detecção da marca d’água cai conforme palavras do texto são substituídas, mesmo com diferentes quantidades de tokens – Imagem: Divulgação / OpenAIOutro ponto destacado pela OpenAI é que a ausência de uma marca d’água não comprova que um texto foi escrito por uma pessoa. O conteúdo pode ser curto demais, ter passado por muitas alterações ou ter sido produzido por uma ferramenta de inteligência artificial de outra empresa.A companhia também ressalta que o sinal não permite determinar quanto de participação humana houve na produção do texto. A detecção pode indicar que um sistema da OpenAI gerou ou processou parte de um conteúdo, mas não revela quanto de julgamento, edição ou criatividade humana foi empregado.Detector não será aberto ao público inicialmenteA OpenAI decidiu limitar o acesso inicial ao detector de marcas d’água a pesquisadores aprovados e organizações especializadas. O objetivo, segundo a empresa, é avaliar a confiabilidade da tecnologia e seus usos responsáveis.A ferramenta informará se identificou uma marca d’água da OpenAI, mas não revelará o usuário, os prompts utilizados ou as conversas relacionadas ao conteúdo. A decisão de restringir o acesso considera a possibilidade de falsos positivos e falsos negativos.A OpenAI afirma que pretende revisar sua abordagem conforme a tecnologia, os padrões e as evidências sobre o funcionamento das marcas d’água evoluírem. A empresa também planeja disponibilizar a tecnologia em código aberto para que outras organizações possam desenvolver soluções baseadas nela.Marca d’água não comprova autoria ou responsabilidadeA empresa reforça que a marca d’água tem uma função limitada. Ela não determina quem é o proprietário do texto, se o uso do conteúdo é legal ou quem deve ser responsabilizado por ele.O sistema também não verifica se uma informação é verdadeira, enganosa, prejudicial ou apresentada no contexto correto. Para a OpenAI, essas limitações precisam ser consideradas na interpretação dos resultados de detecção.O post OpenAI vai colocar marca d’água invisível em textos do ChatGPT apareceu primeiro em Olhar Digital.