A ferramenta de detecção de imagens geradas por IA lançada pela Meta nesta semana falhou em identificar suas próprias criações quando submetidas a um recorte simples, segundo análise realizada pela Reuters.O teste usou 40 imagens geradas pelo Muse Image, novo modelo de geração de imagens da empresa. A ferramenta identificou corretamente todas as 40 originais. Mas, quando as mesmas imagens foram recortadas para aproximadamente um terço a metade do tamanho original, o detector falhou em 55% dos casos.Como o sistema funciona – e por que falhaA Meta afirma que o sistema de detecção usa uma marca d’água invisível chamada Content Seal, embutida em cada imagem gerada pelo Muse Image. A tecnologia foi projetada para permitir que usuários verifiquem se uma imagem foi criada pelos modelos de IA da empresa – mesmo após edições comuns.Questionada sobre os resultados da análise da Reuters, a Meta lembrou que a ferramenta ainda está em fase de prévia. A empresa afirmou que a marca d’água é projetada para resistir a edições comuns, mas que o sinal pode ser perdido em recortes severos.O que dizem os especialistasSiwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo e pesquisador de forense de imagens de IA, disse à Reuters que sistemas baseados em marca d’água têm limitações conhecidas.“Métodos baseados em marca d’água podem ser altamente eficazes quando a marca permanece intacta, mas qualquer modificação que remova ou enfraqueça o sinal embutido – como recorte, redimensionamento, compressão pesada ou edição – pode reduzir sua eficácia, dependendo de como a marca d’água foi projetada”, disse Lyu.Sarah Barrington, pesquisadora de IA e doutoranda na Escola de Informação da UC Berkeley, reconheceu as limitações, mas ponderou: “Como muitas medidas preventivas de cibersegurança ou segurança física, pode não ser totalmente à prova de falhas, mas mesmo que detectemos apenas 90% dos casos, ainda é um grande salto em relação a 0%.”Contexto e pressão regulatóriaA descoberta ocorre em momento delicado: o ano inclui as eleições de meio de mandato nos EUA, quando a circulação de deepfakes e imagens manipuladas tende a aumentar.Em março, o Conselho de Supervisão da Meta – órgão independente que toma decisões vinculantes sobre moderação de conteúdo – pediu à empresa que fizesse mais para combater a “proliferação de conteúdo de IA enganoso” em suas plataformas e investisse em ferramentas de detecção mais robustas.A Meta não está sozinha no desafio. Google e OpenAI também alertaram publicamente que suas próprias ferramentas de detecção não são infalíveis contra técnicas de alteração de imagens.O post Detector de IA da Meta falha ao identificar suas próprias imagens após recorte, diz agência apareceu primeiro em Olhar Digital.