Nesta sexta-feira (17), o gabinete do procurador municipal de São Francisco enviou notificações à Apple e ao Google para que removam de suas lojas 13 aplicativos de troca facial associados à criação de imagens de nudez geradas artificialmente sem autorização das pessoas retratadas.A medida mira ferramentas que permitem alterar fotos de pessoas com inteligência artificial para produzir conteúdos sexualizados. Segundo a prefeitura, as plataformas digitais lucram com esses serviços por meio de pagamentos realizados dentro dos aplicativos.A iniciativa ocorre após investigações apontarem que aplicativos apresentados como ferramentas de edição de imagem podem ser usados para produzir deepfakes de teor sexual, afetando principalmente mulheres e meninas.Empresas são cobradas por falhas de controle sobre aplicativosPlay Store é a loja de aplicativos do sistema operacional Android – Imagem: winnond/ShutterstockAs cartas enviadas às duas empresas foram assinadas pelo procurador municipal de São Francisco, David Chiu, que afirmou que a criação de imagens íntimas sem consentimento representa uma prática ilegal e prejudicial. De acordo com ele, Apple e Google precisam impedir que seus ambientes digitais sejam utilizados para facilitar abusos.O representante da cidade argumentou que as companhias devem interromper relações comerciais com desenvolvedores responsáveis por aplicativos desse tipo. A cobrança também envolve os sistemas de pagamento das lojas virtuais, pelos quais as empresas recebem parte das receitas geradas pelos aplicativos.Apple e Google afirmaram que possuem regras contra pornografia, assédio e conteúdos abusivos em suas plataformas. A Apple informou que já removeu três dos aplicativos indicados pela prefeitura e iniciou procedimentos para encerrar as contas dos desenvolvedores envolvidos. A empresa acrescentou que outros criadores poderão ser excluídos caso não corrijam violações identificadas.O Google declarou que retirou centenas de aplicativos com recursos de “nudificação” por descumprirem suas políticas. A companhia informou ainda que suspendeu ferramentas semelhantes e restringiu termos de busca relacionados a esse tipo de serviço dentro da loja de aplicativos.Pesquisas citadas na investigação municipal apontaram que o problema não está restrito a aplicativos explicitamente divulgados como ferramentas para nudez artificial. Estudos encontraram programas de troca de rostos que, embora apresentados como recursos de edição comuns, permitiam a criação de imagens sexualizadas sem mecanismos eficazes de proteção.Imagem: PixieMe/ShutterstockUm levantamento mencionado no texto identificou centenas de aplicativos de troca facial disponíveis nas lojas da Apple e do Google. Entre os programas analisados, uma parcela significativa permitia a criação de montagens com imagens nuas, mesmo sem serem anunciados oficialmente para essa finalidade.A expansão dessas ferramentas ocorreu junto ao avanço dos sistemas de inteligência artificial generativa, que reduziram a dificuldade técnica para produzir imagens falsas realistas. De acordo com especialistas citados na reportagem, bastam uma fotografia de referência e poucos comandos para gerar esse tipo de conteúdo.A prefeitura de São Francisco afirmou que continuará avaliando medidas legais contra empresas que permitirem a circulação dessas ferramentas. O objetivo declarado pelo órgão é pressionar as plataformas a reforçarem seus mecanismos de análise antes da publicação de novos aplicativos.O post Apple e Google são pressionadas a remover apps de IA que geram nudez falsa apareceu primeiro em Olhar Digital.