Lojas estariam permitindo apps que violam imagens para gerar conteúdo sexual (ilustração: Vitor Pádua/Tecnoblog) Resumo A procuradoria de São Francisco, nos EUA, enviou notificações judiciais para a Apple e o Google.O órgão acusa as empresas de distribuir apps de IA usados para criar imagens falsas de nudez e pede a remoção imediata de 13 deles.A legislação da Califórnia proíbe a criação e venda de pornografia sintética não consensual.Apple e Google estariam cooperando com a distribuição e a venda de apps de inteligência artificial usados para criar imagens falsas de nudez, segundo uma notificação judicial enviada às empresas pelo procurador-geral da cidade de São Francisco, nos Estados Unidos.O documento, analisado pelo portal Wired, pede a remoção imediata de 13 apps desse tipo da App Store e da Google Play. Segundo as cartas, eles usam IA para alterar imagens e simular nudez a partir de fotos de pessoas reais, apontados como facilitadores de abusos sexuais, assédios e exploração indevida de imagem.Para a procuradoria, isso pode violar leis da Califórnia contra pornografia sintética não consensual — e as empresas estariam lucrando com ela ao receberem comissões sobre pagamentos feitos dentro dos aplicativos. Ao portal, o procurador-geral David Chiu afirma que “gerar imagens não consensuais é ilegal, prejudicial e totalmente inaceitável”, e diz que as empresas têm responsabilidade de “garantir que os aplicativos em suas plataformas não facilitem o abuso sexual”. A procuradoria também aponta que alguns desses aplicativos receberam classificações indicativas baixas nas lojas digitais, chegando a aparecer como adequados para crianças.Carta pede ação das empresasAplicativos usam inteligência artificial para gerar imagens sexuais (ilustração: Vitor Pádua/Tecnoblog)As cartas exigem que as duas empresas removam os aplicativos identificados e encerrem relações comerciais com os desenvolvedores responsáveis. Segundo as autoridades, a legislação da Califórnia proíbe dar suporte técnico ou financeiro a serviços dedicados à criação e venda de pornografia sintética não consensual. A pressão ocorre em meio ao crescimento dessas ferramentas de IA capazes de fazer alterações em imagens com grande fidelidade. Em geral, eles são usados contra mulheres e adolescentes, a partir de fotos comuns publicadas em redes sociais, por exemplo. Em janeiro, o estado também abriu investigações contra a xAI, a startup de IA de Elon Musk responsável pelo Grok, após a identificação de posts em que o chatbot auxiliava na geração de conteúdo adulto com pessoas reais, incluindo menores de idade. Google diz ter removido appsGoogle diz ter removido conteúdo da Play Store (ilustração: Vítor Pádua/Tecnoblog)Ao portal, o Google afirmou que a loja do Android “não permite aplicativos que contenham conteúdo sexual” e que tomou medidas para detectá-los e removê-los. A empresa afirma ter banido “centenas” de apps com funções semelhantes, e que suspendeu contas de desenvolvedores e pagamentos associados a esse tipo de ferramenta. A Apple ainda não se pronunciou sobre as a manutenção dos apps na App Store.Apple e Google são acusadas de lucrar com apps que criam nudes falsos