Autoridades de Nova York (EUA) anunciaram nesta segunda-feira (14) a derrubada de 12 sites que hospedavam e comercializavam pornografia deepfake produzida com inteligência artificial (IA). As plataformas exibiam imagens e vídeos falsos de pessoas famosas, incluindo atrizes, políticas, atletas, musicistas, influenciadoras digitais e outras figuras públicas.Segundo a Promotoria do Distrito de Manhattan, os sites reuniam material envolvendo cerca de 1,2 mil pessoas reais, em sua maioria mulheres. As imagens e vídeos mostravam versões geradas ou manipuladas por IA das vítimas participando de atos sexualmente explícitos sem seu consentimento.A investigação apontou que as plataformas anunciavam explicitamente serviços de “pornografia deepfake de famosas” e eram utilizadas para publicar e vender esse tipo de conteúdo, além de outros registros íntimos não consensuais.O promotor distrital de Manhattan, Alvin Bragg, afirmou acreditar que esta seja a maior operação já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA. “São fotos e vídeos que utilizam inteligência artificial para fazer parecer que pessoas reais participam de atos sexualmente explícitos”, explicou Bragg.Segundo o promotor, a legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento. A mesma regra se aplica quando o conteúdo é criado ou alterado com ferramentas de IA.Exemplo de página que foi removida – Imagem: ReproduçãoLeia mais:IA pode aumentar risco de corrida por armas biológicas, dizem especialistasTrump chama pedido de freio na IA de “conspiração doentia” para favorecer ChinaChina chama de “alarmismo” pressão dos EUA para frear a IAComo funcionavam os deepfakesOs sites utilizavam ferramentas de IA para modificar imagens e vídeos e substituir os rostos das pessoas que apareciam originalmente nas gravações pelos rostos das vítimas;Com isso, eram produzidos conteúdos hiper-realistas que davam a impressão de que pessoas reais estavam envolvidas em situações sexualmente explícitas, embora nunca tivessem participado delas;As vítimas incluíam atrizes, políticas, atletas, musicistas, defensoras de causas sociais e influenciadoras digitais, entre outras pessoas conhecidas pelo público;De acordo com a Promotoria de Manhattan, as empresas responsáveis pelos sites lucravam com a publicação e disseminação de imagens e vídeos sexuais não consensuais, independentemente de o material ter sido produzido com IA;Bragg afirmou ainda que essas violações de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e provocam um impacto significativo em seu bem-estar emocional e mental.Investigação continuaA investigação começou depois que uma das vítimas denunciou um dos sites, segundo Bragg. Ele não informou se houve prisões relacionadas à operação.As autoridades afirmaram que a investigação sobre esses e outros sites continua. A Promotoria do Distrito de Manhattan também pretende monitorar as plataformas para evitar que elas voltem ao ar usando outros nomes.O post Nova York derruba sites usados para criar deepfakes sexuais de famosas apareceu primeiro em Olhar Digital.