Nova regulamentação obriga assistentes virtuais a quebrarem imersão (imagem: reprodução/South China Morning Post) Resumo China proibiu o “namoro” com IA, afetando serviços de chatbot.A nova lei, que entra em vigor nesta quarta (15/07), exige que assistentes virtuais evitem criar dependência emocional nos usuários.Empresas como a ByteDance e a Alibaba desativaram recursos de interações íntimas em seus sistemas de IA.O governo da China decidiu intervir nos relacionamentos afetivos entre humanos e máquinas. A partir desta quarta-feira (15/07), entra em vigor uma regulamentação inédita que proíbe chatbots de companhia de estimular dependência emocional nos usuários.Como consequência, empresas como ByteDance e Alibaba promoveram um apagão em seus serviços: recursos de interações íntimas foram desativados e o histórico de conversas de milhões de usuários deixou de ficar acessível.Segundo o comunicado oficial, a motivação vai além de proteger a saúde mental. Para as autoridades chinesas, a adoção acelerada de “namorados e namoradas virtuais” se transformou em um obstáculo silencioso para a formação de laços sociais. Por que as empresas não adaptaram as IAs?Gigantes chinesas desativaram chatbots de companhia (ilustração: Vitor Pádua/Tecnoblog)A resposta está na arquitetura do software. Em vez de tentarem se adequar às novas regras, as companhias concluíram que era tecnicamente impossível manter o produto funcionando dentro das exigências da lei, já que os recursos que tornam um chatbot de companhia atraente e realista são exatamente os alvos da nova legislação.Para que um parceiro virtual ganhe credibilidade, ele precisa de “memória persistente”, a capacidade de lembrar detalhes da vida do usuário, e ajustar constantemente o tom emocional das respostas. A nova lei exige que o sistema quebre essa imersão de propósito. As IAs agora são obrigadas a alertar os usuários de que são máquinas a cada duas horas de uso contínuo, além de detectar sinais de dependência psicológica em tempo real.O custo de engenharia para reescrever esses modelos também não justificava os riscos de tomar multas que podem chegar a 50 milhões de yuans (cerca de R$ 35 milhões, em conversão direta) ou 5% do faturamento anual da empresa infratora. Apenas o Doubao, aplicativo de IA da ByteDance, detém cerca de 345 milhões de usuários. Como alternativa, a empresa começou a direcionar esses usuários para um novo app chamado Maoxiang. O plano é desenvolver uma plataforma do zero, já com os mecanismos de controle de vício e verificação de limites emocionais integrados.Problema da dependência emocional é globalFabricante chinesa de bonecas WMDoll também integrou IA nos seus produtos (arte: Vitor Pádua/Tecnoblog)O desafio não fica restrito ao mercado chinês. Plataformas extremamente populares no Ocidente, como Replika e Character.AI, utilizam a mesma estrutura de retenção emocional e continuam operando neste formato. Governos dos Estados Unidos e da Europa ainda não aprovaram restrições parecidas com as de Pequim.A pressão, porém, está aumentando. O portal Tech Times destaca que processos judiciais nos EUA já associam o uso de chatbots de companhia ao agravamento de quadros psiquiátricos. O principal motor dessas discussões é o caso de um jovem de 14 anos da Flórida que cometeu suicídio no início de 2024 após estabelecer um forte vínculo com um bot da Character.AI. Outro caso conhecido envolveu a morte do jovem Adam Raine, de 16 anos, após interações com o ChatGPT. Embora a IA da OpenAI não tenha sido desenvolvida para esse fim, o desfecho trágico motivou um longo processo judicial.Buscando evitar que esses casos se repitam nos EUA, estados como Nova York e Califórnia agora exigem que os bots emitam alertas frequentes sobre sua natureza artificial e acionem centros de ajuda ao notarem qualquer indício de risco à vida do usuário.No Brasil, ainda não existe uma regra específica para chatbots de companhia. As discussões ocorrem principalmente no âmbito do ECA Digital, proposta para ampliar a proteção de crianças e adolescentes no ambiente online. O texto prevê deveres de mitigação de riscos, transparência e proteção de menores, mas não chega ao ponto de proibir que assistentes virtuais estimulem vínculos emocionais.China proíbe IAs de namoro que criam dependência emocional