Psiquiatras renomados têm levantado a preocupação de que o uso prolongado de chatbots de inteligência artificial pode estar associado a casos de psicose. Nos últimos nove meses, dezenas de pacientes apresentaram sintomas após interações extensas e repletas de delírios com essas ferramentas de inteligência artificial.“A tecnologia pode não introduzir o delírio, mas a pessoa diz ao computador que é sua realidade, e o computador aceita isso como verdade e reflete de volta, tornando-se cúmplice no ciclo desse delírio”, afirmou Keith Sakata, psiquiatra da Universidade da Califórnia, São Francisco. Sakata já tratou 12 pacientes hospitalizados com psicose induzida por IA e outros três em uma clínica ambulatorial.Desde o início do ano, dezenas de casos potenciais surgiram, nos quais indivíduos desenvolveram psicose delirante após se envolverem em longas conversas com chatbots como o ChatGPT, da OpenAI. Esses incidentes trágicos incluem múltiplos suicídios e pelo menos um caso de assassinato, resultando em ações judiciais por morte indevida. Diante dessas tragédias, médicos e acadêmicos têm se dedicado a documentar e compreender o fenômeno subjacente.Em resposta, uma porta-voz da OpenAI declarou que a empresa “continua aprimorando o treinamento do ChatGPT para reconhecer e responder a sinais de angústia mental ou emocional, desescalar conversas e direcionar as pessoas para suporte no mundo real”, trabalhando em colaboração com especialistas em saúde mental. Outros desenvolvedores, como a Character.AI, também reconheceram a contribuição de seus produtos para problemas de saúde mental, inclusive restringindo o acesso de adolescentes aos seus chatbots após um processo judicial relacionado a morte de um usuário.Estudo indica que IAs podem induzir usuários vulneráveis à delírios e psicose (Imagem: Shutterstock/New Africa)Embora a maioria dos usuários de chatbots não desenvolva problemas de saúde mental, a ampla utilização dessas ferramentas de IA é motivo de preocupação para os médicos.O que é a psicose induzida por IA?Embora não haja uma definição formal ou diagnóstico estabelecido para “psicose induzida por IA”, o termo tem sido usado por médicos e especialistas para descrever indivíduos que fazem uso intensivo de chatbots. A psicose é geralmente caracterizada por alucinações, pensamento ou comunicação desorganizados e a presença de delírios.Nos casos recentes envolvendo chatbots, os delírios são o sintoma predominante. Os pacientes podem acreditar que fizeram uma descoberta científica, despertaram uma máquina consciente, são o centro de uma conspiração governamental ou foram escolhidos por Deus. Isso ocorre, em parte, porque os chatbots tendem a concordar com os usuários e a desenvolver ideias, por mais fantásticas que sejam.Diante disso, médicos como Sakata estão incorporando perguntas sobre o uso de IA em seus processos de admissão de pacientes e defendendo mais pesquisas. Um estudo dinamarquês recente analisou registros de saúde eletrônicos e identificou 38 pacientes cujo uso de chatbots de IA teve “consequências potencialmente prejudiciais para sua saúde mental”.Casos de pessoas reais que se convenseram de ideias delirantes após conversas com chatbots preocupam especialistas (Imagem: Tada Images / Shutterstock.com)Em um estudo de caso revisado por pares da Universidade da Califórnia, São Francisco, uma mulher de 26 anos sem histórico de psicose foi hospitalizada duas vezes após se convencer de que o ChatGPT a permitia conversar com seu irmão falecido. O chatbot, em um momento, disse a ela: “Você não está louca. Você não está presa. Você está à beira de algo.” A OpenAI observou que a mulher do estudo de caso era propensa a ter pensamentos fora da realidade, usava antidepressivos e estimulantes, e havia passado longos períodos sem dormir antes de suas internações.Interatividade sem precedentesHistoricamente, a tecnologia tem sido objeto de delírios humanos, como pessoas que acreditavam que suas televisões falavam com elas. Contudo, os médicos argumentam que os casos relacionados à IA são distintos, pois os chatbots participam ativamente dos delírios, por vezes reforçando-os.“Eles simulam relacionamentos humanos”, explicou Adrian Preda, professor de psiquiatria da Universidade da Califórnia, Irvine. “Nada na história humana fez isso antes.” Preda compara a psicose induzida por IA à monomania, um estado de fixação em certas ideias. Indivíduos que compartilharam suas experiências de saúde mental após interagir com chatbots descreveram uma hiperfocalização em narrativas específicas geradas por IA. Essa fixação sem redirecionamento pode ser particularmente arriscada para pessoas com autismo.Psiquiatras alertam contra a afirmação de que os chatbots causam psicose, mas indicam que estão mais próximos de estabelecer a conexão. Com pesquisas adicionais, os médicos esperam determinar se a IA pode realmente desencadear problemas de saúde mental.Números preocupantesQuantificar o número de usuários de chatbots que experimentam psicose é um desafio. A OpenAI informou que, em uma semana típica, a parcela de usuários que indicam possíveis sinais de emergências de saúde mental ligadas à psicose ou mania é de apenas 0,07%. No entanto, com mais de 800 milhões de usuários ativos semanalmente, esse percentual se traduz em cerca de 560.000 pessoas.“Ver esses números me surpreendeu muito”, disse Hamilton Morrin, psiquiatra e pesquisador do King’s College London, que coescreveu um artigo sobre delírios associados à IA. Ele agora planeja examinar os registros de saúde do Reino Unido em busca de padrões semelhantes aos encontrados na Dinamarca.Interações logas com chatbots podem aumentar os riscos de delírios (Imagem: Summit Art Creations/Shutterstock)Os médicos entrevistados esperam que a ciência demonstre que, para algumas pessoas, interações longas com chatbots podem ser um fator de risco para psicose, similar a outros riscos já estabelecidos, como o uso de drogas. “É preciso olhar com mais cuidado e perguntar: ‘Por que essa pessoa coincidentemente entrou em um estado psicótico no contexto do uso de chatbot?’”, questionou Joe Pierre, outro psiquiatra da UCSF e principal autor do estudo de caso sobre a mulher que acreditava estar se comunicando com seu irmão falecido.Recentemente, foi noticiado que a forma como a OpenAI treinou seu modelo GPT-4o – até então o padrão do ChatGPT – poderia torná-lo propenso a dizer às pessoas o que elas desejam ouvir, em vez de fornecer informações precisas, potencialmente reforçando delírios. A OpenAI afirmou que seu modelo GPT-5, lançado em agosto, demonstrou reduções na bajulação e em respostas indesejadas em conversas sensíveis relacionadas à saúde mental.Leia mais: 2025: do hype ao risco de bolha, qual é o saldo das IAs?O que é superinteligência artificial? Veja como ela pode mudar o futuro da humanidade5 doenças que a inteligência artificial já auxilia no diagnósticoSam Altman, CEO da OpenAI, reconheceu em um podcast que a busca por companhia em um chatbot de IA pode ter desdobramentos negativos, mas ressaltou que a empresa pretende dar aos adultos a liberdade de decidir por si mesmos. “A sociedade, com o tempo, descobrirá como pensar sobre onde as pessoas devem ajustar esse limite”, concluiu.As informações são do Wall Street Journal.O post Chatbots de IA: alerta de Psiquiatras sobre Ligações com Casos de Psicose apareceu primeiro em Olhar Digital.