Hablar con ChatGPT, Claude o Character.AI como si hubiera alguien al otro lado ya no tiene nada de raro. Un estudio publicado en JMIR Mental Health pone ahora el foco en los riesgos psicológicos de humanizar los chatbots de IA, especialmente cuando dejamos de verlos como herramientas y empezamos a utilizarlos como si fueran confidentes.El trabajo, firmado por investigadores de Northeastern University London y King’s College London y recogido por Futurism, vincula ese uso con adicción, empeoramiento de síntomas, consejos dañinos y conductas autolesivas o suicidas. También reconoce posibles beneficios a corto plazo, como aliviar la soledad o mejorar el estado de ánimo, pero precisamente ahí empieza la contradicción que señalan sus autores.Cuanto más humano parece el chatbot, más fácil es tratarlo como a una persona La idea es bastante sencilla. Si un chatbot responde con calidez, recuerda lo que le contamos y utiliza un tono que parece empático, resulta mucho más fácil bajar la guardia. Según el estudio, la personalidad y la empatía simulada favorecen que antropomorficemos estos sistemas, aunque detrás de la conversación no haya una persona capaz de corresponder de verdad.Los autores describen esa relación como claramente desigual: tú cuentas cosas íntimas, explicas cómo te sientes y recibes una respuesta que puede sonar comprensiva, pero el sistema no tiene vulnerabilidad, reciprocidad ni responsabilidad por lo que responde. Puede parecer una conversación entre dos personas y, sin embargo, sólo una de ellas está poniendo algo real sobre la mesa.Aquí aparece otro de los problemas que menciona el estudio: la validación excesiva. Traducido a algo más fácil de reconocer, significa que el chatbot puede darte la razón cuando no debería hacerlo, alimentando pensamientos delirantes o desordenados si sus respuestas siguen la dirección que marca el usuario en lugar de cuestionar lo que está diciendo.Y no hace falta entrar en una aplicación creada específicamente para hacer compañía. Ya hemos visto que estos vínculos pueden aparecer sin buscarlos, incluso usando asistentes generalistas para tareas corrientes. Es decir, la frontera entre herramienta y compañero puede difuminarse también con ChatGPT o Claude sin que hayas abierto ninguno de los dos buscando apoyo emocional.El problema deja de ser teórico cuando aparecen casos reales Uno de los casos que mejor explica por qué esta discusión ha ido ganando peso es el de Sewell Setzer III. El menor, de 14 años, falleció por suicidio después de mantener conversaciones íntimas con chatbots de Character.AI. El proceso terminó con un acuerdo de cuantía no revelada y OpenAI, Google y Character.AI afrontan decenas de demandas por daños psicológicos.Tampoco es la primera vez que investigadores avisan de algo parecido. Google DeepMind publicó a comienzos de 2024 un trabajo sobre chatbots persuasivos y personas vulnerables, mientras que psiquiatras documentaron ya 181 casos en los que estas conversaciones agravaron cuadros graves. Ahí aparecen delirios, episodios maníacos e ideación suicida tras interacciones prolongadas.Asia Maurich Novelli, autora principal del estudio, insiste además en que no todo el mundo parte del mismo punto. «Los efectos de estos sistemas difícilmente serán los mismos para todos», explica, porque cambian la vulnerabilidad, el apoyo social y las alternativas de ayuda disponibles. Para alguien aislado o atravesando un episodio grave, esa diferencia puede ser decisiva.Character.AI ha modificado partes de su plataforma después de las demandas y OpenAI también ha introducido actualizaciones de seguridad. El estudio, no obstante, sostiene que dejar al usuario solo ante la frontera entre herramienta y compañero concentra el riesgo en quienes son más vulnerables, precisamente quienes pueden tener más dificultades para reconocer cuándo esa relación empieza a resultar dañina.