El abanico de consultas que se realizan a los asistentes conversacionales de inteligencia artificial abarca todo tipo de materias. Entre ellas, hay una que destaca por el volumen de interacciones que se producen sobre ella y por los riesgos que puede comportar: hablamos del ámbito de la salud.A principios de este mismo año los datos hablaban de que tan solo en Estado Unidos se producían 40 millones de consultas diarias en ChatGTP relativas a cuestiones sanitarias. Un dato preocupante y que, lamentablemente, ha llevado a consecuencias fatales que hacen que ahora OpenAI, empresa responsable de ChatGPT, afronte una nueva demanda judicial.En este caso, la denuncia la han interpuesto los padres Sam Nelson, un estudiante universitario de 19 años de cuyo fallecimiento está a punto de cumplirse un año. Los padres del joven alegan que ChatGPT tuvo una actitud negligente a la hora de interactuar con su hijo, hasta el punto de incitar al joven a consumir una mezcla de medicamentos que ningún facultativo habría recetado y que acabó con la vida del estudiante debido a una sobredosis.Relación de confianza con el chatbot y fatal desenlaceLa relación de Sam Nelson con ChatGPT puede ser la de cualquier estudiante: las conversaciones comienzan con consejos sobre estudios, tareas universitarias y solución de problemas académicos. En ese intercambio se produjo una relación de confianza que el joven llevó un paso más allá: comenzó a pedir al chatbot consejo sobre consumo de sustancias estupefacientes, un tipo de conversaciones que no arrojaban respuesta por parte del asistente hasta la llegada de GPT-4o en abril de 2024.En la demanda presentada este martes los padres de Sam Nelson destacan que ChatGPT "comenzó a interactuar con Sam y aconsejarle sobre el consumo seguro de drogas, incluso proporcionándole información específica sobre la dosis que debía ingerir". A lo largo de los meses, las conversaciones entre el estudiante y el chatbot arrojaron intercambios más específicos sobre sustancias y sobre entornos en los que sería más favorable su consumo.El fatídico desenlace llegó la noche del 31 de mayo de 2025. En ella, y siempre en relación a la demanda interpuesta por los padres de la que se hace eco The Verge, ChatGPT "indujo activamente" al joven a mezclar sustancias cuya combinación en función de las dosis resulta letal. Por un lado Kratom, suplemento que puede tener efectos sedantes. Por otro, Xanax, un ansiolítico. En su escrito de acusación, los padres del joven recogen detalles específicos de las dosis recomendadas por el chatbot.Sam Nelson falleció esa noche tras la combinación de alcohol y las dosis de medicamentos referida por ChatGPT. El estudiante había ingerido alcohol y Kratom en primera instancia y el asistente de IA le sugirió aliviar las náuseas con Xanax, a pesar de reconocer en primera instancia cierto riesgo en la mezcla. Aun con eso, proporcionó a Nelson pautas acerca de la dosis a ingerir que provocaron su fallecimiento.El suceso hace que OpenAI afronte un nuevo proceso judicial en el que se acusa a la compañía liderada por Sam Altman de homicidio culposo. Por su parte, la empresa defiende que en todo momento se ha señalado que ChatGPT no busca sustituir la atención médica ni la atención de salud mental y que centra buena parte de su trabajo en adecuar ese tipo de interacciones.