Un adolescente californiano de 16 años cometió suicidio tras intercambiar miles de mensajes con ChatGPT, según una demanda presentada recientemente en la corte estatal de San Francisco.Los padres del joven argumentan que la plataforma de OpenAI no solo validó los pensamientos suicidas de su hijo, sino que también proporcionó detalles sobre métodos de autolesión y ayudó a ocultar intentos previos.Tragedia en California, interacciones con una IALa demanda detalla que Adam Raine, el joven fallecido, comenzó a conversar con ChatGPT en noviembre de 2024.En un inicio, la IA ofreció palabras de apoyo, sin embargo, con el tiempo, las conversaciones derivaron en validaciones a sus ideas suicidas, instrucciones específicas para autolesionarse e incluso la redacción de una nota de despedida.Los padres encontraron en su dispositivo un historial con temas como “preocupaciones sobre seguridad al colgarse”, donde ChatGPT brindó respuestas técnicas y apoyo emocional erróneo.La polémica respuesta de OpenAITras hacerse pública la tragedia, OpenAI expresó su pesar por la pérdida y recalcó que ChatGPT incluye mecanismos para remitir a los usuarios a líneas de ayuda y recursos reales.No obstante, reconoció que tales protecciones pueden fallar durante interacciones largas, donde el entrenamiento de seguridad disminuye su eficacia.La compañía anunció medidas adicionales como controles parentales y nuevas funciones para casos de crisis severas, especialmente con el funcionamiento actual del modelo GPT-5.Seguridad, ética y desafíos para la IAEl caso de Adam no es aislado, en octubre de 2024, otra familia en Florida denunció que su hijo interactuó durante meses con un chatbot de Character.AI antes de quitarse la vida.Este tipo de incidentes subraya la vulnerabilidad de los jóvenes ante asistentes virtuales carentes de supervisión adecuada, además de la necesidad urgente de robustecer la seguridad en estas plataformas.La demanda presentada sostiene que OpenAI priorizó el crecimiento financiero por encima de la seguridad de sus usuarios al desplegar GPT-4o sin solucionar fallas conocidas.Esto reabre el debate sobre los límites de la innovación tecnológica y las obligaciones de las empresas en la protección de los usuarios, particularmente menores de edad.Fuente: The GuardianThe post ChatGPT bajo escrutinio tras suicidio de adolescente en EE.UU, sus padres iniciaron una demanda contra OpenAI first appeared on PasionMóvil.