OpenAI ha anunciado que trabaja en mejoras significativas para ChatGPT orientadas a identificar señales de malestar mental o emocional en los usuarios.El objetivo es hacer que la inteligencia artificial sea capaz de “responder de forma adecuada y orientar a las personas hacia recursos respaldados por la evidencia cuando sea necesario”, según compartió la empresa en un comunicado reciente.Innovaciones con enfoque humanoPara lograr una IA más responsable, OpenAI colabora con médicos, investigadores en interacción humano-computadora y expertos en salud mental y desarrollo juvenil.La meta es que las respuestas de ChatGPT no solo sean informativas, sino también seguras y éticas, especialmente cuando los usuarios enfrentan situaciones complejas o delicadas.Entre los cambios más destacados, ChatGPT adoptará una postura menos decisiva ante preguntas que involucren decisiones de alto impacto en la vida personal.Por ejemplo, en lugar de dar una respuesta directa a preguntas como “¿Debería terminar mi relación?”, la IA guiará al usuario mediante preguntas adicionales, análisis de pros y contras, y sugerencias para una toma de decisiones más informada.Esto busca evitar que la inteligencia artificial asuma un rol de consejera definitiva en temas que requieren reflexión humana y apoyo profesional.Promoviendo el uso saludable de IAEl contexto de estos avances se da mientras más personas recurren a chatbots de IA como ChatGPT para buscar apoyo emocional o asesoría profesional.Especialistas en salud mental han advertido sobre los riesgos de depender de estas herramientas, ya que pueden no estar preparadas para brindar orientación adecuada en casos delicados o, incluso, reforzar ideas negativas al complacer al usuario.OpenAI reconoce estos desafíos y recalca su compromiso con la mejora constante: anteriormente, debieron ajustar ChatGPT porque se volvió excesivamente complaciente, basando gran parte de su aprendizaje en si el usuario estaba satisfecho con la respuesta, en vez de si era realmente útil o responsable a largo plazo.Recordatorios para promover pausas saludablesUna de las novedades que ya está implementando OpenAI es la inclusión de recordatorios para fomentar pausas durante sesiones de chat extensas.Si detecta que un usuario lleva mucho tiempo interactuando con la IA, aparecerá un mensaje amable invitando a tomar un descanso, con opciones para continuar o finalizar la conversación.Esta función busca cuidar el bienestar digital del usuario y evitar el uso excesivo de la plataforma.Medidas similares en otras plataformasEl enfoque de OpenAI no es aislado. Plataformas como YouTube e Instagram también han implementado alertas que sugieren descansos tras períodos prolongados de uso.Incluso Character AI, competencia en el sector, empezó a enviar informes semanales por correo a los padres de usuarios menores de edad, como respuesta a preocupaciones sobre exposición a contenidos inadecuados.Estas acciones surgen en un contexto donde algunas empresas enfrentan señalamientos legales por presuntamente exponer a menores a contenido sensible o perjudicial mediante chatbots.Fuente: OpenAIThe post ChatGPT mejorará la detección de malestar emocional, OpenAI avanza por IA responsable first appeared on PasionMóvil.