Las conversaciones con una inteligencia artificial pueden empezar con una pregunta inocente y terminar entrando en asuntos mucho más delicados. Meta quiere intervenir cuando detecte que un adolescente habla con su asistente sobre suicidio o autolesiones, avisando a sus padres para que puedan ofrecerle ayuda fuera de la pantalla antes de que la situación empeore.Eso sí, la medida no se aplicará a cualquier cuenta ni enviará notificaciones de forma completamente automática. Estará vinculada a las herramientas de supervisión parental de Instagram y combinará la detección mediante inteligencia artificial con una revisión humana. Meta reconoce que pueden producirse falsas alarmas, pero prefiere avisar ante una conversación dudosa que pasar por alto un posible riesgo.Las conversaciones señaladas serán revisadas antes del avisoMeta ha creado un sistema específico para localizar mensajes en los que un adolescente haga referencias, incluso poco directas, a la posibilidad de hacerse daño. Cuando el asistente detecte una conversación preocupante, esta será revisada manualmente antes de que la empresa envíe una alerta al padre, madre o tutor vinculado a la cuenta.La notificación irá acompañada de recursos preparados por expertos para ayudar a abordar una conversación especialmente complicada. Meta AI ya intenta dirigir a los adolescentes hacia líneas de ayuda y les recomienda hablar con sus padres, un orientador u otro adulto de confianza cuando identifica señales de peligro.Cabe remarcar que, de momento, las alertas están disponibles en Estados Unidos, Reino Unido, Australia y Canadá para las familias que utilizan la supervisión parental de Instagram. La compañía espera extenderlas al resto del mundo antes de que termine 2026, aunque todavía no ha detallado cuándo llegarán a España.La nueva función amplía un sistema que ya avisa a los padres cuando sus hijos buscan repetidamente términos relacionados con el suicidio o las autolesiones en Instagram. Además, llega en un momento en el que los chatbots están siendo usados para compartir problemas personales, pues más de un millón de personas hablan sobre suicidios de forma semanal con las inteligencias artificiales.Meta también quiere avisar a los servicios de emergenciaPor otro lado, Meta está desarrollando un sistema capaz de contactar con los servicios de emergencia si una conversación con su IA indica que una persona corre un peligro inmediato. Esta medida afectaría tanto a adolescentes como a adultos, pero todavía se encuentra en preparación y no está activa.La empresa ya realiza este tipo de avisos cuando detecta publicaciones de Facebook o Instagram que apuntan a un riesgo creíble. Durante el último año, la propia compañía asegura haber comunicado más de 19.000 casos en todo el mundo para que los servicios de emergencia pudieran comprobar el estado de esas personas.Asimismo, el modo de contenido limitado de Instagram también se extenderá a Meta AI. Al activarlo, el asistente rechazará más preguntas sensibles y reducirá las conversaciones que pueden resultar inapropiadas para menores.Estas barreras son importantes, pero no convierten a un chatbot en un profesional de la salud mental. De hecho, un estudio reciente advirtió que el uso intenso de estas herramientas puede agravar trastornos mentales graves. La tecnología en sí puede detectar señales y activar una alarma de inmediato, pero la ayuda real seguirá dependiendo de familiares, especialistas y servicios preparados para intervenir.