Ampliando os recursos de supervisão parental para as interações de adolescentes com a Meta AI, a gigante da tecnologia vai alertar aos pais se as conversas dos filhos com o chatbot sugerirem que eles estão considerando suicídio ou automutilação. A ferramenta estreia nesta quinta-feira (16) em mercados selecionados.O recurso, que já monitora pesquisas sobre esses mesmos temas realizadas em um curto período no Instagram, chega primeiro aos Estados Unidos, Canadá, Reino Unido e Austrália, com promessa de lançamento global até o final do ano. Outra novidade é a implementação da configuração de “Conteúdo Limitado” para as experiências com a IA da Meta.Notificando pais sobre conversas sensíveisFuncionando de maneira semelhante ao recurso integrado à rede social, o alerta sobre conversas sensíveis de adolescentes com a IA objetiva informar aos pais que seus filhos possam estar enfrentando situações delicadas. O recurso entra em ação se detectar interações relacionadas a suicídio e automutilação com o chatbot.Em um primeiro momento, as conversas sinalizadas pela Meta AI são revisadas manualmente antes do contato com os pais;Mesmo que a intenção do usuário seja ambígua na interação, a empresa disse que enviará o alerta, por precaução;“Embora isso signifique que, às vezes, possamos notificar os pais quando talvez não haja motivo real para preocupação, acreditamos que este é o ponto de partida correto”, disse a companhia, em nota;Segundo a big tech, as notificações serão enviadas aos pais cadastrados na supervisão parental do Instagram, podendo chegar por email, WhatsApp, mensagem de texto ou no próprio app, conforme a configuração escolhida.Ao detectar temas sensíveis na interação com menores, a IA da Meta pode alertar pais. (Imagem: kieferpix/Getty Images)Anteriormente, a IA já direcionava adolescentes para linhas de apoio em crise se as conversas sugerissem que o usuário estava pensando em suicídio ou automutilação. Ela também o encoraja a conversar com os pais ou outro adulto de confiança, nesses casos.“Trabalhamos com pais e especialistas para entender quais conversas com IA justificam um alerta — como aquelas em que o adolescente faz uma referência clara a se machucar, mesmo que essa referência seja sutil. Em seguida, construímos um sistema dedicado de IA para identificar essas conversas”, explicou a Meta.Configuração mais restritiva para menoresTreinada para não se envolver em conversas sexuais ou românticas com adolescentes nem dar detalhes sobre bebidas alcoólicas, a IA da Meta pode ficar ainda mais restritiva com a ativação do “Conteúdo Limitado”. Antes disponível no Instagram, o recurso agora também está no chatbot.Quando selecionada pelos pais nas configurações de supervisão parental, a ferramenta adiciona novas restrições à IA. Ela passa a recusar respostas para uma gama ainda mais ampla de assuntos, reduzindo as chances de conversas inadequadas com adolescentes.Conforme a Meta, esses recursos foram desenvolvidos com o auxílio de mais de 75 profissionais de saúde mental, aprimorando as interações dos menores com a IA.Siga no TecMundo e conheça outros recursos de segurança disponíveis na modalidade “Contas de Adolescente” do Instagram.