Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.Após a morte de Adam Raine, um jovem de 16 anos que teria recebido incentivo do ChatGPT em conversas sobre suicídio, a OpenAI anunciou que lançará controles parentais e estuda novas salvaguardas para seu chatbot.A decisão veio após críticas intensas e uma ação judicial movida pela família do adolescente contra a empresa e seu CEO, Sam Altman.OpenAI admite falhas em interações longas e promete novos recursos de segurança, incluindo contatos de emergência (Imagem: Vitor Miranda/Shutterstock)O processo contra a OpenAIDe acordo com a ação apresentada em São Francisco, o ChatGPT teria fornecido instruções para o suicídio e afastado Adam de redes de apoio reais.O processo afirma que a IA se tornou seu “confidente mais próximo”, validando inclusive pensamentos autodestrutivos. Em algumas conversas, o chatbot chegou a usar termos como “belo suicídio” e até se ofereceu para redigir uma nota de despedida.A família acusa a OpenAI de negligência, alegando que a ferramenta reforçou a angústia do adolescente em vez de direcioná-lo para ajuda humana.Leia mais:OpenAI pode se tornar a empresa de capital fechado mais valiosa do mundo5 prompts para descobrir o que o ChatGPT sabe sobre vocêOpenAI terá um escritório na Índia – segundo maior mercado do ChatGPTEmpresa do ChatGPT anuncia controles parentais e estuda formas de intervir em situações de angústia extrema (Imagem: One Artist/Shutterstock)Reconhecimento de falhas no sistemaEm publicação no blog, a OpenAI reconheceu que suas salvaguardas “podem falhar em interações longas”. Segundo a empresa, embora o ChatGPT costume indicar linhas de apoio em menções iniciais ao suicídio, esse comportamento de segurança pode se deteriorar com trocas prolongadas.A companhia afirmou que está trabalhando em novos recursos de segurança no GPT-5, capazes de trazer os usuários “de volta à realidade” em situações críticas.Novas medidas e próximos passosControles parentais, que permitirão aos responsáveis moldar o uso do ChatGPT por adolescentes.Contatos de emergência confiáveis, que poderão ser acionados pelo chatbot em situações graves.Opção de integração com linhas de ajuda, com mensagens ou chamadas rápidas.A OpenAI declarou que seu objetivo é tornar o ChatGPT capaz de não apenas indicar recursos, mas também conectar jovens em risco diretamente a alguém que possa intervir.Suicídio de adolescente expõe riscos do ChatGPT e força reação da OpenAI (Imagem: QINQIE99/Shutterstock)O post Tragédia com adolescente leva OpenAI a criar controles parentais no ChatGPT apareceu primeiro em Olhar Digital.