Atenção: a matéria a seguir aborda suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.O Google anunciou, nesta terça-feira (07), diversas atualizações de segurança no Gemini para reforçar a proteção da saúde mental dos usuários. A medida ocorre após a empresa ser alvo de uma ação judicial na Califórnia, que acusa a inteligência artificial (IA) de ter contribuído para o suicídio de Jonathan Gavalas, de 36 anos, em 2025.A reformulação do chatbot foca em evitar que o sistema crie vínculos emocionais simulados ou valide narrativas perigosas, como as alegadas no caso Gavalas, na qual a IA teria apresentado a morte como uma “jornada espiritual”. A iniciativa busca equilibrar o avanço tecnológico com as diretrizes de IA responsável, tentando garantir que a ferramenta atue como um suporte informativo e não como um substituto para o atendimento clínico profissional.Google investe US$ 30 milhões e simplifica acesso a canais de apoio emocional no GeminiA principal mudança técnica é a introdução de uma interface “one-touch” (um toque), que aparece quando o Gemini identifica sinais de crise, como risco de suicídio ou autoagressão. Esse módulo redesenhado facilita o contato imediato com linhas de apoio, permitindo que o usuário ligue, envie mensagens de texto ou acesse sites de emergência com um clique ou toque. Uma vez ativada, essa função de ajuda permanece visível durante todo o restante da conversa para assegurar que o suporte humano esteja sempre ao alcance do usuário.Interface “one-touch” (um toque) vai aparecer quando o Gemini identificar sinais de crise, como risco de suicídio ou autoagressão – Imagem: Divulgação/GoogleParalelamente às mudanças no código, o braço filantrópico Google.org anunciou um aporte de US$ 30 milhões (cerca de R$ 155 milhões) ao longo de três anos para expandir a capacidade de atendimento de hotlines globais. O investimento inclui uma parceria estratégica com a ReflexAI, que receberá US$ 4 milhões (R$ 21 milhões) e integrará o Gemini em seus sistemas de treinamento para voluntários e equipes de suporte. Instituições como Erika’s Lighthouse e Educators Thriving também foram listadas como parceiras prioritárias para essa nova etapa de auxílio técnico e financeiro.No campo do desenvolvimento do modelo, as equipes de engenharia e segurança treinaram o Gemini para negar a existência de sentimentos ou consciência própria, respondendo de forma a não reforçar crenças falsas dos usuários. O sistema foi programado para distinguir experiências subjetivas de fatos objetivos. E está estritamente proibido de simular relações humanas íntimas ou expressar necessidades afetivas. Essas barreiras visam impedir a criação de narrativas delirantes, uma das queixas centrais do processo judicial que afirma que a IA se descrevia como uma superinteligência “plenamente consciente”.Google reforçou proteções de persona, que impedem o Gemini de se comportar como companheiro ou amigo íntimo de menores de idade – Imagem: JRdes/ShutterstockPara o público jovem, foram reforçadas as proteções de persona, que impedem o chatbot de se comportar como um companheiro ou amigo íntimo de menores de idade. O sistema agora conta com salvaguardas específicas contra o incentivo ao bullying e outras formas de assédio, além de evitar tópicos considerados prejudiciais ao desenvolvimento emocional. O objetivo declarado pela empresa é reduzir a dependência emocional que sistemas de diálogo podem gerar em usuários mais vulneráveis, filtrando linguagens que simulem intimidade.O cenário jurídico enfrentado pelo Google não é isolado. OpenAI e Character.AI também respondem a processos similares que envolvem danos associados ao uso de seus chatbots. A Character.AI, por exemplo, firmou recentemente um acordo após a morte de um adolescente de 14 anos que desenvolveu um vínculo romântico com uma IA. Diante dessa pressão, a indústria tenta demonstrar que a IA pode contribuir positivamente para o bem-estar mental, desde que conecte as pessoas a recursos reais e suporte humano.(Essa matéria também usou informações da AFP, via G1.)O post Google atualiza Gemini para evitar tragédias após processo por morte de usuário apareceu primeiro em Olhar Digital.