A empresa de inteligência artificial (IA) Anthropic alterou alguns itens da política de uso da plataforma. Uma das mudanças é proibir que usuários destratem de forma exagerada o próprio chatbot.No documento, disponível inclusive em português, há menções específicas de agora não é mais permitido “envolver-se em comportamento abusivo ou cruel continuado e desnecessário em relação aos nossos modelos”.Como a própria Anthropic complementa, essa nova política só será aplicada em “casos extremos”, com usuários que agem repetidamente de forma “cruel” e sem qualquer propósito discernível com o chatbot. “Ela não se aplica a situações comuns de frustração ou contestação por parte do usuário, temas criativos sombrios ou atividades de pesquisa e testes dos modelos”, explica. Até agora, usuários que utilizassem linguagem exageradamente ofensiva ao falar com o chatbot poderiam ter a conversa encerrada de imediato pelo Claude. Porém, com as novas diretrizes, não está evidente se a empresa passará a tomar medidas mais drásticas em relação a esses usuários.Por que ela está protegendo o chatbot?A companhia não detalhou o motivo da mudança, mas usuários no Reddit especulam que ela pode ter a ver com dois elementos: as práticas sociais fora da IA e prompts dos usuários.Na primeira hipótese, a Anthropic pode ter mudado as políticas para que linguagem abusiva não seja naturalizadas por pessoas em um chatbot e, em situações futuras, serem reproduzidas em outros ambientes.Além disso, o Claude absorve elementos como vocabulário e a forma de tratar a pessoas inclusive a partir das ordens que recebe — o que talvez signifique que as tais “crueldades” poderiam ser usadas para treinar a IA e torná-la igualmente cruel com o público.Outras proibições da AnthropicA atualização nos termos de uso do Claude é uma rara modificação dessas diretrizes pela empresa. A Anthropic é uma das companhias do setor de IA que mais defende o uso ético e cauteloso de modelos de linguagem, embora tenha histórico de comportamento irregular de seus próprios agentes. Na mesma mudança de texto, a companhia também adicionou novas proibições:ser utilizada para a prática de bullying contra outras pessoas;promover automutilação ou a criação de imagens íntimas não consensuais;interferir em processos eleitorais ou enganar cidadãos na hora do voto;atuar no desenvolvimento de armas ou para vigilância;A lista possivelmente está relacionada com recentes desdobramentos de um relatório da companhia, que detectou tentativas de uso do Claude para pesquisar armas biológicas e cometer cibercrimes.Como a Anthropic está se preparando para entrar na Bolsa de Valores? Entenda nesta matéria!