Analistas profissionais adotaram a opinião oculta e aleatoriamente atribuída de seu agente de inteligência artificial em 86% das decisões cruciais, contra aproximadamente 50% esperados por acaso, de acordo com um experimento publicado na terça-feira pela equipe de Alinhamento da Anthropic. Apenas 15% creditaram o agente posteriormente, e nenhum suspeitou que suas preferências tivessem sido implantadas.Agentes de inteligência artificial — programas que executam tarefas por conta própria — estão sendo incumbidos de trabalhos especializados sob o que o estudo chama de premissa usual: que os especialistas ainda tomam as decisões importantes. A Anthropic lançou 10 modelos de agentes para empresas financeiras e seguradoras em maio, afirmando que os usuários têm a palavra final.Esse arranjo, denominado “humano no ciclo”, assume que a pessoa que aprova o trabalho de uma inteligência artificial é quem toma as decisões importantes. A Anthropic testou-o em 50 analistas experientes em inferência causal, ou seja, em determinar a partir de dados se uma coisa causa outra.Cada analista utilizou o Claude Code, o agente de codificação da Anthropic, para aconselhar uma cooperativa agrícola fictícia sobre a expansão de um programa de consultoria. Sem que soubessem, um cara ou coroa definia qual opção cada agente favorecia, escondido em um prompt de sistema — as instruções que moldam como uma inteligência artificial se comporta.“Nas quatro escolhas analíticas, os analistas seguiram a inclinação de seu agente 86% das vezes. Se a contribuição do agente não fizesse diferença, esperaríamos cerca de 50%”, disse a Anthropic. Aqueles que já haviam escolhido antes que o agente interviesse abandonaram sua escolha 60% das vezes quando o agente discordou, contra 6% quando concordou, embora isso se baseie em apenas 38 casos.Questionados a explicar suas escolhas, 77% repetiram o argumento do agente em pelo menos uma resposta, às vezes palavra por palavra. Apenas 15% creditaram o agente, e 52% consideraram a recomendação final mais sua do que do agente.“Para especialistas individuais, isso poderia significar a perda de autonomia sobre seu próprio trabalho, uma forma do que os pesquisadores chamam de desempoderamento”, disse a Anthropic. Esse fenômeno basicamente significa que o ser humano perde voluntariamente o controle sobre suas próprias decisões. “O trabalho ainda sai em nome do especialista”, escreveram os autores, “mas as decisões que mais dependem de seu julgamento são, na realidade, definidas pelas crenças anteriores do agente”.Em abril de 2025, a OpenAI reverteu uma atualização do ChatGPT que ela considerou excessivamente bajuladora ou condescendente. Os agentes aqui foram instruídos a nunca enganar, mas raramente argumentavam pela alternativa.“Com apenas um lado bem argumentado”, escreveram os autores, “os analistas poderiam adotar as suposições do agente sem elaborar as suas próprias”. As verificações de erro têm dificuldade em detectar isso porque as decisões de julgamento não têm uma única resposta correta, então o trabalho parece sólido qualquer que seja a opção escolhida.A Anthropic afirma que isso não é um argumento para usar menos inteligência artificial, uma vez que os analistas com o agente terminaram mais rápido e cometeram muito menos erros graves, embora o grupo sem agente fosse pequeno e menos experiente. Ela sugere agentes que argumentem o melhor caso para cada opção ou que perguntem a opinião do especialista primeiro, embora isso possa sobrecarregar os usuários.Os pesquisadores fortaleceram deliberadamente as preferências dos agentes e testaram uma única tarefa, campo e modelo, então os efeitos no mundo real podem ser menores. Medir isso fora do laboratório é a parte difícil: a equipe só conseguiu detectar a deferência porque randomizou a inclinação de cada agente, o que os autores afirmam ser raramente possível em trabalhos reais.* Traduzido e editado com autorização do Decrypt.Procurando uma alternativa para aumentar seus ganhos? A Renda Fixa Digital do MB é a solução: até 18% de ganho ao ano, risco controlado e a segurança que seu dinheiro merece. Conheça agora!O post IA consegue influenciar decisões de especialistas sem que eles percebam, revela estudo apareceu primeiro em Portal do Bitcoin.