As ferramentas de IA fazem mais do que simplesmente responder aos pedidos do seu utilizador. Estas plataformas estão a ler cada sinal de forma a fazer uma radiografia o mais completa possível da pessoa com quem estão a falar. Consoante a imagem que traçam, a resposta muda. Uma investigação da Universidade Johns Hopkins, nos Estados Unidos, identificou um padrão: quando as instruções incluíam características linguísticas mais frequentemente associadas às mulheres, os modelos de linguagem (LLM) tendiam a produzir correspondência profissional menos sofisticada. Os resultados levantam uma questão sobre as desigualdades nas organizações: poderá uma ferramenta utilizada para melhorar a comunicação acabar por reproduzir diferenças no tratamento dos profissionais? Leia também: «O que a IA pensa sobre nós importa», defende Fernanda Viégas O viés pode começar no pedido As investigadoras Katherine Van Koevering e Anjalie Field partiram de 427 pedidos reais de escrita profissional: 200 emails, 200 candidaturas a emprego e 27 cartas de demissão. A partir destes, criaram versões modificadas experimentalmente, com padrões linguísticos associados a homens ou a mulheres, e compararam as respostas. Entre as características associadas às mulheres estavam expressões de atenuação, como «talvez» ou «acho que», referências coletivas, como «nós» e «a nossa equipa», e adjetivos expressivos. Estes traços não são exclusivos das mulheres, pelo que as diferenças podem afetar qualquer pessoa que os utilize. Foram testados GPT-4, Llama, Gemma e Mistral. O padrão geral de menor complexidade surgiu nos quatro modelos, embora os efeitos variassem entre tarefas e indicadores. Segundo as investigadoras, as diferenças não eram inteiramente explicadas pela reprodução do estilo do pedido. Para Anjalie Field, o risco está na impressão deixada pelo documento: «Isso vai refletir-se na forma como o destinatário desse documento o perceciona», afirma, numa tradução do original publicado pela universidade. Como interpretar os resultados de 69% e 68%? Num artigo sobre a investigação, a Korn Ferry destaca dois números. Numa avaliação auxiliar, os supostos autores dos textos gerados a partir de pedidos com padrões associados aos homens foram percecionados como mais competentes em 69,4% das comparações sem empate e como mais inteligentes em 68,3%. Estes valores exigem contexto: a avaliação foi feita pelo GPT-4, não por recrutadores ou chefias. Abrangeu apenas 105 comparações de respostas daquele modelo, relativas a candidaturas e cartas de demissão, sem incluir emails nesta análise específica. Além disso, os empates foram a maioria nas duas dimensões e ficaram excluídos do cálculo das percentagens. As autoras classificam esta avaliação como preliminar e complementar às métricas linguísticas, conforme explicam no Apêndice B do estudo. Os resultados não demonstram diferenças efetivas em contratações, salários ou promoções. Também importa distinguir complexidade de qualidade: um texto mais simples ou mais curto pode ser adequado ao seu objetivo. A preocupação está na possibilidade de a ferramenta alterar sistematicamente o registo profissional em função de características linguísticas associadas ao género. As mulheres não devem ter de mudar a forma como escrevem As investigadoras alertam para o risco de transferir a responsabilidade para quem utiliza a tecnologia. Muitos destes padrões são culturalmente enraizados e não resultam de escolhas conscientes. Exigir que os utilizadores os eliminem pode criar um esforço adicional para obter um serviço equivalente. A questão cruza-se com os estereótipos de género que já atravessam o mundo do trabalho. Quando uma pessoa utiliza um texto gerado por IA numa candidatura ou numa mensagem profissional, assume também a imagem que esse texto transmite. «Não se pode confiar nos chatbots para representar a nossa inteligência e quem somos», afirma Karena Man, senior client partner nas áreas de Tecnologia e Digital, numa tradução das declarações à Korn Ferry. O alcance da investigação tem, contudo, limites: os testes incidiram sobre inglês e pedidos modificados experimentalmente. Não permitem concluir que o mesmo padrão ocorre em português, em todos os modelos ou em todas as situações reais de utilização. Antes de enviar um email escrito por IA, é preciso rever Para as organizações, os resultados reforçam a importância de acompanhar a adoção da IA com capacidade crítica para avaliar as respostas. Janet Mertens, responsável de investigação na área AMS da Korn Ferry, recomenda investimento em literacia e fluência em IA. Esta formação pode integrar a aprendizagem no local de trabalho, ajudando os profissionais a analisar a adequação dos textos ao destinatário e ao objetivo da comunicação. Fornecer exemplos de escrita profissional pode ajudar a orientar o sistema para a voz de quem o utiliza, sugere Karena Man. Essa prática, porém, não constitui uma garantia de eliminação do viés. A recomendação de Bryan Ackermann, responsável de Estratégia e Transformação de IA da Korn Ferry, é direta: «Verifique o trabalho antes de o enviar.» O conteúdo IA pode prejudicar as mulheres no trabalho? Estudo deteta viés de género na escrita de emails aparece primeiro em Revista Líder.