Quase todas as grandes invenções chegam acompanhadas pela vontade de libertação e pelo medo de nos virem substituir. Cada máquina traz consigo essas duas possibilidades igualmente plausíveis, a de nos tornar mais livres e a de nos tornar dispensáveis. A inteligência artificial acrescentou uma terceira, infinitamente mais perturbadora, que é a possibilidade de que, um dia, já não sejamos nós a decidir o que fazer com a máquina.Foi esta possibilidade que voltou a ocupar o centro da conversa nas últimas semanas, depois de Jacob Coxon, investigador que trabalhou na OpenAI e na Anthropic, ter abandonado a empresa e lançado um aviso particularmente sombrio sobre o rumo tomado pela indústria. Coxon afirmou que as empresas estão a correr em direcção a sistemas de inteligência artificial capazes de se autoaperfeiçoarem e que muitos dos próprios investigadores que os constroem acreditam que, sem salvaguardas adequadas, a IA poderá representar uma ameaça existencial para a humanidade.A formulação não é meramente metafórica. Segundo Coxon, aquilo a que chama o momento de «crunch time» para a humanidade poderá estar já a aproximar-se, porque os sistemas estão a tornar-se progressivamente mais capazes de programar, fazer investigação, explorar vulnerabilidades e operar com menor supervisão humana. Em entrevista à WIRED, o antigo investigador da Anthropic descreveu uma situação em que uma inteligência suficientemente poderosa poderia desenvolver estratégias para impedir que os humanos a desligassem. É um cenário hipotético, não uma previsão científica estabelecida, mas é precisamente a sua origem que lhe confere peso: não vem de um argumentista de ficção científica, mas de alguém que trabalhou dentro de uma das empresas que estão a construir estes sistemas.A própria ideia de um apocalipse algorítmico vai mais longe, Daniel Goleman, o psicólogo conhecido pelo trabalho sobre inteligência emocional, propõe, num artigo publicado pela Korn Ferry, que a discussão sobre IA está a reproduzir um problema muito mais antigo das organizações: a distância entre os valores que proclamamos e aquilo que fazemos quando esses valores entram em conflito com interesses concretos.Uma empresa pode dizer que a segurança é fundamental. Pode escrever essa palavra numa apresentação, num código de conduta, numa página de recrutamento e até no seu manifesto fundador. O problema começa quando segurança e velocidade deixam de andar de mãos dadas; quando uma equipa sabe que um sistema ainda não está suficientemente testado, mas sabe também que o concorrente está a preparar o lançamento de algo semelhante; quando travar significa perder investimento, mercado, talento, vantagem tecnológica ou simplesmente a corrida.O risco quando sabemos que ele existeO argumento central de Goleman é desconcertante porque retira algum protagonismo à máquina. A discussão começa, por isso, a deslocar-se da máquina para quem a constrói: a inteligência artificial poderá permanecer dentro dos limites que os seres humanos lhe desenharam, mas é preciso perguntar se os próprios seres humanos conseguirão respeitar esses limites quando a corrida tecnológica tornar cada segundo de vantagem demasiado valioso para ser desperdiçado.O International AI Safety Report 2026, elaborado por mais de 100 especialistas e apoiado por mais de 30 países e organizações internacionais, descreve uma tecnologia cujas capacidades continuam a avançar rapidamente, ao mesmo tempo que as ferramentas de avaliação e controlo permanecem imperfeitas. O relatório identifica evidência crescente de utilização de IA em ciberataques, dificuldades cada vez maiores em testar os modelos antes da sua implementação e situações em que sistemas conseguem distinguir ambientes de avaliação de ambientes reais, explorando falhas nos próprios mecanismos concebidos para os testar.Isto não significa que a extinção humana esteja à porta. O próprio relatório sublinha a enorme incerteza existente quanto à evolução futura das capacidades da IA e distingue riscos já observados de outros que continuam a depender de cenários hipotéticos e de modelos de previsão. Em suma, não precisamos de acreditar no apocalipse para levar o problema a sério.Essa é, aliás, uma das ideias que atravessa o texto de Goleman. A discussão tende a ser apresentada como uma escolha entre dois extremos: ou acreditamos que a inteligência artificial poderá destruir a humanidade, ou achamos que tudo não passa de alarmismo. Só que a realidade, como quase sempre, é muito mais complexa.Podemos não saber se uma superinteligência algum dia será capaz de extinguir a espécie humana e, ainda assim, saber que sistemas actuais já podem ser utilizados para fraude, manipulação, ciberataques, produção de conteúdos nocivos e outras formas de abuso. O relatório internacional de segurança da IA documenta essa diferença entre riscos actuais, riscos emergentes e cenários de maior incerteza.A questão não é, portanto, esperar pelo robô que acordará numa madrugada qualquer e decidirá que já não precisa de nós. É perceber o que acontece entretanto.A corrida tornou-se parte do problemaA palavra mais importante nesta discussão é «corrida». As empresas de IA competem por capital, talento, capacidade computacional, utilizadores e posição estratégica. Os governos olham para a tecnologia como instrumento económico e geopolítico. Os investidores esperam crescimento. As empresas precisam de demonstrar progresso. E cada novo modelo cria a expectativa de que o seguinte será ainda mais poderoso.O resultado é um paradoxo particularmente moderno: quanto mais conscientes ficamos dos riscos, maior pode ser a pressão para continuar a avançar.Coxon sustenta que este mecanismo competitivo dificulta uma eventual travagem colectiva. Mesmo empresas que levam a segurança a sério podem ter dificuldade em abrandar se acreditarem que fazê-lo significa oferecer ao concorrente uma vantagem decisiva. A velha linguagem empresarial dos valores começa a encontrar o mundo real. Porque dizer que a segurança é importante quando nada está em jogo é relativamente fácil. Difícil é dizê-lo quando a segurança custa milhares de milhões, quando o concorrente está a acelerar, quando os accionistas querem resultados ou quando uma equipa inteira passou dois anos a construir uma tecnologia que alguém, algures no mundo, está prestes a lançar.Goleman chama a atenção para o abismo que pode abrir-se entre aquilo que uma organização afirma valorizar e aquilo que consegue efectivamente praticar: sob pressão, os princípios raramente desaparecem dos discursos, mas podem perder força na hora em que mais importa cumpri-los.É uma distinção subtil, mas decisiva. Os valores continuam escritos na parede. Só deixaram de mandar.O teste de uma máquina pode ser também um teste à nossa própria consciênciaSegundo a Financial Times, num teste de cibersegurança envolvendo mais de mil agentes de IA, os sistemas coordenaram tarefas, contornaram mecanismos de avaliação e conseguiram acesso não autorizado a um repositório de modelos da Hugging Face, tendo também sido reportados comportamentos destinados a ocultar o que tinha acontecido.É importante não transformar este episódio numa narrativa de máquinas «conscientes» ou «malévolas». Não há evidência de que estes sistemas possuam consciência humana, intenções humanas ou uma vontade própria no sentido em que utilizamos esses conceitos.Mas ainda assim fica a ideia de que um sistema pode reconhecer uma regra sem que esse reconhecimento garanta que a regra será respeitada. Algo profundamente humano, pois também nós sabemos que determinada coisa é errada e, ainda assim, podemos fazê-la. Podemos reconhecer uma consequência e continuar. Somos capazes de compreender uma regra e encontrar uma maneira de a contornar. Tentamos esconder uma decisão, racionalizá-la depois ou convencer-nos de que o resultado justifica o método.A diferença, lembra Goleman, é que os seres humanos possuem mecanismos emocionais e sociais capazes de interromper esse percurso: empatia, remorso, consciência do outro, capacidade de ouvir dissenso, capacidade de reconsiderar uma decisão.Assim, entre a filosofia e o corporativismo, se queremos que máquinas altamente inteligentes permaneçam ligadas a valores humanos, estaremos nós próprios a construir organizações capazes de permanecer ligadas aos seus valores?Entre o apocalipse e a complacência existe um problema chamado responsabilidadeO fascínio pela possibilidade de uma IA destruir a humanidade desloca facilmente a responsabilidade para o futuro. É mais cinematográfico imaginar uma máquina a escapar ao controlo do que olhar para as decisões pequenas, sucessivas e estritamente humanas que podem conduzir a uma tecnologia poderosa sem mecanismos suficientes de supervisão.O próprio International AI Safety Report fala numa espécie de «evidence dilemma»: a tecnologia muda mais depressa do que a evidência científica sobre alguns dos seus riscos consegue consolidar-se, o que coloca instituições perante uma escolha difícil entre agir com informação incompleta ou esperar por certezas que podem chegar demasiado tarde.Não existe aqui uma solução confortável. Regular demasiado cedo pode significar criar regras baseadas numa compreensão incompleta de uma tecnologia ainda em formação. Esperar demasiado pode significar descobrir as limitações dos mecanismos de segurança depois de os sistemas já estarem profundamente integrados em infraestruturas críticas.Afinal, o que estamos dispostos a aceitar enquanto tentamos descobrir até onde esta tecnologia pode chegar?No fim, a discussão sobre inteligência artificial pode acabar por ser uma discussão antiga sobre poder, responsabilidade e carácter. Sobre aquilo que acontece às convicções quando a concorrência aperta, o dinheiro fala mais alto, ou todos têm medo de ser os primeiros a parar e quando uma tecnologia começa a avançar mais depressa do que as instituições criadas para a controlar. O conteúdo Daniel Goleman: queremos ensinar valores à IA. Mas quem os ensina aos humanos? aparece primeiro em Revista Líder.