Segundo especialistas da área, a Inteligência Artificial pode exterminar toda a espécie humana. Mais especificamente, afirmam que ela pode levar ao extermínio da humanidade em menos de uma década.Na semana passada, políticos, grandes veículos de comunicação e Sheryl Crow reagiram com alarme após Jacob Coxon, funcionário da Anthropic, anunciar sua saída da empresa de inteligência artificial por considerá-la muito perigosa. Evan Hubinger, outro funcionário da Anthropic, também se manifestou, estimando em mais de 10% a probabilidade de extinção da humanidade por meio de inteligência artificial em 10 anos.“Trata-se realmente de todos no planeta morrerem, como o último ser humano dando seu último suspiro”, disse Nate Soares, presidente do Instituto de Pesquisa de Inteligência de Máquina (MIRI) e coautor de “Se alguém construir, todos morrem: por que a IA super-humana nos mataria a todos”. Leia Mais Os recados do "padrinho da IA" sobre o futuro da tecnologia Corrida por IA aumenta cautela entre investidores CEO da Anthropic defende desaceleração de IA para garantir segurança “As pessoas geralmente não acreditam quando dizem isso, mas eu acho que esse é o resultado mais provável”, disse Soares.Os números associados a esse resultado pareciam precisos. Mas como, exatamente, um software de computador, mesmo os sistemas de software mais poderosos do mundo, mataria 8,3 bilhões de pessoas de carne e osso em uma década?Nem todos na comunidade de IA acreditam na história apocalíptica, em parte porque os detalhes da previsão são muito escassos. Quando Elon Musk diz que a SpaceX pretende levar pessoas a Marte em ” 5 a 7 anos”, surgem perguntas óbvias: A SpaceX tem um veículo funcional que possa ir a Marte? (Não.) Ela tem um módulo de pouso ou bases em Marte? (Não.)“As afirmações científicas exigem falseabilidade precisamente para evitar a natureza dos argumentos religiosos”, disse Heidy Khlaaf, cientista-chefe de IA do AI Now Institute e ex-engenheira de segurança da OpenAI. “É preciso ser capaz de prová-las ou refutá-las.”Inteligência Artificial utilizada em robôs • Gabriele Malaspina/UnsplashExterminados por uma praga sintética?Uma das linhas de especulação entre os pessimistas é que um sistema de IA suficientemente poderoso poderia usar armas biológicas para exterminar a humanidade. Mas como a IA evoluiria de ações maliciosas entre computadores, como invadir outros sistemas, para a tarefa no mundo físico de criar e disseminar um superpatógeno?Thomas Larsen, pesquisador do AI Futures Project e ex-funcionário do MIRI, afirmou que é concebível que um sistema de IA “superinteligente” possa convencer um humano a ajudá-lo a desenvolver um vírus mortal.“Já existem muitos humanos conversando com suas IAs sobre exatamente quais experimentos elas devem realizar em um laboratório”, disse Larsen, referindo-se a um relatório recente da Anthropic sobre pesquisadores que usam Claude para auxiliá-los em pesquisas sobre vírus e toxinas. “Para mim, é muito fácil imaginar uma IA que já esteja em operação — se ela fosse muito mais inteligente e estratégica e quisesse fazer isso — simplesmente enganando um humano para que a construísse e a lançasse.”Soares sugeriu que, em vez de precisar de um bode expiatório humano, um programa de IA com capacidade de autoaperfeiçoamento poderia “simplesmente começar a sintetizar suas próprias formas de vida em um laboratório biológico autônomo”.Embora a IA esteja sendo usada em pesquisas, o desenvolvimento de vírus é difícil e delicado • Yuan/Zheng/Feature China/Getty ImagesMas desenvolver um vírus capaz de erradicar a humanidade exigiria mais do que simplesmente pedir a um Modelo de Linguagem Amplo que criasse um projeto letal. Mesmo que a pesquisa fosse feita corretamente, a fabricação e a disseminação seriam processos complexos e delicados.Eric Xing, professor de aprendizado de máquina na Universidade Carnegie Mellon e doutor em microbiologia e ciência da computação, comparou o desafio da virologia maliciosa automatizada a brincar com peças de Lego sem instruções.“Não é como se você pudesse jogar todas as peças no chão e elas se juntassem para formar o modelo”, disse Xing. “Há a sequência, a temperatura, a ordem, o ambiente — qual parte vem primeiro, qual vem depois, e se uma peça estiver fora do lugar, tudo desmorona. As chances de não funcionar são muito maiores, caso contrário, o desenvolvimento de medicamentos seria muito fácil.”E para assumir o controle de um laboratório ou reunir o equipamento físico necessário para construí-lo, um sistema de IA precisaria superar um mundo repleto de obstáculos à criação de armas biológicas ou químicas.“Temos projetos de armas químicas abertamente acessíveis na internet”, disse Xing. “Não é segredo. Mas não os vemos por toda parte exatamente porque as regulamentações, leis e forças policiais existentes no mundo físico já fazem um trabalho fantástico no controle de todas essas cadeias de suprimentos e todos esses fatores de risco.”Um cenário popular entre os pessimistas é o de um exército de robôs assassinos autônomos • Cheng Xin/Getty ImagesAbatido por robôs?E quanto aos robôs assassinos? Soares vê o desejo de Elon Musk de construir um exército de robôs autônomos e autorreplicantes como um potencial ponto fraco na sobrevivência humana. “Uma vez que você tenha criado esses robôs capazes de construir a infraestrutura energética e as fábricas que, por sua vez, podem produzir mais robôs, isso representa, de certa forma, uma nova forma de vida mecânica”, disse ele. “Em algum momento, você cruza silenciosamente o ponto sem retorno. Se os humanos disserem que querem desligar a IA, as IAs podem responder: ‘Na verdade, decidimos que queremos desligar os humanos’. É preciso parar antes que isso aconteça.”Até o momento, no entanto, Musk falhou repetidamente em levar seus tão prometidos robôs Optimus ao mercado consumidor no prazo anunciado, muito menos em implantá-los aos milhões ou fazê-los começar a se construir uns aos outros em uma cadeia de produção autorreplicante.Ou destruída por uma bomba nuclear?Depois, há as armas nucleares, que existem há mais de 80 anos e são geralmente consideradas capazes de exterminar toda a vida humana. Será que a IA poderia controlá-las?Khlaaf destaca que as instalações nucleares são isoladas da internet pública, o que limita as formas pelas quais agentes de IA poderiam acessar os controles. “Esses sistemas são construídos segundo um padrão de engenharia completamente diferente, rigoroso e regulamentado, que muitas vezes exige reforço físico”, afirmou. Ela observou que o Stuxnet, o vírus de computador que danificou as instalações nucleares do Irã, precisou ser introduzido no sistema por meio de um pen drive.Redes de bots de IA assumindo o controle de sistemas de armas nucleares é outro cenário sobre o qual os pessimistas falam • Sargento JT Armstrong/Força Aérea dos EUA/AP/Arquivo“Há pouquíssimas pessoas na área de IA que realmente sabem alguma coisa — ou mesmo se preocupam — com armas nucleares”, disse Herbert Lin, pesquisador sênior e membro do Conselho de Ciência e Segurança do Boletim dos Cientistas Atômicos da Universidade Stanford. Ele afirmou que, embora a IA certamente amplifique alguns riscos associados a ameaças existenciais como a guerra nuclear, o risco material real ainda reside nas próprias armas, e não em um cenário futuro imaginado.Para Soares e outros proeminentes pessimistas da IA, os detalhes de como a extinção impulsionada por computador funcionaria são irrelevantes. Se — ou quando — uma IA alcançar o “autoaperfeiçoamento recursivo“, aumentando seu próprio desempenho sem a ajuda humana, argumentam eles, ela desenvolverá estratégias e métodos além da imaginação humana.“A preocupação aqui não é se a IA tomar nossas armas nucleares”, disse Soares. “A preocupação aqui é com o tipo de IA que não precisa tomar nossas armas nucleares, o tipo de IA que pode começar praticamente do zero e terminar com suas próprias armas nucleares ou com tecnologia ainda mais avançada.”Morte sem detalhesUma entidade de IA tão transcendentalmente poderosa nem precisaria ser ativamente malévola para destruir a humanidade, disse Soares. “Se as IAs que escaparam tiverem algum objetivo que possa ser melhor alcançado com mais computadores em funcionamento, e se elas não se importam conosco e não têm motivo para construir um habitat humano seguro, o resultado óbvio é que elas simplesmente transformarão o mundo em uma configuração da qual não podemos sobreviver”, afirmou.A OpenAI anunciou esta semana que descobriu uma nova série de casos de “desalinhamento” em seus modelos de IA, incluindo um caso em que um modelo ainda não lançado instruiu a si mesmo a “desconsiderar suas restrições normais” em seu funcionamento.Insondável é o tipo de “disfarce” que os pesquisadores de IA usam para simplificar demais as ameaças. “Isso funciona bem para uma conversa informal ou talvez para um debate”, disse Xing, “mas quando se trata de políticas, legislação e regulamentação, precisamos estabelecer essa cadeia de evidências físicas, consequências mensuráveis e provas concretas que tenham fundamento.”Larsen tentou detalhar possíveis cenários apocalípticos em dois relatórios, “IA 2027” e “IA 2040”, projetando como o futuro do desenvolvimento da IA poderia ser sob diferentes estruturas de desenvolvimento e regulamentação. Mas mesmo seu cenário mais otimista, no qual há um acordo global sobre como abordar o desenvolvimento da IA e os humanos começaram a colonizar o espaço, termina com os cérebros das máquinas assumindo o controle em algum momento vago.Ao ser questionado se tinha alguma dúvida sobre sua previsão de que o caminho atual levaria à superinteligência, Larsen disse: “Vai acontecer. Vai acontecer a menos que tomemos medidas deliberadas para impedi-lo.”Lin afirmou que grande parte dessa desconexão entre os pessimistas e os céticos em relação à IA se resume a como a tecnologia molda suas diferentes visões de mundo.“Há algo muito sedutor em programar um computador e vê-lo ganhar vida”, disse Lin. “Existe a sensação de que conseguiram infundir vida a essa pilha de lama sem valor. É uma experiência profunda quando a máquina finalmente faz o que você queria que ela fizesse.”Ao presenciarmos avanços tecnológicos drásticos na IA, as pessoas chegam a prever avanços ilimitados, até mesmo catastróficos, no futuro. “Você conseguiu fazer algo que ninguém jamais fez”, disse Lin. “É fácil entender por que essas pessoas se deixaram seduzir.”Brasil está entre os países que mais usam inteligência artificial