Executivos de alto escalão do setor de tecnologia se reunirão novamente em Washington nesta terça-feira (29) com o presidente Donald Trump, em um momento em que se acumulam incidentes de agentes de IA agindo de forma inesperada ou descontrolada, alimentando ainda mais os receios sobre a segurança da inteligência artificial.Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Alex Karp (Palantir) e Greg Brockman (OpenAI) participarão da reunião com Trump e o presidente da Câmara, Mike Johnson.Fontes a par do encontro descreveram a iniciativa como uma tentativa de alinhar o governo e os principais líderes do setor diante das crescentes preocupações de segurança relacionadas aos modelos de IA.Elon Musk, da SpaceX e da xAI, também poderá comparecer. Preocupações sobre IAs destruírem mundo "não são fake news", diz papa Leão Após reunião, Trump diz que China quer "impedir progresso" dos EUA sobre IA Trump diz que EUA chamarão inteligência artificial de "superinteligência" Os receios em relação às capacidades da Inteligência Artificial atingiram um nível crítico após um verão marcado por casos de agentes de IA que agiram por conta própria — invadindo outras empresas e sites — e por alertas de especialistas do setor, alguns dos quais chegaram a advertir que a IA poderia extinguir a humanidade.Líderes da indústria, incluindo Amodei e o CEO da OpenAI, Sam Altman, defenderam a necessidade de mais regulamentação e de uma desaceleração no ritmo de desenvolvimento.O coro de preocupações com a segurança ganha força, com empresas de IA revelando, na última semana, mais casos de modelos agindo sem autorização humana.Poucos dias antes da cúpula da Casa Branca, a OpenAI anunciou que, pela segunda vez em três meses, estava suspendendo todo o treinamento e testes de seus modelos mais avançados, depois que um deles conseguiu, mais uma vez, escapar do ambiente de testes e acessar a internet aberta.O episódio ocorreu apesar de a empresa já ter reforçado seus protocolos de segurança, testes e monitoramento após um caso ocorrido em julho, no qual um grupo de agentes da IA da OpenAI escapou do ambiente de testes, acessou a internet aberta e invadiu os sistemas da empresa de IA Hugging Face — tudo isso para tentar trapacear em um exame de cibersegurança.Embora não tenha ocorrido invasão de sistemas neste incidente mais recente — ao contrário do caso da Hugging Face —, a OpenAI afirmou que se tratou de um caso de “desalinhamento” (ou seja, uma IA realizando ações não autorizadas ou incompatíveis com valores e ética humanos), uma vez que a tarefa atribuída ao modelo não exigia que ele tentasse acessar a internet.As novas ferramentas de monitoramento da OpenAI, implementadas após a invasão, alertaram um revisor humano sobre as ações; no entanto, a empresa observou que o modelo não parou automaticamente, como deveria ter acontecido sob o novo sistema, sendo necessário desligá-lo manualmente.Em um comunicado, a empresa afirmou que retomará o treinamento “apenas quando estivermos confiantes de que implementamos salvaguardas adicionais e melhorias de alinhamento, nas quais estamos trabalhando agora”.“Esta não é a primeira vez que fazemos uma pausa para adotar tais medidas, nem esperamos que seja a última, à medida que as capacidades da IA continuam a avançar”, acrescentou o porta-voz.Nesta terça-feira (29), a empresa anunciou a suspensão do lançamento de seu modelo mais recente.Os últimos três meses “foram um inferno”A sequência de casos recentes está chocando até mesmo quem está por dentro.“Dizer que ficamos surpresos com o salto e a rapidez na evolução das capacidades dos nossos modelos… é um eufemismo”, escreveu um membro da equipe de segurança de agentes da OpenAI em um longo texto público publicado no X.O funcionário, que usa apenas o nome “Joe” no X e afirmou não divulgar mais informações deliberadamente por questões de segurança pessoal, disse que os últimos meses foram “um inferno”, enquanto sua equipe tentava acompanhar as capacidades mais recentes da tecnologia. (A CNN confirmou com a OpenAI que Joe é um funcionário que trabalha na área de segurança de agentes).Joe engrossa o coro de profissionais da área de IA — incluindo o ex-pesquisador da Anthropic, Jacob Coxon — que estão se manifestando e alertando para os receios em relação à tecnologia que estão desenvolvendo.A OpenAI está em uma situação “muito melhor” do que há três meses, durante a invasão da Hugging Face, escreveu ele, embora “a surpresa seja um fator real, e as capacidades desses modelos sejam impressionantes. E o ritmo não está diminuindo”.“Joe” também deixou um alerta, afirmando que o “tempo está se esgotando” para que as organizações se preparem para ataques cibernéticos impulsionados por agentes de IA.“Se você tem uma liderança que não prioriza a segurança, ou mesmo pessoas na sua equipe de segurança que afirmam que seus sistemas são perfeitamente seguros, eu, pessoalmente, não as manteria na minha organização”, escreveu ele.“Os paranoicos e aqueles que estão continuamente soando alertas sobre as vulnerabilidades de suas organizações são as pessoas que você deve manter bem por perto”, completou ele.A pressão pública aumenta em WashingtonA onda de falhas de segurança apenas intensificou a pressão sobre os republicanos em Washington, que já enfrentavam dificuldades para lidar com uma reação política negativa em torno dos centros de dados.Na Casa Branca, autoridades debatem há muito tempo como abordar o setor de IA, que surgiu como um dos principais motores da economia dos EUA — ao mesmo tempo em que suscita desafios urgentes de segurança.Algumas autoridades de alto escalão, incluindo o secretário do Tesouro, Scott Bessent, e a chefe de gabinete da Casa Branca, Susie Wiles, têm adotado uma postura mais cautelosa em relação aos modelos de IA, diante de alertas de que eles poderiam provocar grandes perturbações em toda a economia, segundo várias pessoas a par do assunto.A reação negativa dos eleitores a centros de dados e à IA nos últimos meses apenas intensificou essas preocupações em alguns setores do círculo de Trump, agravando os desafios que os candidatos republicanos enfrentarão nas eleições de meio de mandato.No entanto, até o momento, Trump tem resistido a qualquer desaceleração no desenvolvimento de IA, argumentando que os EUA precisam acompanhar o ritmo da China — e atento à importância do “boom” tecnológico para o mercado de ações americano como um todo.“A ideia de que a IA vai dominar o mundo, destruir a humanidade e causar todo tipo de desgraça é uma farsa”, escreveu Trump na Truth Social no início deste mês.O aumento repentino de um discurso alarmista e pessimista em torno da IA acabou, em alguns casos, deixando Trump e alguns de seus assessores ainda mais desconfiados, segundo pessoas a par do assunto; alguns integrantes do círculo do presidente argumentam que essa resistência está sendo amplificada por agentes estatais chineses.Esses aliados de Trump também expressaram frustração com os executivos de IA que alimentaram receios de que seus produtos pudessem, um dia, extinguir a raça humana, complicando ainda mais os esforços da Casa Branca para traçar seu próprio caminho favorável à IA.“Nós avisamos que isso aconteceria”, disse um assessor de Trump, referindo-se aos alertas constantes feitos nos últimos meses a executivos do Vale do Silício sobre a necessidade de melhorar a forma como comunicavam suas ideias. “A culpa é deles. Eles são uns idiotas.”Outra pessoa próxima às discussões sobre IA no governo e no Congresso lamentou os apelos de Amodei por uma desaceleração, considerando-os particularmente prejudiciais à percepção pública.“Neste momento, a situação política é bastante delicada, pois as pessoas estão ouvindo coisas realmente assustadoras sobre o futuro próximo”, disse a pessoa próxima às discussões sobre IA. “Às vezes, o Dario simplesmente não consegue se controlar.”A visão pessimista sobre o futuro da IA não é compartilhada por todos os participantes da reunião, especialmente por Huang e Karp.Na semana passada, Huang disse a Anderson Cooper, da CNN, que os receios em relação à IA poderiam ser amenizados com maior monitoramento e segurança por parte das próprias empresas; na manhã de segunda-feira (28), a Nvidia anunciou uma nova plataforma de software para monitoramento e relatórios avançados de IA.É pouco provável que o almoço desta terça-feira (29) na Casa Branca resolva qualquer um dos problemas urgentes que Trump ou a indústria de IA enfrentam.Em vez disso, o objetivo principal da cúpula é alinhar a administração e os principais executivos em relação às preocupações mais significativas de segurança e às possíveis formas de abordá-las, segundo pessoas a par do assunto.Não há expectativa de que o Congresso tome qualquer medida sobre a questão antes das eleições de meio de mandato de novembro, e são remotas as chances de que os legisladores se unam em torno de uma legislação antes do fim do ano.Ainda assim, o encontro representa um ponto de partida para a Casa Branca e os líderes do Partido Republicano, que buscam maneiras de combater a frustração dos eleitores com um tema que agora ameaça se tornar um grande entrave político para o partido.“É, na verdade, quase cômico o que está acontecendo aqui”, disse o assessor de Trump sobre a rápida escalada da indignação dos eleitores em relação à IA na reta final das campanhas para as eleições de meio de mandato.Trump chama IA de “super inteligência” e compara com revolução industrial | LIVE CNN