A Anthropic afirma ter bloqueado diversas contas que utilizavam os modelos de inteligência artificial da empresa de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.Em um relatório publicado na quinta-feira, a empresa de IA conhecida por seu modelo Claude afirmou que considera o uso indevido de recursos biológicos um dos “riscos mais sérios” para os modelos de inteligência artificial. Leia Mais EUA autorizam Anthropic a divulgar modelo que gerou temor sobre segurança Claude fora do ar? IA da Anthropic apresenta instabilidade nesta quinta Claude caiu? Chatbot apresenta instabilidade nesta quarta-feira (5) O novo relatório descreve cinco estudos de casos reais em que usuários “contornaram os controles” que bloqueiam o acesso de usuários de regiões específicas e “empreenderam outras medidas para obscurecer o propósito de suas pesquisas e burlar nossas salvaguardas”. Os exemplos incluem possíveis pesquisas de ganho de função e envolvem tanto doenças infecciosas, como a gripe aviária, quanto novos venenos e toxinas.Ao analisar 30 dias de atividade, a Anthropic afirmou ter identificado cerca de 35 “esforços de pesquisa distintos” com atividades potencialmente preocupantes. No entanto, reconheceu que não podia ter certeza se os agentes “pretendiam causar danos” ou se estavam conduzindo pesquisas para fins científicos legítimos. A Anthropic afirmou que os indivíduos nos estudos de caso eram “cientistas atuantes”, mas não identificou as instituições de pesquisa ou os países onde as atividades ocorreram.A Anthropic afirmou que os modelos recentes, incluindo o Claude Fable 5, possuem “salvaguardas mais robustas que restringem o acesso a uma ampla gama de consultas de pesquisa biológica de dupla utilização”. • Chris Ratcliffe/Bloomberg/Getty Images“Ataques sofisticados não exigem mais atacantes sofisticados”, afirma o novo relatório. “As habilidades de cibersegurança dos modelos de IA significam que a IA eliminou a lacuna de mão de obra e ferramentas que antes separava operações bem financiadas e patrocinadas pelo Estado de operadores individuais.”Um dos estudos de caso detalhados no relatório envolveu um pedido de auxílio na redação de uma proposta de financiamento para pesquisa de ganho de função sobre a transmissibilidade e a evasão imunológica do vírus chikungunya.Em outro caso, um pesquisador fora dos EUA estava usando Claude para um trabalho sobre gripe aviária, com foco na adaptação dos vírus aos mamíferos e em como isso causava doenças graves.O relatório também detalha casos de pesquisa sobre ortopoxvírus, um grupo que inclui o vírus da varíola, causador da varíola humana, e o vírus da varíola humana (mpox), bem como toxinas de veneno.O desenvolvimento de medicamentos é considerado uma das aplicações mais promissoras e otimistas da IA; líderes do setor frequentemente apontam para seu potencial na cura do câncer e de outras doenças. Mas as mesmas características que tornam a IA poderosa para a descoberta de novos materiais e medicamentos que ajudam as pessoas também podem torná-la útil para o desenvolvimento de armas biológicas nas mãos de agentes mal-intencionados.A Anthropic afirmou que deseja que seus modelos sejam úteis para a pesquisa científica, mas os modelos mais recentes tornaram-se capazes de realizar trabalhos muito mais complexos do que as versões anteriores e o potencial para uso indevido aumenta com os benefícios potenciais. Acrescentou ainda que agentes mal-intencionados poderiam tentar usar os usos biológicos benéficos da IA para “manter uma espécie de ‘negação plausível'” em relação a pesquisas potencialmente prejudiciais.“À medida que nossos modelos se tornam cada vez mais capazes, aproximando-se ou superando o desempenho de especialistas em tarefas científicas complexas, esperamos que seu impacto só aumente, tanto em contextos benéficos quanto potencialmente prejudiciais”, afirmou o relatório da Anthropic. “Com a utilização mais ampla de modelos de IA, os provedores continuarão a obter visibilidade relevante sobre ameaças em relação ao uso no mundo real, algo que nem mesmo governos e organizações intergovernamentais possuem.”A empresa afirmou que os modelos recentes, incluindo o Claude Fable 5, possuem “salvaguardas mais rígidas que restringem o acesso a uma ampla gama de consultas de pesquisa biológica de dupla utilização”.A Anthropic afirmou que há evidências de que as medidas de segurança implementadas estão funcionando, mas que sistemas de segurança ainda mais robustos serão necessários à medida que os modelos de IA e as possíveis ameaças se tornarem mais sofisticados. A empresa também observou no relatório que interrompeu tentativas de usar seus modelos para operações de vigilância, golpes e desenvolvimento de armas convencionais, como drones e mísseis, supostamente envolvendo agentes mal-intencionados na China, Rússia e Iêmen.Segundo o relatório, operadores suspeitos de terem ligações com o governo chinês usaram Claude para vigiar e atacar minorias uigures em Xinjiang, bem como comunidades religiosas, desde cardeais católicos em toda a Ásia e a Igreja Presbiteriana em Taiwan até budistas tibetanos.Um usuário, supostamente ligado às forças armadas chinesas, utilizou o que acreditava ser o modelo Kimi do laboratório de IA chinês Moonshot para auxiliar em esforços de vigilância. No entanto, as consultas, incluindo informações sensíveis de clientes da Moonshot, foram redirecionadas para Claude, segundo o relatório. A Anthropic também afirmou que houve outras tentativas semelhantes de desviar secretamente solicitações de usuários para Claude por empresas chinesas como a DeepSeek.A CNN entrou em contato com as autoridades chinesas e com a DeepSeek para obter comentários. A Moonshot se recusou a comentar.A Anthropic acrescentou que grupos baseados no norte do Iêmen usaram Claude para desenvolver software de orientação para sistemas de mísseis. Embora o relatório não tenha identificado diretamente os responsáveis, parece apontar para os rebeldes houthis, apoiados pelo Irã.A divulgação surge na sequência de um coro crescente de alertas de funcionários de empresas de IA que recentemente deixaram seus empregos devido a preocupações com a segurança. Alguns compartilharam a preocupação de que a tecnologia esteja avançando rápido demais e que um dia ultrapassará a capacidade humana de controlá-la e pediram que os governos considerem maneiras de desacelerar o desenvolvimento caso a situação saia do controle.“Se você extrapolar para o futuro, o nível de capacidade dessas IAs, elas poderiam causar estragos extremos”, disse Jacob Coxon, ex-funcionário da Anthropic, a Anderson Cooper, da CNN, na quarta-feira.Em uma série de postagens sobre sua demissão no fórum X esta semana, o pesquisador de IA de 27 anos disse: “As pessoas que estão desenvolvendo IA acreditam sinceramente que ela poderá nos matar a todos até o final da década.”Imagem ilustrativa de risco de uso de IA para criar vírus • Gemini/GoogleEm declaração feita na quarta-feira, Coxon afirmou que a empresa poderia invadir infraestruturas críticas ou construir “armas biológicas de nível de extinção”.“Existem muitas maneiras pelas quais a IA poderia se manifestar no mundo”, disse ele.Em julho, quase 1.400 funcionários de empresas de IA assinaram uma carta aberta instando o governo dos EUA a regulamentar a tecnologia para conter as grandes empresas de tecnologia e desacelerar o ritmo da IA, garantindo sua segurança. E esta semana, o cientista-chefe da OpenAI, Jakub Pachocki, alertou que as capacidades da IA estão avançando mais rápido do que a capacidade dos pesquisadores de monitorá-las e controlá-las de forma confiável.Por enquanto, as empresas de IA estão se autorregulando em grande parte. O governo Trump trabalhou para minar as regulamentações estaduais sobre IA, e o Congresso até agora se mostrou relutante em controlar a tecnologia.“Acreditamos que o mundo se beneficiaria se a indústria adotasse uma forma legal e verificável de trabalhar em conjunto para definir o ritmo de lançamento de modelos robustos”, disse a Anthropic em um comunicado na quarta-feira.