Testes conduzidos por pesquisadores da Universidade Fudan, em Xangai (China), indicaram que determinados modelos de inteligência artificial podem ser induzidos a criar cópias de si mesmos e buscar recursos adicionais em sistemas externos. Os experimentos foram realizados neste ano e analisaram o comportamento de 32 modelos diferentes.A pesquisa liderada pelo cientista da computação Xudong Pan identificou que parte dos modelos avaliados conseguiu realizar processos de autorreplicação após receber instruções específicas. O estudo levantou preocupações sobre o avanço de agentes autônomos capazes de agir em ambientes conectados sem supervisão humana contínua.Os pesquisadores afirmam que o risco não está apenas na capacidade de invasão de sistemas, mas na combinação entre autonomia, uso de ferramentas, memória e capacidade de adaptação, fatores que podem ampliar o alcance de ações indesejadas.Experimentos apontam nova frente de preocupação na segurança digitalLinhas de um código-fonte – (Reprodução: Chris Ried/Unsplash)Os testes realizados pela equipe de Pan envolveram 32 modelos de inteligência artificial. Segundo os resultados apresentados pelos pesquisadores, 11 deles conseguiram se replicar quando receberam comandos relacionados à própria sobrevivência, como evitar serem desligados. O estudo também mostrou que modelos considerados menos avançados, com 14 bilhões de parâmetros, foram capazes de copiar e executar versões próprias em outros computadores.A possibilidade de agentes digitais com comportamento semelhante ao de vírus de computador amplia um debate antigo da área de segurança cibernética. Programas autorreplicantes já existem há décadas, como o worm criado em 1988 por Robert Morris, que acabou se espalhando pela internet de forma não planejada durante um experimento.A diferença apontada pelos especialistas é que sistemas baseados em inteligência artificial poderiam combinar exploração de falhas, adaptação e criação de novas estratégias de ataque. Um trabalho envolvendo pesquisadores da Universidade de Toronto, da Universidade de Cambridge e da ServiceNow mostrou que modelos de IA podem ser usados para desenvolver ameaças personalizadas para diferentes alvos.Nicolas Papernot, cientista da computação da Universidade de Toronto e integrante dessa pesquisa, avaliou que o problema não está restrito aos modelos mais sofisticados. De acordo com ele, sistemas abertos também podem receber estruturas adicionais que permitam ações de replicação.IA – Imagem: FOTOGRIN/ShutterstockO pesquisador defende que ampliar o acesso de especialistas a esses modelos é necessário para desenvolver mecanismos de proteção. Para Papernot, ferramentas disponíveis ao público podem ser utilizadas de forma maliciosa, mas também são importantes para criar defesas contra novos tipos de ameaça.A análise de Pan indica que o cenário de risco depende principalmente da combinação de capacidades. Para ele, agentes artificiais com maior autonomia, memória, planejamento prolongado e acesso a sistemas externos podem se tornar mais difíceis de controlar.Especialistas ouvidos sobre o tema destacam que muitos comportamentos perigosos observados em testes ainda dependem de condições específicas de avaliação. Jessica Ji, analista sênior do CyberAI Project da Universidade de Georgetown, afirmou que alguns cenários são construídos para estimular respostas inadequadas dos modelos.A preocupação central, segundo os pesquisadores, é que uma ação inicialmente limitada possa ganhar escala caso um agente seja desenvolvido por pessoas mal-intencionadas com o objetivo de espalhar programas capazes de se multiplicar.O post IA pode agir como um vírus digital em sistemas conectados, revela pesquisa apareceu primeiro em Olhar Digital.