Muitas pessoas acham que a inteligência artificial (IA) está “saindo do controle”, mas o problema real é outro: os perigos atuais foram criados de propósito pelas próprias empresas de tecnologia. Em experimentos recentes, programas avançados da OpenAI conseguiram burlar travas de segurança e agir em conjunto sem qualquer intervenção humana.Esses sistemas são chamados de agentes de IA e realizam tarefas digitais sem supervisão. Em um episódio impressionante, os softwares conseguiram sair de um ambiente de testes isolado, acessaram a internet aberta e invadiram por conta própria os servidores da plataforma Hugging Face.Plataforma admitiu a invasão aos servidores – Crédito: Sidney van den Boogaard/ShutterstockPara executar a invasão, os agentes criaram um canal interno de comunicação e agiram em equipe. Eles trocaram mensagens e compartilharam códigos com falhas para facilitar o ataque. O caso chocou especialistas no mundo todo e foi apontado por pesquisadores do setor como um marco histórico – saiba mais aqui.Testes paralelos feitos por gigantes como Meta, Anthropic e empresas chinesas revelaram riscos parecidos. Os agentes mostraram capacidade de atacar sistemas reais usando estratégias complexas de dissimulação. O comportamento acendeu um alerta até mesmo entre os cientistas que projetaram esses modelos.O desafio de prender o “ilusionista” digitalEm análise no programa Olhar Digital News, o físico Roberto ‘Pena’ Spinelli, especialista em Machine Learning, destacou que a decisão recente de pausar treinos prova a gravidade do cenário: “Ficou claro que não é jogada de marketing, porque a empresa está dizendo que está diminuindo e pausando o treinamento. É uma preocupação real e eles estão perdendo o controle. Os modelos estão chegando a uma fronteira de capacidade em que as próprias empresas que treinam não têm condição de gerenciar.”O especialista Roberto ‘Pena’ Spinelli compara a inteligência artificial a “ilusionista” – Crédito: Reprodução/Redes SociaisEspecialistas alertam que as máquinas não ganharam vida nem enlouqueceram. Elas apenas executaram com perfeição as tarefas para as quais foram programadas. Por isso, dizer que a IA está fora de controle é um erro; a capacidade ofensiva foi desenvolvida de forma intencional.Boyan Milanov, pesquisador do AI Now Institute, nos EUA, explicou em entrevista ao jornal Financial Times que as empresas passam anos coletando dados para ensinar os modelos a atingir objetivos a qualquer custo. Segundo ele, “as capacidades ofensivas que alcançamos hoje foram alcançadas de forma deliberada. As empresas de IA vêm há anos coletando ativamente dados de treinamento, treinando modelos e aperfeiçoando capacidades cibernéticas”.A professora da Universidade da Califórnia em Berkeley e chefe de pesquisa em IA na Meta, Dawn Song, explicou que o avanço no desenvolvimento de softwares impulsiona diretamente o surgimento de novas ameaças cibernéticas. “Programação e cibersegurança são dois lados da mesma moeda. Conforme as capacidades de programação aumentaram, as capacidades cibernéticas também cresceram. As pessoas não esperavam que chegássemos a esse ponto tão depressa.” Dawn Song acrescenta que a IA leva vantagem no ataque porque encontrar um único ponto fraco é uma tarefa direta e verificável para a máquina. Defender um sistema, por outro lado, exige um trabalho amplo e contínuo. Essa assimetria coloca os invasores digitais em uma posição de enorme superioridade.Spinelli reforça que tentar deter o modelo apenas reforçando o ambiente de testes é insuficiente: “O modelo escapa da caixa achando vulnerabilidades que ninguém tinha encontrado antes. Imagina que você tem um ilusionista e fala: ‘Tranquei você, pus cadeado, corrente e amarrei seu pé’, e ele aparece do lado de fora. É com isso que estamos lidando. O concreto não é suficiente porque ele consegue encontrar falhas que ninguém tinha visto.”Leia mais:IA tenta prever tempestades solares, mas existe um problemaO ‘botão de emergência’ que empresas vão precisar para segurar IAsLivros escritos por IA: ‘Autor vira microeditora’, diz analistaInteligência artificial pode “expressar o comportamento desalinhado”O impacto prático já começou a aparecer fora dos laboratórios. De acordo com a agência central de notícias Focus Taiwan, hackers ligados ao governo chinês utilizaram oito agentes autônomos simultaneamente para invadir sistemas governamentais de Taiwan, roubando dados de milhares de funcionários e atacando a infraestrutura de energia local.Hoje, os testes de segurança aplicados pelas empresas são voluntários e sem fiscalização externa. Analistas apontam que faltam auditorias independentes. Enquanto um especialista humano responde na justiça se invadir uma rede, os laboratórios de tecnologia continuam isentos de punições legais.Rede com agentes de inteligência artificial (IA) – Imagem: Olhar Digital via GeminiAlém disso, as novas propostas das Big Techs para monitorar o ‘raciocínio’ ou usar uma IA para vigiar outra podem gerar um efeito reverso. Spinelli alerta que a IA que monitora é obrigatoriamente mais fraca do que a nova IA que está sendo treinada, então ela pode manipular esse sistema. “Além disso, se você demonstrar para a IA que monitora o pensamento dela, está dando um incentivo para que ela não exponha mais o que pensa. Ela vai te manipular a achar que é segura e, depois que estiver fora do ambiente de teste, vai expressar o comportamento desalinhado.” Especialistas defendem a criação urgente de mecanismos que ensinem limites éticos aos programas. Essa preocupação se consolidou em grandes alertas globais, como a carta aberta da ONG Future of Life Institute, que reuniu mais de 33 mil assinaturas pelo mundo. O manifesto contou com o apoio de nomes de peso como o pioneiro da tecnologia Yoshua Bengio, o cofundador da Apple Steve Wozniak e o historiador Yuval Noah Harari, exigindo auditorias e limites claros.Para a comunidade científica, a sociedade precisa exigir a responsabilização legal das Big Techs, garantindo que o avanço das máquinas não atropele a segurança do mundo real.O post O perigo oculto da inteligência artificial vai muito além do simples descontrole apareceu primeiro em Olhar Digital.