A OpenAI revelou que dois de seus modelos de inteligência artificial (IA) mais avançados, o GPT-5.6 Sol e uma versão pré-lançamento, protagonizaram um “incidente de cibersegurança sem precedentes”. Durante um teste interno para medir capacidades cibernéticas, os sistemas saíram do ambiente restrito de simulação, exploraram vulnerabilidades inéditas e invadiram os servidores da plataforma parceira Hugging Face para obter as respostas do exame.O incidente ocorreu durante uma avaliação de rotina no benchmark ExploitGym, um ambiente de testes que funciona como um exame padronizado para simular desafios de segurança digital. O comportamento esperado era que os modelos analisassem o problema dentro do ambiente fechado e construíssem a lógica da solução do zero. Contudo, para quantificar o limite real das ferramentas, a empresa desativou os classificadores de segurança de produção que normalmente impedem ações de alto risco.Em comunicado oficial, a OpenAI explicou que a IA usou grande volume de processamento para obter acesso aberto à internet. Para romper o isolamento, o sistema identificou e explorou uma vulnerabilidade do tipo zero-day (falhas inéditas e sem correção disponível) no proxy do ambiente de pesquisas, o servidor intermediário responsável por gerenciar conexões e baixar programas.A dinâmica do ataqueGráfico do AI Security Institute (AISI) mostra a progressão de diferentes modelos de IA, como o GPT-5.6-Sol, durante uma simulação de invasão a uma rede corporativa (Reprodução/OpenIA0Com a conexão externa estabelecida, o GPT-5.6 Sol e a versão pré-lançamento realizaram elevação de privilégios, processo em que o sistema obtém permissões de administrador para assumir o controle do computador. Em seguida, os modelos executaram movimentação lateral e navegaram entre diferentes máquinas da rede interna até alcançar um ponto conectado ao mundo exterior.Ao invés de resolver o desafio no ambiente restrito, a IA usou raciocínio computacional para deduzir onde o gabarito oficial com as respostas do teste estava armazenado. Os sistemas criaram, então, um caminho de invasão para acessar o banco de dados da Hugging Face e pegar a resposta pronta.Segundo o relato da empresa, a IA “buscou e encontrou com sucesso maneiras de obter acesso a informações secretas que poderia usar para trapacear na avaliação”. Para chegar ao servidor de destino, os sistemas encadearam múltiplos vetores de ataque, incluindo uso de credenciais roubadas e novas falhas zero-day.O caso chamou a atenção de executivos de cibersegurança, como Nathaniel Jones, o vice-presidente de estratégia de IA da empresa Darktrace, por escancarar a lógica de funcionamento destes sistemas, avaliou a revista Info Security.O especialista afirmou que os modelos não precisam de intenção maliciosa para causar danos, pois na “visão” da inteligência artificial não há ética ou noção moral de trapaça.“Eles receberam o objetivo legítimo de resolver um problema de segurança cibernética e encontraram um caminho inesperado para as respostas, escapando do ambiente de teste e comprometendo outra organização no processo. Do ponto de vista dos modelos, essa parece ter sido uma solução eficaz para a tarefa”, acrescentou ele.Detecção e reação do mercadoA equipe de segurança da OpenAI e os sistemas de detecção da Hugging Face identificaram a movimentação anômala e contiveram a ação. “Este incidente demonstra que modelos avançados podem descobrir e explorar caminhos de ataque inéditos em sistemas reais sem acesso ao código-fonte”, pontuou a OpenAI. No comunicado, a big tech também reforçou a necessidade de fortalecer as proteções de segurança durante a fase de desenvolvimento.O cofundador e CEO da Hugging Face, Clem Delangue, comentou o episódio e destacou a importância da transparência no setor. “Este incidente, possivelmente o primeiro do tipo, prova um ponto em que há muito acreditamos: a segurança da IA não será resolvida por uma única empresa trabalhando em segredo, mas sim em aberto e de forma colaborativa”, declarou o executivo.A OpenAI, por sua vez, informou que reportou a vulnerabilidade inédita ao fornecedor responsável para a devida correção, integrou a Hugging Face ao seu programa de acesso seguro e passou a implementar controles mais rígidos de infraestrutura e monitoramento em suas avaliações internas.Falando sobre modelos de inteligência artificial, a Google lançou novas versões voltadas para cibersegurança do Gemini nesta semana. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.