Um teste da OpenAI que escapou de controle e alarmou a indústria de IA e cibersegurança atacou mais do que apenas o Hugging Face, a plataforma de IA que inicialmente parecia ser a única vítima do vazamento de laboratório virtual.A OpenAI, em uma atualização sobre sua investigação em andamento a respeito do incidente, disse que seu agente malicioso também invadiu vários serviços e contas disponíveis publicamente. Leia mais Após ataque hacker, CEO da OpenAI discute novos modelos de IA nos EUA Big techs se unem para proteção contra IA após ataque hacker da OpenAI Limite da IA: empresas de tecnologia pedem que EUA freiem modelos avançados O teste dos modelos da OpenAI deveria ocorrer em um ambiente digital isolado, um laboratório supostamente inescapável que permite aos pesquisadores remover as barreiras de segurança para descobrir o potencial máximo de invasão da ferramenta.Mas os agentes de IA, determinados a gabaritar o teste de cibersegurança, escaparam do ambiente de testes e obtiveram acesso à internet real. Em seguida, invadiram o site da Hugging Face para encontrar as respostas do teste.Para invadir os servidores do Hugging Face, os agentes rebeldes da OpenAI precisavam encontrar ferramentas pela internet que fossem necessárias para a invasão. A OpenAI afirma que os agentes encontraram vários sites públicos, incluindo páginas que compartilham código, utilitários web, capturas de tela e outras informações, para ajudar a criar o código necessário para hackear o Hugging Face. A OpenAI não revelou os outros sites que seus agentes atacaram.Os agentes descobriram nomes de usuário e senhas vazados de quatro contas em múltiplos serviços online e usaram essas credenciais para obter acesso a eles. Uma das contas comprometidas provavelmente foi usada para disfarçar a IA para que ela parecesse legítima e burlasse os protocolos de segurança do Hugging Face. Outra foi usada para armazenar os dados que os agentes estavam roubando, afirma a OpenAI.Quanto às outras duas contas comprometidas, os agentes da OpenAI acessaram e leram as informações, mas não as alteraram.A OpenAI disse que nenhum dos outros sites hackeados atingiu o mesmo nível de acesso que seus agentes alcançaram no Hugging Face.Essencialmente, a OpenAI disse que seus agentes criaram um assalto no estilo “Onze Homens e Um Segredo”. Em vez de apenas fazer o teste, eles desenvolveram um plano mestre para escapar da prisão, encontrar as chaves do cofre, construir uma casa segura e alugar um carro para a fuga antes de roubar os bens.Mas a OpenAI nunca disse aos agentes para hackearem o Hugging Face. Eles realizaram essa ação por conta própria para roubar o gabarito do teste que lhes foi dado. O modelo em teste concluiu que trapacear era o caminho mais fácil para o sucesso – mesmo que isso significasse encadear uma série de ataques sucessivos.O CEO do Hugging Face, Clem Delangue, classificou a natureza da violação como “sem precedentes”.“Resumindo: um agente de IA escapou de seu ambiente de teste, trapaceou em seu teste de referência e invadiu nossa infraestrutura para roubar o gabarito”, disse o Hugging Face em um post no blog detalhando o incidente.A boa notícia é que, embora a violação seja um momento significativo na IA e na cibersegurança, os danos não foram significativos.O Hugging Face disse que os únicos dados de clientes acessados pelos agentes rebeldes foram algumas consultas de busca usadas para roubar um conjunto de soluções de desafios armazenados em vários conjuntos de dados da empresa. Os agentes da OpenAI nunca comprometeram ou acessaram nenhum modelo ou dado voltado para clientes, disse a empresa.A OpenAI disse que continua a investigar o incidente e fará recomendações sobre como evitar problemas semelhantes no futuro assim que compreender melhor o alcance da violação.“Levamos a sério nossa responsabilidade de identificar e nos preparar para os riscos de sistemas de IA cada vez mais capazes”, disse a empresa. “Assim que concluirmos nossa análise, discutiremos o caso com o Comitê de Proteção e Segurança e o Grupo Consultivo de Segurança sob nossa Estrutura de Preparação.”Veja os estados que mais usam ChatGPT no Brasil, segundo a OpenAI