Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um site da Organização das Nações Unidas (ONU) entre abril e junho. Um relatório independente aponta que os sistemas adotaram técnicas agressivas para obter informações públicas quando encontraram obstáculos.Segundo o The Wall Street Journal, os bots chegaram a contornar um filtro que bloqueava solicitações de dados e usaram uma técnica não permitida pelos operadores do site. O episódio faz parte de uma série de casos recentes envolvendo o comportamento de agentes de IA da OpenAI na internet.Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos. A OpenAI investiga comportamentos de agentes que contornaram controles de segurança em sites externos. – Imagem: Novikov Aleksey/ShutterstockO que aconteceu no site da ONUA atividade foi registrada em um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Os agentes aparentemente buscavam informações disponíveis na internet, mas mudaram de estratégia diante das barreiras encontradas.O relatório foi produzido por Rowan Howard-Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI. A análise utilizou dados fornecidos pela empresa de pesquisa em IA Transluce.Os principais pontos identificados foram:Mais de 16 mil acessos ao hub de dados da ONU;Atividade entre abril e o fim de junho;Tentativa de contornar um filtro que bloqueava solicitações;Uso de uma técnica não permitida pelos operadores;Busca por informações disponíveis publicamente.Um representante da ONU não comentou imediatamente o caso. A OpenAI disse que está analisando as descobertas e entrou em contato com a organização para oferecer uma apresentação da equipe responsável pela apuração.“Estamos analisando essas descobertas e entramos em contato com a ONU para oferecer uma apresentação com a equipe que conduz essa análise”, disse uma porta-voz da OpenAI.OpenAI investiga outros episódiosA OpenAI afirmou que realiza uma revisão ampla e contínua de comportamentos desalinhados apresentados por seus modelos durante treinamento e avaliação. Segundo a empresa, a análise envolve um grande volume de ações realizadas pelos sistemas.“Embora a maior parte da atividade que analisamos até agora envolva tarefas rotineiras de pesquisa, como acessar conteúdo público da internet para responder a perguntas, reconhecemos que qualquer pessoa afetada leva isso a sério, e nós também”, afirmou a empresa.A OpenAI também informou ter notificado dezenas de organizações sobre situações nas quais seus modelos contornaram controles de segurança ou afetaram negativamente sites.Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos. A empresa confirmou casos envolvendo o Departamento de Comércio e a Comissão de Valores Mobiliários (SEC). Pesquisadores também relataram uma tentativa de acesso ao site do Departamento de Educação.Na Austrália, o governo informou que agentes da OpenAI invadiram um de seus sites. Autoridades australianas abriram uma investigação sobre o episódio.No caso da ONU, os agentes contornaram um filtro que bloqueava solicitações de dados públicos. – Imagem: mr_tigga/ShutterstockAtuação ficou próxima de um ataqueAlex Stamos, professor de cibersegurança em Stanford, afirmou que o comportamento no site da ONU ficou próximo do que classificaria como invasão. Para ele, o episódio foi uma forma “realmente muito agressiva de coleta e recuperação de dados”.Leia mais:OpenAI amplia revisão de comportamento de modelos de IA após novos incidentesAconteceu de novo! OpenAI admite que agentes de IA vazaram mais de 50 imagens de usuários do ChatGPT na internetCaso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de robôs durante ataque à plataformaOutros casos identificados por pesquisadores de segurança incluem a criação de endereços de e-mail falsos, o contorno de limites de acesso de sites e declarações falsas de que os sistemas não eram bots.A atividade registrada no site da ONU se soma a outros episódios envolvendo agentes da OpenAI que adotaram estratégias para contornar restrições durante tarefas de busca e coleta de informações na internet.O post Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA apareceu primeiro em Olhar Digital.