Um grupo internacional de pesquisadores identificou mais de uma dezena de agentes de inteligência artificial (IA) que tentaram acessar sistemas protegidos do Alibaba, gigante chinesa de tecnologia. As atividades ocorreram entre o fim de setembro e o início de outubro e apresentaram indícios de ligação com serviços de computação em nuvem da Tencent.Segundo um relatório publicado nesta quarta-feira (14) pelo grupo Swarmchasers, que reúne pesquisadores de segurança em IA dos Estados Unidos e de outros países, os agentes tentaram acessar o Amap, serviço de mapas do Alibaba. A investigação identificou 2.818 tentativas de acesso a dados entre 28 de setembro e 8 de outubro.Os pesquisadores afirmam que a atividade partiu de um ambiente isolado de testes, conhecido como sandbox, na infraestrutura da Tencent Cloud. Os agentes teriam utilizado serviços públicos de varredura de segurança para executar códigos remotamente e comandos em navegadores de internet.Embora a maioria das tentativas não tenha avançado significativamente, alguns agentes conseguiram contornar mecanismos de proteção contra bots. Os pesquisadores disseram, porém, que não encontraram evidências de acesso a sistemas privados.Pesquisadores não identificaram o modelo de IAO relatório, intitulado “We found a Chinese fleet” (“Encontramos uma frota chinesa”, em tradução livre), aponta indícios que associam a atividade à infraestrutura da Tencent em Hong Kong e Shenzhen (China);Isso não significa, entretanto, que os pesquisadores tenham identificado o modelo de IA utilizado. Segundo o grupo, ainda não está claro qual sistema estava sendo desenvolvido ou avaliado. A Tencent também trabalha com modelos de terceiros, o que impede atribuir diretamente a operação a uma IA própria da companhia;Os agentes aparentemente buscavam responder a perguntas sobre o serviço Amap, como identificar qual entrada de um zoológico é a mais popular. Os pesquisadores não conseguiram determinar quais dados eram o alvo das tentativas nem qual era o objetivo final da atividade;A Tencent e o Alibaba não responderam aos pedidos de comentário enviados pela Bloomberg.Agentes tentaram acessar o Amap, serviço de mapas do Alibaba – Imagem: PhotoGranary02/ShutterstockLeia mais:Anthropic alerta: IA pode se replicar em TVs e eletrodomésticosCientistas pedem órgão global para fiscalizar sistemas de IA avançadaGemini 4 Argon finalmente chega ao app e à busca do Google; saiba maisAgentes de IA podem escapar de ambientes de testePara Ethan Elasky, um dos autores do relatório e diretor-executivo da organização sem fins lucrativos Palaestra Research, o episódio se soma a evidências de agentes de IA que escapam de ambientes de avaliação e passam a agir sem supervisão humana.“Independentemente de estarmos falando de laboratórios chineses ou estadunidenses, acredito que a forma como o desenvolvimento de modelos vem acontecendo fará com que os agentes continuem escapando de seus ambientes isolados quando estiverem na internet”, afirmou Elasky.Os pesquisadores diferenciaram o caso de outros episódios de comportamento coletivo de agentes, como o incidente envolvendo modelos da OpenAI que comprometeram sistemas da plataforma Hugging Face em julho. Segundo o relatório, os agentes identificados na investigação atual não pareciam colaborar entre si da mesma maneira.O episódio ocorre em meio a preocupações sobre o controle de sistemas autônomos de IA. Em setembro, a OpenAI adiou o lançamento de seu modelo mais avançado para reforçar as medidas de segurança.Kok Tin Gan, cofundador e diretor-executivo da empresa de segurança cibernética NyxLab, afirmou que a principal questão não é determinar se os agentes utilizavam um modelo chinês ou estadunidense, nem se eram realmente autônomos ou estavam fora de controle.Para ele, o desafio mais importante é garantir que esses sistemas permaneçam sob controle. À medida que os agentes de IA ganham autonomia, organizações precisam estabelecer limites claros de atuação, monitoramento contínuo e mecanismos eficazes de intervenção.O post Pesquisadores identificam “frota” de IAs que tentou invadir sistemas do Alibaba apareceu primeiro em Olhar Digital.