Um drone russo equipado com um chip da Nvidia matou três civis em um ataque realizado em julho na cidade de Zaporizhzhia, no sudeste da Ucrânia, segundo especialistas em drones, comandantes militares ucranianos e uma equipe forense que examinou os destroços da arma e de outros ataques na região.O caso chama atenção porque, de acordo com as autoridades e especialistas ouvidos pelo The New York Times, o drone era guiado por um sistema experimental de inteligência artificial (IA), sem a participação de um piloto humano na escolha do alvo final.A vítima mais jovem foi Tetiana Bubynets, de 19 anos, estudante universitária. Ela estava próxima a um posto de gasolina quando o pequeno drone russo, semelhante a um aeromodelo, desceu do céu e tentou se aproximar do local. A aeronave acabou batendo em uma parede e explodiu, espalhando estilhaços que atingiram a jovem e outras pessoas.Bubynets foi levada a um hospital, mas morreu. As outras duas vítimas, Oleksiy Svirin, de 41 anos, e Roman Karpiy, de 48, morreram posteriormente em decorrência dos ferimentos.Segundo os especialistas e militares ouvidos pelo Times, operadores humanos programaram o drone para seguir em direção a um determinado posto de gasolina. Quando chegou perto do local, porém, a aeronave teria escolhido sozinha o alvo exato — provavelmente tanques de propano — com base no treinamento recebido para reconhecer esses objetos e atacá-los.Chip da Nvidia ajudou a revelar sistema autônomoA análise dos destroços desse ataque e de outros incidentes em Zaporizhzhia revelou que os drones carregavam minicomputadores fabricados pela Nvidia. Segundo especialistas e militares ucranianos, esses computadores eram responsáveis pelas decisões de direcionamento das armas;A presença dos módulos da Nvidia, combinada com a ausência de antenas nos drones, levou os comandantes da defesa aérea ucraniana a suspeitar que as armas utilizavam um sistema autônomo de IA. Investigações posteriores confirmaram a hipótese;O módulo encontrado no drone era um Nvidia Jetson Orin, um minicomputador comercial que custa algumas centenas de dólares. Segundo a Nvidia, o produto é vendido para estudantes, desenvolvedores e startups e foi desenvolvido para uma ampla variedade de aplicações;A empresa informou que comercializa o computador em vários países, mas não na Rússia. Segundo a Nvidia, entretanto, o equipamento é amplamente disponível por meio de revendedores.Os módulos encontrados nos drones não estavam criptografados, de acordo com autoridades ucranianas. Isso permitiu que os investigadores visualizassem imagens do terreno carregadas no computador e verificassem como o drone utilizava referências visuais para acompanhar a rota.Os investigadores também disseram ter analisado códigos presentes no equipamento, identificando os tipos de objetos que o drone havia sido treinado para reconhecer e atacar, entre eles tanques de propano.IA pode escolher o alvo sem intervenção humanaSistemas autônomos de IA podem ser treinados com milhares de imagens para reconhecer categorias específicas, como rios, caminhões militares ou pessoas.Em drones com capacidade de seleção autônoma de alvos, as câmeras procuram esses elementos e o sistema identifica aqueles que correspondem ao treinamento recebido. A tecnologia pode permitir precisão maior do que a obtida por um piloto humano em determinadas situações.O problema, segundo críticos dessas armas, é que a ausência de intervenção humana pode aumentar o risco de erros e de violações das leis de guerra. Um sistema pode não conseguir distinguir corretamente civis de combatentes ou interpretar de maneira equivocada um objeto presente no campo de batalha.Kateryna Bondar, pesquisadora sênior do Wadhwani AI Center, do Center for Strategic and International Studies, em Washington (EUA), afirmou que o ataque de 6 de julho seria o primeiro caso documentado em que mortes de civis foram provocadas por um drone russo equipado com esse tipo de sistema autônomo.Segundo Bondar, a presença do módulo da Nvidia é “a melhor prova” de que a Rússia estava experimentando IA autônoma.Um assessor do presidente ucraniano Volodymyr Zelensky já havia escrito nas redes sociais que a Rússia estava testando sistemas de IA capazes de selecionar alvos sozinhos. As mortes, porém, não haviam sido divulgadas anteriormente, assim como os detalhes sobre o módulo Nvidia Jetson Orin utilizado no ataque.Rússia já utilizava IA em dronesRússia e Ucrânia já empregavam IA em diferentes modelos de drones antes do surgimento dos sistemas completamente autônomos.Nos modelos anteriores, a IA era utilizada principalmente no que os militares chamam de “última milha”, ou seja, a etapa final do ataque. Nesse modelo, um piloto humano escolhe o alvo remotamente e o sistema de IA assume o controle apenas na fase final para ajudar o drone a alcançá-lo.Em sistemas totalmente autônomos, a escolha do alvo final também deixa de ser responsabilidade de um ser humano.Os modelos mais antigos geralmente são controlados por operadores por meio de transmissões de rádio ou cabos de fibra óptica. Outra possibilidade é programar previamente as coordenadas para as quais o drone deverá seguir.Com a expansão do uso de drones no campo de batalha ucraniano, os pilotos passaram a ser alvos importantes. Um drone guiado autonomamente por IA, por outro lado, não precisa de um piloto humano e pode ser mais preciso do que uma munição programada apenas para atingir determinadas coordenadas.Postos de gasolina viraram alvos de testesAutoridades locais de defesa aérea afirmam que forças russas vêm mirando objetos civis, como bombas de combustível e tanques de propano em postos de gasolina, durante os testes de drones autônomos em Zaporizhzhia.Centros de recrutamento militar também teriam sido utilizados como alvos. Não está claro por que esses locais foram escolhidos para os testes.Vadym Kushnikov, especialista em drones do Instituto de Aviação de Kharkiv, afirmou que o drone responsável pela morte dos três civis era uma “ferramenta pré-programada treinada em realidade virtual para rastrear objetos específicos”.O funcionamento representa uma diferença importante em relação ao software tradicional. Enquanto programas convencionais seguem regras estabelecidas passo a passo por uma pessoa, sistemas de IA desenvolvem suas próprias regras ao identificar padrões em enormes quantidades de dados, processo conhecido como aprendizado de máquina.Isso permite que o sistema lide com situações que não foram previstas especificamente por seus programadores. Ao mesmo tempo, significa que ninguém consegue prever completamente como ele irá agir.Debate sobre armas autônomasOrganizações de direitos humanos e o Comitê Internacional da Cruz Vermelha se opõem fortemente ao uso de armas de IA sem seres humanos participando do processo de decisão. Segundo essas organizações, sistemas autônomos deixam para máquinas a interpretação das regras do direito internacional para determinar quais alvos são legítimos durante uma guerra.Há, porém, especialistas que defendem uma abordagem diferente. Para eles, armas deveriam, no futuro, ser obrigatoriamente equipadas com sistemas de IA.O argumento é que essas armas poderiam ser mais seguras porque seriam capazes de tomar decisões antes de atingir um alvo, ainda que não fossem perfeitas. Bombas aéreas não guiadas e projéteis de artilharia convencionais, por outro lado, simplesmente seguem suas trajetórias sem identificar o que irão atingir.IA escolhe o alvo do drone por conta própria – Imagem: gerada por IA/GeminiLeia mais:Amazon vai levar entregas por drones a quase 500 cidades dos EUA até o fim de 2026China quer criar ‘fortalezas robóticas’ com drones para defender ilhasEm breve, os céus podem ser tomados por carros voadores e aviões supersônicosGrupo de drones não emitia sinais de rádioO drone responsável pelo ataque fazia parte de um grupo de aproximadamente seis aeronaves, segundo o governador militar regional, o comandante da defesa aérea da cidade e uma equipe de defesa aérea que estava de serviço naquele dia.Nenhum dos drones emitia sinais de rádio. As aeronaves também apresentavam outras características associadas aos testes russos de sistemas autônomos de IA, incluindo o lançamento em ondas.Alguns dos drones guiados por IA testados pela Rússia explodiram ao atingir seus alvos. Outros não detonaram e permaneceram intactos, segundo autoridades ucranianas.Os militares ucranianos mostraram aos jornalistas do Times os destroços de dois desses drones. O jornal fotografou os módulos de computador da Nvidia encontrados dentro das aeronaves e enviou as imagens à empresa.A Nvidia confirmou que as fotografias mostravam um minicomputador Jetson Orin. Módulos desse tipo foram encontrados em diferentes modelos de armas russas.Ucrânia também testa drones autônomosA Ucrânia também realiza testes com sistemas de IA capazes de selecionar alvos. Mykhailo Fedorov, ministro da Defesa recentemente afastado do cargo, afirmou em entrevista ao Times no fim de julho que a Ucrânia havia testado nos meses anteriores um sistema de IA completamente autônomo na Crimeia ocupada pela Rússia.Segundo Fedorov, os dispositivos foram usados contra locais de armazenamento de combustível e equipamentos militares. Ele afirmou que nenhum civil foi morto nesses testes.No ataque de Zaporizhzhia, os drones não tinham antenas para transmitir dados dos testes. As forças russas, porém, costumam utilizar drones de reconhecimento capazes de registrar os ataques.A cidade também é considerada pelas autoridades como um local onde há espiões russos que informam avaliações sobre os danos provocados pelos ataques.A ausência de uma antena, por si só, não comprovaria que o drone era capaz de selecionar seus próprios alvos. A aeronave poderia ser programada para seguir uma rota determinada, utilizando algoritmos semelhantes aos empregados há décadas em sistemas de piloto automático de aeronaves.Nesse caso, porém, não haveria necessidade de utilizar um chip da Nvidia.Especialistas em defesa aérea ucranianos afirmam que a Rússia começou a realizar voos de teste com drones Molniya guiados por IA em maio. O Molniya é um modelo de asa fixa produzido em massa.Os russos também começaram a testar sistemas de seleção autônoma de alvos no V2U, outro drone de asa fixa, alguns meses antes. Parte dos testes com o V2U era destinada apenas ao direcionamento durante a “última milha”.Defesa contra drones ganha novas estratégiasZaporizhzhia fica a apenas cerca de 14,5 quilômetros da linha de frente. Alguns moradores entrevistados afirmaram que a possibilidade de dispositivos sobrevoarem a cidade, tomando sozinhos decisões de matar, provoca medo.As cidades ucranianas, porém, são alvo de ataques há anos, e a vida da população já havia sido profundamente alterada pelo uso de drones menos sofisticados. Uma das respostas à ameaça são os drones interceptadores, que, por enquanto, são pilotados por homens e mulheres considerados heróis locais.Outra medida é a instalação de redes antidrones. Em Zaporizhzhia e nos arredores, elas cobrem aproximadamente 386 quilômetros de estradas.A camuflagem também é utilizada como mecanismo de defesa. Plásticos, por exemplo, são instalados em ângulos incomuns ao redor de tanques de propano em postos de gasolina, em tentativa de confundir os sistemas de reconhecimento de imagens usados pela IA.“Eles estão treinando a tecnologia”, afirmou o coronel Minaiev, comandante da defesa aérea da cidade, sobre as forças russas. Segundo ele, a IA é boa, mas ainda não é perfeita. “Eles estão procurando erros e vão corrigi-los.”O post Drone russo guiado por IA escolhe alvos autonomamente apareceu primeiro em Olhar Digital.