Governos não deveriam esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a ONU. O alerta está no primeiro relatório temático do painel científico internacional criado pela organização para avaliar os riscos e as oportunidades da tecnologia.O documento chama a atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.Para a ONU, a incerteza científica não deve impedir medidas contra possíveis danos graves ou irreversíveis causados pela IA – Imagem: Infinite Creations/iStockO princípio da precauçãoPara o painel, não é preciso descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança.A recomendação recorre ao princípio da precaução. A ideia é que a incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis. O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública.O relatório considera esse princípio particularmente importante diante da possibilidade de perda de controle sobre sistemas de IA. Entre os pontos destacados estão:mais atenção aos riscos de sistemas avançados;mais recursos para segurança da IA;maior coordenação entre países;mecanismos mais fortes de responsabilização;salvaguardas mesmo quando ainda existem incertezas científicas.O texto também menciona incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes assumindo o controle de fóruns de mensagens.Como a ONU pretende agirO painel científico é parte de uma estrutura montada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre aquilo que já se sabe — e o que permanece desconhecido — a respeito da tecnologia.Ao lado dele está o Diálogo Global sobre Governança de IA. O painel apresenta as evidências, enquanto o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.António Guterres, secretário-geral da ONU, resumiu a posição da organização: “A ação nacional é essencial, mas a coordenação global é indispensável”.Governos são incentivados a agir antes que exista certeza científica completa sobre os riscos de sistemas avançados de IA. – Imagem criada com IA. ChatGPT/Olhar DigitalEUA e China no centro das conversasO tema chega à agenda internacional no momento em que Estados Unidos e China se preparam para discutir IA. Guterres defende que os países com maior capacidade no desenvolvimento de sistemas de fronteira mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns.Leia mais:Medo de IA destruir empregos é global; pesquisas mostram onde impacto já apareceAnthropic, OpenAI, SpaceXAI e Google são acusadas de fazer acordo ilegal para frear avanço da IAHackers que invadiram a OpenAI alertam para problema de segurança na indústria de inteligência artificialO secretário-geral comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria. Para ele, mecanismos de cooperação são necessários para evitar uma disputa que eleve os riscos globais.A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.Guterres resumiu a preocupação ao afirmar que “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”.A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.O post ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados apareceu primeiro em Olhar Digital.