Mais de 1.200 funcionários de algumas das principais empresas de inteligência artificial (IA) lançaram a iniciativa Pacing the Frontier, um manifesto que pede apoio do governo dos Estados Unidos a um esforço internacional para desenvolver mecanismos de governança capazes de controlar o ritmo do avanço da tecnologia.O movimento reúne pesquisadores, engenheiros e executivos de empresas como OpenAI, Google DeepMind, Meta e Anthropic. Entre os signatários estão nomes como Dario Amodei, CEO da Anthropic; Jakub Pachocki, cientista-chefe da OpenAI; Shane Legg, cofundador do Google DeepMind; e Dawn Song, vice-presidente de pesquisa em IA da Meta. As assinaturas, no entanto, foram feitas em caráter pessoal e não representam oficialmente as empresas.A iniciativa surge em meio ao aumento das discussões sobre segurança e governança da inteligência artificial, impulsionadas pelo rápido avanço dos modelos mais recentes e por alertas de especialistas sobre a necessidade de mecanismos internacionais de supervisão.O que é o Pacing the Frontier?O Pacing the Frontier é uma iniciativa criada para defender o desenvolvimento de mecanismos técnicos e de governança capazes de controlar, quando necessário, o ritmo do avanço da inteligência artificial de fronteira — nome dado aos modelos mais avançados disponíveis atualmente, como GPT-5, Gemini e Claude. O termo pacing, em inglês, faz referência justamente à ideia de ajustar ou controlar esse ritmo quando houver necessidade.Página do Pacing the Frontier reúne o manifesto e a lista de mais de 1.200 funcionários de empresas de IA que apoiam a iniciativa – Imagem: Reprodução/Pacing the FrontierA proposta parte do princípio de que a IA pode gerar benefícios significativos para a sociedade, mas também criar riscos caso sua evolução aconteça mais rapidamente do que governos, instituições e pesquisadores consigam compreendê-la ou supervisioná-la. Por isso, os organizadores afirmam que o objetivo não é interromper o desenvolvimento da tecnologia, mas criar mecanismos que permitam reduzir temporariamente seu ritmo diante de riscos relevantes.Segundo o manifesto (traduzido na íntegra no fim desta reportagem), esse esforço dependeria da cooperação entre governos, empresas e pesquisadores. A iniciativa defende que países desenvolvam mecanismos comuns para monitorar o avanço da IA e coordenar eventuais medidas de desaceleração, já que nenhuma empresa ou governo teria incentivos para agir sozinho sem comprometer sua competitividade.Por que os pesquisadores defendem controlar o ritmo da IAOs pesquisadores por trás do Pacing the Frontier argumentam que o desenvolvimento da inteligência artificial pode atingir um ponto em que sistemas passem a acelerar o próprio avanço da tecnologia. Segundo o manifesto, modelos de IA poderiam automatizar parte da pesquisa e da criação de novos sistemas, reduzindo o tempo necessário para desenvolver versões cada vez mais poderosas.Na avaliação do grupo, esse cenário dificultaria a capacidade de governos e instituições de acompanhar a evolução da tecnologia. Com ciclos de desenvolvimento cada vez mais curtos, haveria menos tempo para criar regras, realizar testes de segurança e implementar mecanismos de supervisão antes que novos modelos fossem disponibilizados.Aplicativos de plataformas de IA desenvolvidas por diferentes empresas ilustram a disputa pela liderança no setor, apontada pelos autores do manifesto como um dos fatores que dificultam a desaceleração do avanço da tecnologia – Imagem: Tada Images/ShutterstockOs autores afirmam que esse risco é agravado pela corrida entre empresas e países pela liderança em inteligência artificial. Como nenhum laboratório teria incentivos para desacelerar sozinho sem perder competitividade, eles defendem que qualquer mecanismo para controlar o ritmo do desenvolvimento seja coordenado internacionalmente.Em resposta ao Olhar Digital, o físico e especialista em machine learning Roberto “Pena” Spinelli afirmou que a principal preocupação é a possibilidade de a IA passar a acelerar o próprio desenvolvimento. Segundo ele, o maior risco é que os sistemas consigam criar sucessores cada vez mais avançados sem depender diretamente da atuação humana.“O grande risco é a melhoria autorrecursiva. Quando a IA consegue já programar a próxima IA”, avaliou Pena. “O próximo passo é que isso seja totalmente autorrecursivo. Você consegue uma IA dessa, rodando esses laboratórios, consegue sozinha criar o próximo modelo”.Em outras palavras, a preocupação é que a IA deixe de ser apenas uma ferramenta para auxiliar pesquisadores e passe a desempenhar um papel central na criação de novos modelos. Se esse processo se tornar cada vez mais automatizado, o desenvolvimento da tecnologia poderá ocorrer em um ritmo superior ao da capacidade de governos e instituições de criar mecanismos de segurança e supervisão.Na avaliação do especialista, empresas do setor já utilizam inteligência artificial em parte do desenvolvimento de seus modelos. Se esse processo se tornar totalmente autônomo, o intervalo entre uma geração e outra poderá diminuir ainda mais, reforçando a necessidade de mecanismos capazes de acompanhar o ritmo da evolução tecnológica.Movimento reforça debate, mas ainda é insuficienteO lançamento do Pacing the Frontier ocorre em um momento em que o debate sobre governança da inteligência artificial ganha força dentro e fora da indústria. À medida que modelos se tornam mais capazes, pesquisadores defendem que discussões sobre segurança e regulação acompanhem esse avanço.Essa preocupação já vinha sendo defendida por Pena. Durante o Fala AI desta terça-feira (28), ele afirmou que episódios recentes envolvendo agentes de inteligência artificial deveriam servir como um alerta para ampliar o debate sobre segurança, governança e limites para o desenvolvimento da tecnologia.“A gente deveria estar discutindo muito mais agora sobre segurança de IA, sobre regulamentação, sobre limites”, afirmou o especialista durante o programa ao comentar um caso recente envolvendo um agente de inteligência artificial que realizou ações não previstas durante testes.Em resposta ao Olhar Digital sobre o Pacing the Frontier, o especialista afirmou que o novo manifesto representa mais um passo importante nesse debate, principalmente por reunir profissionais que trabalham diretamente no desenvolvimento dos sistemas de IA.Quem está assinando isso é justamente quem trabalha nisso. As pessoas que estão desenvolvendo isso e que, por isso, têm uma visão talvez mais calibrada do que o ser humano médio.Roberto “Pena” Spinelli, físico e especialista em machine learningPara ele, esse é o principal diferencial da iniciativa em relação a outros movimentos que defendem mecanismos de governança para a inteligência artificial.Apesar de apoiar o manifesto, o especialista avalia que a iniciativa, sozinha, dificilmente será suficiente para enfrentar os desafios impostos pelo avanço acelerado da tecnologia. “Eu apoio completamente. Agora, se eu acho que isso vai ser suficiente, acho que não”, disse. Segundo Pena, o desenvolvimento da IA exige uma coordenação internacional capaz de estabelecer regras comuns para laboratórios e empresas.Na avaliação dele, um modelo semelhante ao adotado pela aviação civil poderia servir de referência. Assim como aviões passam por certificações, auditorias e padrões internacionais de segurança, sistemas de inteligência artificial mais avançados também deveriam ser submetidos a mecanismos independentes de supervisão.É isso que deveria acontecer com a IA. É o único jeito possível para a gente ter alguma chance de isso não dar acidentes e coisas absurdas que vão começar a acontecer cada vez mais.Roberto “Pena” Spinelli, físico e especialista em machine learningDeclaração do Pacing the FrontierA seguir, confira a tradução do manifesto publicado pelo movimento Pacing the Frontier.A inteligência artificial pode ajudar a criar um futuro significativamente melhor, mas esse resultado não é garantido. As principais empresas de IA do mundo acreditam que podem estar próximas de automatizar a pesquisa em inteligência artificial. É difícil prever exatamente o quanto isso acelerará o progresso da IA, mas existe um risco real de que o desenvolvimento de capacidades avance rapidamente além da nossa capacidade de compreender ou controlar os sistemas resultantes.Para concretizar o potencial da IA, a indústria, os governos e a sociedade como um todo podem precisar da opção de ganhar tempo para lidar com riscos emergentes, desenvolver medidas de segurança e fortalecer os mecanismos de supervisão. No entanto, cada empresa — e cada país — enfrenta uma intensa pressão competitiva para não desacelerar unilateralmente esse avanço. Hoje, porém, o mundo ainda não dispõe das ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo do desenvolvimento das IAs de fronteira.Com base no trabalho já realizado para monitorar o lançamento de modelos de IA de fronteira:Solicitamos que o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo do desenvolvimento automatizado da IA de fronteira.Funcionários de empresas que desenvolvem IA de fronteiraO post O que é o Pacing the Frontier, iniciativa que quer controlar o avanço da IA apareceu primeiro em Olhar Digital.