Google, OpenAI e Anthropic estão mais perto de criar uma organização independente para desenvolver padrões de segurança para sistemas de inteligência artificial (IA) de fronteira. A iniciativa surge em meio ao aumento do debate sobre como tecnologias cada vez mais avançadas devem ser regulamentadas.Segundo o The Information, o grupo de segurança está tomando forma e as três empresas estão chamando provisoriamente a organização de Standards Authority for Frontier AI (SAFA).A proposta é que a entidade opere de maneira independente e ajude a preencher lacunas na supervisão governamental sobre a IA.Empresas querem ampliar cooperação em segurançaA iniciativa representa aproximação entre algumas das principais desenvolvedoras de IA do mundo para além de seus próprios programas individuais de segurança;OpenAI e Anthropic também teriam discutido um acordo que permitiria a cada empresa testar os modelos comerciais de IA da outra em busca de vulnerabilidades e comportamentos inesperados;Nesse modelo, as companhias teriam acesso aos modelos comerciais umas das outras para realizar testes independentes de estresse. Os dados obtidos durante essas avaliações, porém, não poderiam ser mantidos pelas empresas.A ideia de estabelecer padrões mais amplos ganhou ainda mais atenção nesta semana, quando os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, falaram sobre segurança de IA no Conselho de Segurança das Nações Unidas (ONU).Sam Altman e Dario Amodei, CEOs da OpenAI e Anthropic, pediram, na ONU, um controle maior sobre a IA – Imagem: jamesonwu1972 / Below the Sky / ShutterstockAltman afirmou que decisões importantes relacionadas à IA deveriam ser moldadas por instituições democráticas e governos. Amodei, por sua vez, defendeu acordos internacionais e padrões globais para testar novos modelos de IA.A OpenAI também já pediu separadamente que os Estados Unidos liderem esforços internacionais para estabelecer padrões técnicos para sistemas avançados de IA, incluindo tecnologias capazes de realizar autoaperfeiçoamento recursivo.Leia mais:Google leva chips de IA para o espaço em teste que pode mudar o futuro dos centros de dadosEfeito “bomba atômica” da IA: mundo volta a tratar uma tecnologia como ameaça à paz mundial após mais de 80 anosTrump e Xi parecem ter caminhos diferentes para o futuro das IAsDebate sobre regulação da IAA proposta da SAFA surge em momento de divergências cada vez maiores sobre como a IA deve ser regulamentada.De um lado, há defensores de salvaguardas mais rígidas para reduzir possíveis riscos associados a sistemas cada vez mais capazes. De outro, há quem argumente que as leis existentes e os próprios mecanismos de mercado seriam suficientes para lidar com essas ameaças.O governo dos Estados Unidos também aparece nesse debate. O presidente Donald Trump se opôs a novas barreiras regulatórias para a IA e defendeu que EUA e China mantenham o desenvolvimento da tecnologia no curso atual.Nesse cenário, o órgão proposto por Google, OpenAI e Anthropic representaria uma tentativa das principais desenvolvedoras de IA de estabelecer padrões comuns de segurança enquanto governos discutem qual nível de supervisão deve ser aplicado a sistemas cada vez mais avançados.O post Google, OpenAI e Anthropic se unem para criar órgão de segurança para inteligência artificial apareceu primeiro em Olhar Digital.