A Anthropic afirmou que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. O alerta aparece em uma atualização de seu prospecto de abertura de capital (S-1/A), enviada à Comissão de Valores Mobiliários dos Estados Unidos (SEC).A empresa afirma que ainda não atingiu esse estágio, mas suas estimativas indicam que isso pode acontecer em breve.A empresa já utiliza inteligência artificial em atividades de pesquisa e desenvolvimento de novos modelos. – Imagem: gguy/ShutterstockO que é a autossuperação recursiva da IA?Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, a tecnologia descreve um estágio em que sistemas de inteligência artificial conseguem aprimorar seus próprios processos de desenvolvimento, acelerando a evolução de suas capacidades.A possibilidade divide opiniões. Para críticos preocupados com os riscos da IA, esse avanço poderia levar à criação de sistemas tão poderosos que escapassem ao controle humano e causassem danos enquanto perseguissem seus objetivos. Já os entusiastas enxergam na RSI uma oportunidade de ampliar a produtividade e acelerar descobertas científicas.A Anthropic reconhece os dois lados dessa discussão. No documento enviado à SEC, a empresa afirma que já utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estratégia também pode representar um risco considerável à segurança, especialmente se acelerar drasticamente o ritmo do progresso.Empresa admite que pode atingir esse estágio em breveA atualização inclui novos alertas na seção de fatores de risco. A Anthropic revela que já utilizou sistemas de inteligência artificial para desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade alcançados.O uso crescente de IA nas pesquisas também pode fazer com que os modelos evoluam mais rapidamente do que a capacidade da empresa de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.Segundo o documento, estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”.A empresa ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite. A avaliação dos dados continua em andamento.A empresa considera atualizar sua Política de Escalonamento Responsável para manter humanos no controle. – Imagem: tete_escape/ShutterstockSupervisão humana deve continuarMesmo diante dessa possibilidade, a Anthropic afirma que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa.A companhia também considera atualizar sua Política de Escalonamento Responsável para manter as pessoas no controle do desenvolvimento de seus modelos mais avançados.O documento também merece ser considerado no contexto em que foi apresentado: registros enviados à SEC cumprem obrigações de divulgação, mas podem funcionar como instrumentos de apresentação das perspectivas da empresa ao mercado.A Anthropic destaca que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética. Ainda assim, nenhum modelo atual foi considerado pela empresa como tendo alcançado o estágio de autossuperação recursiva.O post Anthropic diz que IA pode acelerar o próprio desenvolvimento apareceu primeiro em Olhar Digital.