A Anthropic estaria perto de alcançar um marco significativo na inteligência artificial, criando um modelo capaz de Autoaperfeiçoamento Recursivo (RSI) que desenvolveria, sucessivamente, versões mais avançadas de si mesmo. O assunto foi abordado em um documento apresentado à Comissão de Valores Mobiliários dos Estados Unidos (SEC) na segunda-feira (2).O progresso perto de ser alcançado pela startup representa o momento no qual a IA se torna tão poderosa que escapa ao controle humano, como observa o TechCrunch, que teve acesso ao relatório. O texto faz parte do processo de abertura de capital (IPO) da empresa, previsto para acontecer este mês.Avanço ou ameaça?No documento entregue à SEC, a dona do Claude afirma que o uso recorrente da IA em suas atividades de pesquisa e desenvolvimento pode acelerar consideravelmente a evolução dos modelos. A prática supera a capacidade de criar, validar e implementar medidas de segurança pelos especialistas humanos.Ela admite, inclusive, ter passado por situações em que não conseguiu reconhecer, de imediato, tais avanços alcançados pelos sistemas inteligentes;“Como resultado, no passado não identificamos, e talvez no futuro não identifiquemos, uma aceleração significativa em nossa taxa de desenvolvimento até que ela já tenha ocorrido”, diz o texto;Diante disso, a Anthropic destaca que estimativas internas apontam que o trabalho caminha para a criação de um modelo capaz de aprimorar a si mesmo;No entanto, a companhia informa que nenhum dos seus sistemas atuais ultrapassou esse limite, enquanto continua a avaliar os dados disponíveis. Para os críticos da tecnologia, o RSI representa um grande perigo, pois há chances de a IA se tornar indiferente aos danos que causaria na busca por seus objetivos. Por outro lado, entusiastas defendem que o autoaprimoramento pode trazer uma capacidade de produtividade inimaginável, se feito de maneira confiável.Quanto a isso, a Anthropic ressalta no texto que há um “risco considerável à segurança, principalmente se acelerar drasticamente o ritmo do progresso”. Mas ao mesmo tempo, ela afirma estar preparada para mitigar esses perigos, por meio de uma “Política de Escalonamento Responsável”.Humanos no controleEm outro trecho do documento, a desenvolvedora promete que manterá pesquisadores humanos no processo de pesquisa e desenvolvimento. De acordo com ela, isso é essencial para a criação de modelos de ponta seguros.“Não prevemos ser capazes de usar o Claude com segurança para projetar e construir de forma totalmente autônoma gerações sucessivas de modelos de ponta sem supervisão ou compreensão humana significativa, se e quando isso se tornar tecnicamente possível”, relatou a startup.Por que IAs avançadas como a que estaria sendo criada pela Anthropic geram preocupação? Descubra nesta matéria.Com informações de TechCrunch.