A OpenAI desativou, no fim de julho, sua equipe de preparedness, grupo encarregado de avaliar riscos graves associados aos modelos de inteligência artificial e formular medidas para reduzi-los. Com a mudança, as atribuições antes concentradas no grupo foram distribuídas entre estruturas já existentes, com responsabilidades específicas para áreas como biologia e segurança cibernética. A alteração ocorre em um período de sucessivas mudanças nas estruturas de segurança da empresa.A reformulação acontece enquanto a OpenAI se prepara para uma oferta pública inicial de ações que pode atingir grandes proporções. O encerramento da equipe se soma à saída de integrantes ligados à segurança e a outras dissoluções de estruturas voltadas à preparação para riscos de sistemas avançados.Mudança na estrutura de segurançaRiscos associados à IA – Imagem: tadamichi/iStockA equipe de preparedness tinha como uma de suas principais funções examinar se os modelos desenvolvidos pela OpenAI poderiam apresentar ameaças de grande escala. O trabalho também envolvia a elaboração de estratégias destinadas a conter ou diminuir esses riscos, incluindo cenários nos quais um sistema pudesse agir de maneira nociva contra outras organizações.Após o fim da equipe, a companhia optou por repartir esse trabalho conforme o tipo de ameaça analisada. Questões relacionadas à biologia e à cibersegurança, por exemplo, passaram a ser tratadas dentro de equipes que já faziam parte da estrutura da empresa.Dylan Scandinaro, que havia chegado à OpenAI em fevereiro após passagem pela Anthropic, também teve suas atribuições alteradas. Ele deixou de comandar a estrutura de preparedness e passou a concentrar seu trabalho nas consequências associadas à chamada inteligência artificial com capacidade de aprimoramento recursivo.OpenAI – Imagem: Henry Franklin/ShutterstockA decisão representa mais uma alteração na organização das áreas de segurança da OpenAI. Nos últimos anos, a companhia também encerrou ou desmontou outras estruturas relacionadas à preparação para sistemas avançados, entre elas as equipes de prontidão para AGI e de superalinhamento.O movimento ocorre paralelamente a outras mudanças de pessoal. Chloé Bakalar, responsável pela área de ética, Josh Achiam, que ocupava o cargo de Chief Futurist, e Johannes Heidecke, chefe de segurança, deixaram a empresa recentemente.As transformações despertaram críticas de antigos integrantes da OpenAI. Jan Leike, que deixou a companhia em 2024, afirmou ao Financial Times que a empresa estaria deixando a segurança em segundo plano diante da busca por novos produtos. A avaliação do ex-funcionário aparece no contexto de uma sequência de mudanças que atingiram as equipes responsáveis por questões de segurança e preparação.O desmonte da equipe, portanto, não significa necessariamente que todas as atividades relacionadas aos riscos tenham sido abandonadas. Conforme o relato publicado, parte dessas atribuições continua existindo, mas agora está espalhada por diferentes estruturas da companhia, em vez de permanecer reunida em uma equipe específica.A reorganização ocorre em um momento particularmente importante para a OpenAI, que avança em direção a uma possível abertura de capital. O contexto financeiro e as mudanças sucessivas nas estruturas de segurança passaram a alimentar o debate sobre a prioridade dada pela empresa à gestão dos riscos associados à inteligência artificial.O post OpenAI desativa equipe que avaliava riscos graves de seus modelos de IA apareceu primeiro em Olhar Digital.