A Anthropic está oferecendo salários que chegam a US$ 455 mil por ano para profissionais que vão ajudar a testar os limites de segurança de seus sistemas de inteligência artificial (IA). A empresa mantém uma equipe dedicada à segurança e ao combate a abusos, com vagas relacionadas a riscos biológicos, químicos e explosivos, cibernéticos, fraude e golpes, além de riscos radiológicos e nucleares.Entre as posições estão profissionais responsáveis por testar os sistemas, investigar ameaças e analisar riscos em áreas como química, biologia, cibersegurança e armas nucleares e explosivos.Apesar do aspecto incomum das vagas, o objetivo não é simplesmente pedir ao Claude que produza uma resposta proibida e verificar se ele obedece. A Anthropic coloca seus modelos à prova de diferentes maneiras para descobrir se alguém poderia contornar suas barreiras de segurança e usar a IA para causar danos. O trabalho serve para identificar essas falhas antes que elas sejam exploradas.Por que a Anthropic quer “quebrar” o Claude?A Anthropic mantém uma equipe chamada Frontier Red Team, voltada a testar sistemas de IA para entender suas capacidades e identificar riscos que podem surgir à medida que os modelos avançam. O nome vem de red teaming, prática de segurança em que uma equipe assume o papel de um possível atacante para tentar encontrar falhas em um sistema. No caso da IA, isso significa procurar maneiras de contornar as barreiras de segurança e descobrir se o modelo pode ser usado para causar danos.Entre os focos estão ameaças químicas, biológicas, radiológicas e nucleares, cibersegurança e riscos relacionados à autonomia dos sistemas.Nesse trabalho, a empresa combina testes feitos por pesquisadores, especialistas de diferentes áreas e sistemas automatizados. A Anthropic afirma que especialistas externos podem ajudar tanto a testar os modelos quanto a desenvolver novas formas de avaliação. Dependendo do risco analisado, os profissionais podem trabalhar com versões do Claude disponíveis ao público ou com modelos não comerciais submetidos a diferentes mecanismos de segurança.Gabriel Cunha, especialista em IA da Oracle, explicou ao Olhar Digital que “a função é fazer com que a capacidade institucional de identificar riscos e estabelecer controles acompanhe o avanço das capacidades dos modelos”.Especialistas atacam o sistema e verificam se o modelo oferece uma vantagem real em relação ao que uma pessoa já conseguiria fazer sem ele.Gabriel Cunha, especialista em IA da OracleA própria Anthropic descreve um processo que começa com testes feitos por especialistas e pode depois ser ampliado com sistemas automatizados. Primeiro, os profissionais definem o tipo de ameaça que querem investigar e procuram formas de fazer o sistema apresentar comportamentos de risco. Conforme entendem melhor o problema, os testes podem ser repetidos em centenas ou milhares de situações diferentes.A empresa também usa modelos de IA para ajudar nessa tarefa. Um sistema pode criar tentativas de ataque para testar outro modelo e, a partir dos resultados, ajudar a desenvolver novas formas de proteção. O processo é repetido para verificar se as barreiras continuam funcionando mesmo depois que novas formas de ataque são descobertas.Claude, chatbot da Anthropic – Imagem: Mijansk786/ShutterstockNão basta fazer a IA responder algo proibidoUma das razões para a Anthropic trabalhar com especialistas de áreas tão diferentes é que uma resposta inadequada não significa, por si só, que o modelo tenha uma capacidade capaz de produzir dano no mundo real. O especialista precisa avaliar se aquilo que o sistema produziu está correto e pode ser aplicado na prática.“Conseguir que uma IA responda algo proibido não demonstra, por si só, um risco real”, afirma Rodrigo Gava, CTO da Vultus e especialista em cibersegurança. “O ponto é avaliar se a resposta está tecnicamente correta, se é operacionalmente viável e se reduz de maneira relevante o conhecimento, o tempo ou o custo necessário para causar dano.”Em cibersegurança, ele dá um exemplo: “Um código pode parecer sofisticado e não funcionar, enquanto uma sequência de informações aparentemente inofensivas pode completar uma cadeia real de exploração.”A própria Anthropic segue essa lógica em seus testes de segurança. Os especialistas primeiro definem qual ameaça querem investigar, que tipo de informação poderia ser usada para causar dano e o que seria necessário para que o modelo realmente ajudasse alguém a realizar essa ação. Em uma avaliação de riscos biológicos, por exemplo, mais de 150 horas foram dedicadas a testes com especialistas em biossegurança.O mesmo aconteceu na avaliação de riscos nucleares. Em parceria com a National Nuclear Security Administration (NNSA), dos Estados Unidos, especialistas da agência passaram um ano testando modelos Claude em um ambiente seguro. O trabalho ajudou a Anthropic a criar uma ferramenta capaz de identificar conversas potencialmente relacionadas ao desenvolvimento de armas nucleares.Em testes preliminares, a ferramenta identificou 94,8% das consultas relacionadas a armas nucleares e não apresentou falsos positivos no conjunto avaliado. A precisão geral foi de 96,2%. Segundo a Anthropic, o sistema foi posteriormente usado em parte do tráfego do Claude para ajudar a identificar possíveis usos indevidos.Como os especialistas tentam encontrar as falhasSegundo Gava, “o processo normalmente começa com um modelo de ameaça: quem é o potencial atacante, qual é seu objetivo, quais recursos possui e o que seria considerado sucesso”. A partir daí, são criados cenários para tentar provocar comportamentos que indiquem uma vulnerabilidade.Os testes não se limitam necessariamente a um pedido direto ao modelo. Os profissionais podem testar conversas em várias etapas, reformulações de um mesmo pedido, mudanças de idioma e contexto, uso de ferramentas, agentes autônomos e combinações de técnicas. A intenção é encontrar situações em que uma proteção isolada pareça funcionar, mas possa ser contornada quando diferentes recursos são combinados.Depois que os especialistas identificam um problema, a Anthropic pode transformar aquela situação em um teste que será repetido em centenas ou milhares de variações. Dessa forma, a empresa consegue verificar se a falha aparece novamente e se as mudanças feitas no modelo realmente resolveram o problema.A empresa também usa inteligência artificial para ajudar nessa tarefa. Um modelo pode criar tentativas de ataque para testar outro sistema, e os resultados podem ser usados para desenvolver novas formas de proteção. O processo então é repetido para verificar se as barreiras continuam funcionando.Os modelos também são testados contra ataques complexosA necessidade de testar os modelos também cresce à medida que eles se tornam capazes de encontrar formas de explorar sistemas. Em maio de 2026, a Anthropic afirmou que o Claude Mythos Preview conseguia encontrar vulnerabilidades, transformá-las em formas de exploração e combinar diferentes etapas para realizar ataques completos.Em outro estudo, a Anthropic avaliou o Claude Opus 4 e o Claude Sonnet 4 em desafios de cibersegurança que iam de exercícios individuais a simulações de redes complexas. Segundo a empresa, os modelos apresentaram avanços tanto na identificação de vulnerabilidades quanto na execução de ataques com várias etapas, embora ainda tivessem dificuldades para manter planos longos diante de obstáculos inesperados.O avanço também aparece na busca por falhas ainda desconhecidas, conhecidas como zero-days. Em fevereiro, a Anthropic afirmou que o Claude Opus 4.6 havia melhorado significativamente a capacidade de encontrar vulnerabilidades graves em escala em comparação com modelos anteriores. A empresa defendeu que esse tipo de capacidade pode ser usado para reforçar a defesa de sistemas.Para Gabriel Cunha, situações como essas ajudam a explicar por que as empresas precisam testar não apenas respostas individuais, mas também a capacidade dos modelos de combinar diferentes recursos para atingir um objetivo. Quanto mais tarefas um sistema consegue executar sozinho, maior é a necessidade de avaliar o que pode acontecer quando essas capacidades são utilizadas em conjunto.A própria Anthropic mantém a equipe Frontier Red Team para acompanhar esse avanço. Em 2026, o grupo publicou avaliações sobre exploração de vulnerabilidades, ataques cibernéticos e ameaças relacionadas ao uso de IA por agentes mal-intencionados. A empresa afirma que o objetivo é entender as capacidades atuais dos modelos e antecipar o que pode surgir à medida que elas evoluem.Nenhum teste consegue garantir que a IA é seguraApesar de todo esse esforço, os testes não conseguem garantir que uma IA seja completamente segura. Há uma quantidade praticamente ilimitada de combinações possíveis entre comandos, contexto, ferramentas e comportamentos de um modelo. Além disso, novas versões ou recursos podem criar vulnerabilidades que não existiam durante avaliações anteriores.A principal limitação é que nenhum red team consegue cobrir à exaustão todos os cenários que definem com certeza que a IA é segura. Os modelos são probabilísticos, o espaço de interação é praticamente infinito e os atacantes adaptam suas técnicas.Rodrigo Gava, CTO da VultusA própria Anthropic reconhece essas limitações. Em uma análise sobre segurança de IA, a empresa afirma que os testes para riscos de segurança nacional ainda são mais “arte do que ciência”, já que não existe uma forma totalmente padronizada de provocar comportamentos preocupantes nos modelos.Testes de segurança não conseguem garantir que uma inteligência artificial esteja livre de vulnerabilidades – Imagem: The KonG / ShutterstockHá ainda um equilíbrio entre dois tipos de erro. Um falso negativo ocorre quando uma tentativa de abuso não é identificada e consegue passar pelos mecanismos de proteção. Já um falso positivo pode fazer com que uma atividade legítima seja bloqueada porque o sistema a classificou como potencialmente perigosa.Por isso, a Anthropic combina diferentes mecanismos de proteção. Entre eles estão os testes de segurança, programas que recompensam quem encontra falhas, monitoramento e sistemas automatizados para identificar tentativas de contornar as barreiras dos modelos.No Frontier Safety Roadmap, a empresa estabeleceu como meta desenvolver, até janeiro de 2027, um sistema capaz de encontrar novas formas de contornar as proteções contra armas químicas e biológicas em escala. A Anthropic também pretende criar ferramentas capazes de investigar automaticamente ataques cibernéticos sofisticados envolvendo Claude.É por isso que a Anthropic procura especialistas tão específicosAs vagas abertas pela Anthropic mostram como essa estrutura funciona na prática. A empresa procura profissionais para diferentes funções, incluindo especialistas em segurança biológica, riscos químicos e explosivos, cibersegurança, fraude e golpes, além de riscos radiológicos e nucleares.As funções são diferentes. Uma delas é a de Red Team Engineer, profissional responsável por tentar encontrar falhas nos sistemas antes que elas sejam exploradas. A vaga exige experiência em segurança de IA e testes de segurança, além de conhecimentos sobre formas de contornar as barreiras dos modelos. A faixa salarial anunciada fica entre US$ 320 mil e US$ 405 mil por ano.Outra posição é a de gerente de inteligência de ameaças relacionadas a riscos químicos, biológicos, radiológicos, nucleares e explosivos. O profissional será responsável por liderar uma equipe dedicada a detectar e investigar tentativas de usar os sistemas da Anthropic para esses fins. O salário para a posição chega a US$ 455 mil anuais.Há ainda funções que exigem experiência diretamente relacionada à área de risco. Uma das vagas voltadas à segurança biológica, por exemplo, pede pelo menos oito anos de experiência prática em ciências da vida, além de conhecimentos em áreas como biologia molecular, descoberta de medicamentos ou biologia computacional.A divisão mostra que a estratégia não se resume a fazer o Claude recusar determinados pedidos. A Anthropic procura profissionais para encontrar vulnerabilidades, avaliar riscos, investigar possíveis abusos e transformar essas descobertas em novas formas de proteção.A Anthropic quer automatizar parte desse trabalhoA Anthropic considera que o crescimento das capacidades dos modelos também exige ampliar a escala dos testes. No Frontier Safety Roadmap, a empresa afirma que já testa continuamente suas proteções e usa programas que recompensam pessoas capazes de encontrar formas de contorná-las. A companhia diz que, no futuro, pode precisar enfrentar tentativas de abuso mais sofisticadas.Uma das metas para janeiro de 2027 é desenvolver um sistema capaz de encontrar novas formas de contornar as proteções contra armas químicas e biológicas em uma escala maior do que a alcançada atualmente pelos participantes do programa de recompensas. A empresa afirma que esse trabalho deverá envolver automação.A Anthropic também pretende desenvolver, até o mesmo período, um sistema capaz de investigar automaticamente a maioria dos ataques cibernéticos sofisticados que utilizem Claude, com pouca ou nenhuma intervenção humana. A ideia é identificar padrões que indiquem tentativas coordenadas de abuso, em vez de apenas bloquear respostas individuais.Assim, especialistas de domínio trabalham em conjunto com pesquisadores e engenheiros para determinar quais capacidades representam riscos relevantes, quais guardrails são necessários e em que condições um modelo pode ser disponibilizado com segurança.Gabriel Cunha, especialista de IA da OracleOs guardrails são as barreiras de segurança criadas para limitar comportamentos de risco dos modelos, como tentativas de usar a IA para atividades ilegais ou perigosas.O desafio, porém, permanece aberto. À medida que os modelos ganham novas capacidades e passam a combinar ferramentas e informações de maneiras que não estavam previstas nas avaliações anteriores, os próprios mecanismos de teste precisam evoluir. Para Rodrigo Gava, a função do red team não é declarar que uma IA é definitivamente segura, mas reduzir a possibilidade de que uma vulnerabilidade passe despercebida até ser explorada fora do ambiente de avaliação.O post Anthropic busca especialistas para impedir que suas IAs fiquem perigosas demais apareceu primeiro em Olhar Digital.