Nas últimas semanas, pesquisadores, executivos e investidores ligados a algumas das principais empresas de inteligência artificial do mundo, como Anthropic e OpenAI, passaram a defender publicamente uma postura mais cautelosa em relação ao avanço da tecnologia. Os alertas reacenderam discussões sobre segurança, governança e os possíveis impactos de sistemas cada vez mais sofisticados.Dario Amodei, cofundador e CEO da Anthropic, defendeu uma desaceleração no avanço dos modelos mais poderosos até que existam salvaguardas mais robustas. Na mídia, pesquisadores e ex-funcionários de empresas do setor passaram a apontar riscos ligados à crescente autonomia dessas ferramentas. Depois, Sam Altman, CEO da OpenAI, admitiu que a empresa considera desacelerar o desenvolvimento de IA de ponta, e o principal cientista da empresa, Jakub Pachocki, publicou um alerta sobre os perigos da tecnologia, afirmando acreditar que as empresas deveriam coordenar uma desaceleração, “conforme necessário”. As declarações, além de tombarem as ações das empresas de IA, reabriram o debate sobre até que ponto a corrida pela tecnologia pode ou deve avançar sem mecanismos mais rígidos de supervisão.Para especialistas ouvidos pelo InfoMoney, as preocupações merecem atenção, mas os riscos mais concretos não estão necessariamente nos cenários futuristas frequentemente associados à inteligência artificial. Eles já aparecem hoje em áreas como fraude digital, cibersegurança e automação de ataques.“Estamos vendo um desenvolvimento acelerado da IA. Isso é fato. Agora o que vai acontecer entra no âmbito da especulação”, afirma Leonardo Tomazeli Duarte, professor titular da Faculdade de Ciências Aplicadas da Unicamp e coordenador científico do Centro de Pesquisa Aplicada em Inteligência Artificial BI0S.Segundo o pesquisador, há um “fundo de verdade” nos alertas feitos por ex-funcionários e especialistas ligados às grandes empresas de IA, mas parte do debate também incorpora elementos de espetacularização.Leia mais: Hora de frear? No mesmo palco, CEOs de Anthropic e Nvidia divergem sobre futuro da IA“É natural que exista preocupação. Tem pessoas muito sérias, muito preocupadas com isso. Mas, a curto e médio prazo, os riscos mais concretos estão relacionados a vieses, alucinações e, principalmente, à segurança cibernética”. A afirmação é de Eliomar Araújo, coordenador de projetos de P&D do Centro de Excelência em Inteligência Artificial (CEIA) da Universidade Federal de Goiás. “As preocupações mais concretas estão relacionadas a vieses dos modelos, alucinações e à própria segurança cibernética, que ganha uma nova escala com a inteligência artificial”, avalia Araújo.Os riscos que já existemSe, na academia, o debate gira em torno do que pode acontecer, no mercado financeiro e no setor de segurança a preocupação está cada vez mais concentrada no que já está acontecendo.Dados da Kaspersky ajudam a ilustrar o tamanho do problema. Apenas no segundo trimestre de 2025, a empresa bloqueou mais de 142 milhões de cliques em links de phishing. Já em 2024, suas soluções impediram mais de 67 milhões de ataques do mesmo tipo, enquanto sistemas baseados em IA passaram a identificar mais de mil páginas de phishing por dia.Para Sachin Kulkarni, cofundador e CTO da Oscilar, empresa especializada em gestão de risco para bancos e fintechs, a IA reduziu drasticamente o custo de produção de fraudes e tornou possível comprar vozes clonadas, documentos falsos e identidades sintéticas completas, com histórico e documentação coerentes, por valores relativamente baixos.Mas o principal desafio não é a qualidade desses materiais, e sim a escala. Em um caso acompanhado pela empresa, uma campanha fraudulenta criou milhares de sessões utilizando identidades sintéticas durante cerca de duas semanas. Nenhuma regra tradicional de detecção foi acionada e um sistema de biometria comportamental classificou todas as sessões como humanas. A fraude só foi descoberta quando as atividades passaram a ser comparadas entre si.O episódio chama atenção porque nem mesmo ferramentas tradicionalmente usadas para identificar comportamentos suspeitos detectaram a fraude.“As sessões chegavam por uma mesma infraestrutura em nuvem, faziam a mesma sequência de requisições e apresentavam padrões temporais incompatíveis com o comportamento de pessoas reais. Nenhum analista conseguiria identificar isso olhando uma sessão de cada vez”, afirma Kulkarni.Segundo o executivo, o software fraudulento conseguiu reproduzir elementos suficientes do comportamento humano para enganar mecanismos tradicionais de verificação. “O software conseguia imitar suficientemente bem a forma como uma pessoa digita e movimenta o mouse. O que ele não escondia era a maneira como lia e navegava pela página”, afirma.Leia mais: Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAIEUA e China propõem regras de segurança para IA como as do setor nuclearA empresa estima ainda que entre 5% e 7% das perdas que bancos classificam como inadimplência ou perdas de crédito possam, na realidade, ser fraudes que nunca chegaram a ser identificadas como tal. A avaliação de que a IA se tornou imprescindível no combate à fraudes encontra eco em pesquisas da Kaspersky. Para María Isabel Manjarrez, pesquisadora sênior do Global Research and Analysis Team (GReAT) da companhia, a dificuldade não está necessariamente em reconhecer um golpe isolado, mas em correlacionar centenas de sinais ao mesmo tempo.“O desafio se torna ainda maior em escala financeira. Um analista humano não consegue correlacionar simultaneamente centenas de sinais técnicos e comportamentais em milhões de sessões. É aí que a IA defensiva tem vantagem”, afirma. A resposta é mais IA?A aparente ironia da situação é que as mesmas capacidades de automação que ampliam o potencial de fraude também estão sendo utilizadas para combatê-la. Para Manjarrez, esse é um debate válido, mas que costuma ser colocado de forma equivocada. “O futuro da detecção de fraudes não é humano versus inteligência artificial. É IA maliciosa versus IA defensiva, com seres humanos supervisionando suas ações”, afirma.Na visão da pesquisadora, os sistemas de defesa não precisam necessariamente provar que um conteúdo foi criado por IA. Muitas vezes, basta identificar inconsistências comportamentais e contextuais.“A IA defensiva pode identificar fraudes porque o comportamento geral e o contexto são incompatíveis com uma atividade legítima”, afirma. Leia também:O que Musk, Zuckerberg, Altman e outras lideranças pensam sobre os riscos da IAOs dois desafios a partir da aprovação do Redata, segundo a NvidiaA defesa exige cautelaKulkarni, que antes de fundar a Oscilar passou 11 anos na Meta (M1TA34), dona do Facebook, liderando áreas de engenharia responsáveis por infraestrutura em escala global, afirma que os alertas recentes feitos por pesquisadores e executivos do setor precisam ser considerados.“Levamos essas preocupações a sério e compartilhamos muitas delas. A segurança precisa evoluir no mesmo ritmo que a capacidade da tecnologia, e avaliações independentes são essenciais. Também precisamos estar dispostos a desacelerar determinados avanços ou implementações quando os riscos não puderem ser adequadamente compreendidos e gerenciados”, afirma o executivo.Na avaliação do executivo, existe uma diferença importante entre o desenvolvimento dos chamados modelos de fronteira e sua aplicação em setores específicos, como o financeiro.“Modelos de fronteira precisam ser avaliados por seus riscos mais amplos, enquanto instituições financeiras devem validar aplicações específicas com base em seus próprios dados, políticas e controles. E a fraude não espera esse debate terminar”, afirma.Segundo Kulkarni, é possível utilizar IA de forma segura, desde que existam mecanismos de supervisão adequados.“É possível usar IA de forma segura para nos proteger? Sim, desde que existam testes rigorosos, permissões limitadas, monitoramento contínuo e responsabilidade humana. Na Oscilar, automatizamos etapas operacionais e intensivas das investigações, enquanto decisões que exigem julgamento, contexto e empatia permanecem com as pessoas. O analista continua responsável pela decisão. As instituições também precisam manter o controle, ter capacidade de intervir quando necessário e oferecer aos clientes formas claras de contestar decisões equivocadas”. E o Brasil com isso?Além dos riscos tecnológicos, os pesquisadores apontam uma preocupação adicional para o Brasil. Segundo Tomazeli, o país ocupa uma posição peculiar: é altamente digitalizado e adota rapidamente novas tecnologias, mas participa pouco do desenvolvimento das ferramentas que utiliza e não tem um marco regulatório de IA.“O Brasil é um país relativamente bem digitalizado. Isso é positivo, mas também aumenta a exposição. Quanto mais digitalizada é uma sociedade, mais os crimes migram para o ambiente digital”, afirma. Na avaliação do professor, a vulnerabilidade não está apenas nas ameaças em si, mas também na dependência tecnológica.“Acabamos ficando numa posição de consumidor da tecnologia. Não participamos das decisões e dos principais desenvolvimentos e não temos acesso às mesmas informações que quem está construindo esses sistemas”, afirma.“Mais do que discutir cenários extremos, o desafio para o Brasil é entender como vai se posicionar diante dessa transformação tecnológica. Historicamente, acabamos ficando na condição de consumidores de tecnologia, e não de protagonistas em seu desenvolvimento”, afirma Araújo.The post Fraudes, deepfakes e o verdadeiro risco da IA — que não é o apocalipse appeared first on InfoMoney.