A chinesa DeepSeek anunciou nesta quarta-feira, 21, a disponibilização de uma ferramenta de código aberto desenvolvida para reduzir os custos de operação de modelos de inteligência artificial (IA). Chamado DeepInfer, o software otimiza a execução dos sistemas da empresa, com o objetivo de diminuir o uso de recursos computacionais e o consumo de energia. A iniciativa permite que empresas e provedores de serviços de nuvem utilizem técnicas adotadas pela própria DeepSeek para executar seus modelos de forma mais eficiente.A empresa, sediada em Hangzhou, na China, afirmou que está compartilhando sua infraestrutura de produção para ajudar desenvolvedores a reduzir os custos de computação e ampliar o acesso à IA. A ferramenta funciona como uma camada de software que coordena a execução dos modelos e aproveita melhor a capacidade dos equipamentos utilizados no processamento. Até o momento, o DeepInfer oferece suporte ao modelo V4.1-Flash, e a companhia informou que pretende adicionar compatibilidade com sistemas futuros.O lançamento expõe parte dos métodos usados pela DeepSeek para manter baixos os custos de execução de seus modelos, etapa conhecida como inferência. É nesse processo que um sistema de IA utiliza o treinamento recebido para responder a perguntas, gerar textos ou realizar outras tarefas. O custo dessa operação varia conforme o modelo, o volume de solicitações e a eficiência do software e do hardware empregados. Por isso, dois serviços que utilizam o mesmo modelo podem ter despesas operacionais diferentes. Software busca aproveitar melhor a capacidade dos chipsO DeepInfer combina diferentes técnicas de otimização, entre elas a inferência distribuída, que divide as cargas de trabalho entre diferentes componentes de hardware. A estratégia permite distribuir o processamento e aumentar o volume de resultados produzido em determinado período. Embora muitas dessas técnicas já sejam utilizadas no setor, a DeepSeek adaptou sua implementação às características de seus próprios modelos.A disponibilização do software também pode beneficiar empresas de hospedagem e provedores de nuvem que oferecem acesso aos modelos da DeepSeek. Ao incorporar essas técnicas à própria infraestrutura, esses operadores podem reduzir o custo computacional de cada solicitação e melhorar suas margens de lucro. Caso a economia seja repassada aos clientes, a iniciativa também poderá contribuir para diminuir o preço de serviços de IA. Empresas que executam os modelos em servidores próprios, por sua vez, poderão usar a ferramenta para tentar reduzir suas despesas operacionais.Apesar das possibilidades, a adoção do DeepInfer não elimina a necessidade de equipamentos com capacidade de processamento e de profissionais especializados para instalar e operar os sistemas. Segundo Thibault Jaigu, presidente-executivo da Requesty, startup que desenvolve ferramentas de métricas e roteamento para serviços de IA, a iniciativa reduz as barreiras para hospedar os modelos da empresa. A proposta, na prática, é permitir que organizações executem os sistemas por conta própria com acesso às técnicas de otimização utilizadas pela desenvolvedora chinesa.A ferramenta também pode servir de referência para outros desenvolvedores interessados em aprimorar seus sistemas de inferência. Como o código é aberto, profissionais e empresas podem examinar as técnicas implementadas e avaliar possíveis adaptações para outras arquiteturas. Ainda não há, porém, estudos comparativos independentes que comprovem os ganhos de eficiência do DeepInfer. Embora o lançamento ofereça acesso a métodos de otimização, a economia efetiva dependerá da infraestrutura, das aplicações e das condições de uso de cada organização.