Você e a inteligência artificial (IA) leem de forma diferente. Você, humano, lê palavras. Usa o vocabulário armazenado na sua mente. A IA, máquina, lê bloquinhos com etiquetas numéricas. Esses bloquinhos são os tokens.O token é a língua que grandes modelos de linguagem (LLMs, na sigla em inglês), como ChatGPT, Claude e Gemini, entendem. Para transformar a língua que você fala na língua que a máquina fala, seus prompts passam pela tokenização. E para a IA te responder na língua que você entende, ocorre a destokenização.É isso que está por trás dos preços das assinaturas das plataformas. Processar esses “bloquinhos” consome energia e poder computacional. Então, as empresas usam a quantidade de tokens consumidos (tanto na sua pergunta quanto na resposta da IA) para calcular os custos do sistema, definir os limites de “memória” de cada modelo e cobrar pelo seu uso.O que é token e como ele funciona na IAPara a IA entender sua mensagem (comando, prompt), ela precisa quebrar o que você mandou (texto, áudio, imagem) em blocos: os tokens. “Um token é basicamente uma subpalavra”, explica Fabrício Carraro, Program Manager da Alura, em entrevista ao Olhar Digital. “Por exemplo: a palavra ‘feliz’ é um token, a palavra ‘triste’ é um token, a palavra ‘divisível’ é um token.”Então, por que chamar de subpalavra? Se a gente tem ‘indivisível’ ou ‘infeliz’, você vai ter o token ‘in’. O token ‘in’ corresponde, digamos, ao número 357 no vocabulário total de um modelo de linguagem. E o token ‘feliz’ vai ser o token 352. Esses dois juntos – o token ‘in’ e o token ‘feliz’ – formam a palavra ‘infeliz’.Fabrício Carraro, Program Manager da Alura, em entrevista ao Olhar DigitalÉ isso que acontece no motor da IA (o LLM). Ele recebe uma sequência de bloquinhos com etiquetas numéricas (seu prompt) e faz um cálculo super complexo para prever quais devem ser os bloquinhos de saída (resposta da IA).Como modelos de IA usam tokens para entender (e responder) o que você mandou – Imagem: Olhar Digital via GeminiO ‘gerente invisível’ da IASó que quando você conversa com o ChatGPT, não está interagindo diretamente com o motor. Você está usando a camada de software ao redor dele: o harness. É como se fossem os arreios que direcionam o cavalo (o LLM) para uma tarefa. Em outras palavras: quando você manda mensagem para uma IA, é o harness que coordena o fluxo da tokenização e destokenização. É como se ele fizesse a máquina pensar antes de falar.“O harness pega sua pergunta, seu prompt, e divide em possíveis perguntas que poderiam ser feitas para responder a esse prompt”, explica Carraro. “Em vez de responder direto, ele já vai gerando pequenas perguntas, subperguntas, dividindo em subproblemas, e vai respondendo, de forma ‘escondida’, cada um desses subprobleminhas que criou para ele mesmo”, diz o especialista. “Depois que termina esse raciocínio, ele te dá a resposta. É isso que está gastando tokens.”Existe outra variável em curso nas suas conversas com IA: a janela de contexto. E ela tem tudo a ver com tokens.É como se a janela de contexto fosse o tamanho da sua mesa de trabalho (porque é a “memória de curto prazo” da IA). E os tokens fossem folhas de papel com informações que você espalha sobre a mesa.Em termos mais técnicos e práticos: a janela de contexto define o número máximo de tokens (seus prompts de entrada somados às respostas de saída da IA) que a IA consegue processar ao mesmo tempo. Se a sua conversa estiver dentro deste limite, a IA consegue “lembrar” de tudo que foi falado e mandado na hora de te responder. Se a conversa extrapolar esse limite, informações ficarão pelo caminho.Por que token não é a moeda da IA (mas tem a ver)Empresas consideram tokens na hora de precificar o uso das suas IAs – Imagem: Anze Furlan/ShutterstockO token está, sim, relacionado ao preço que se cobra em assinaturas de IA, como os planos Go do ChatGPT e Plus do Gemini. Mas o token, por si só, não é a moeda da IA. Ele é considerado na hora de precificar o uso da IA – seja num valor de assinatura, seja no valor de créditos (esses, sim, funcionam como moedas em plataformas).É que o token é a unidade de medida do processamento de dados. É o “bloco de construção” usado pela máquina para entender o conteúdo enviado pelo usuário. Em última análise, o token serve como métrica de consumo. Com base no volume de tokens que entram (prompts do usuário) e saem (respostas da IA), as empresas medem o esforço computacional e os custos operacionais. Depois de considerar diversas variáveis, chega-se aos preços das assinaturas e dos créditos. No Claude Fable 5, por exemplo, a Anthropic cobra US$ 10 (aproximadamente R$ 51, em conversão direta) por um milhão de tokens de entrada e US$ 50 (R$ 257) por um milhão de tokens de saída.“Um milhão de tokens parece muito, mas não é”, observa Carraro. “Para um problema de programação você gasta isso em dois, três ou quatro prompts, dependendo do tamanho do problema e da complexidade.” “Para problemas pequenos é bastante, mas para a maioria das bases de código com que a gente trabalha não é tanta coisa assim”, acrescenta o especialista. “Esses US$ 50 acabam rápido.”(Esta matéria também usou informações de Google, Nvidia e OpenAI.)O post O que é token? Entenda os ‘bloquinhos’ usados pela IA na hora de te responder apareceu primeiro em Olhar Digital.