Percebi uma tendência interessante — a era dos tokens baratos oficialmente acabou. Antes, quando grandes empresas subsidiavam APIs, todos vivíamos como reis. Jogávamos milhares de palavras nos prompts, obrigando o GPT-4 a fazer tarefas absurdas como "colocar a primeira letra em maiúscula". Por quê? Porque era barato. Mas o vento mudou de direção.

Agora, as contas de poder computacional se tornaram reais. NVIDIA H100 — é um conflito geopolítico, e não apenas uma competição comercial. Cada chamada de API custa dinheiro de verdade. Token não é mais só uma unidade, é realmente como ouro.

O problema é que a maioria das equipes não entende onde o dinheiro realmente escapa. As pessoas olham a conta no final do mês e ficam em choque. As perdas estão escondidas nos lugares menos óbvios. Você conversa educadamente com o modelo — oi, obrigado, por favor. Mas cada palavra, cada espaço — é um token que você paga. O sistema de prompts se acumula, se repete em cada sessão, e você paga pelo que já pagou ontem.

RAG muitas vezes vira um desastre. Ideal — extrair três frases relevantes. Na prática — o usuário faz uma pergunta, e o sistema joga na modelagem dez PDFs de 10 mil palavras cada. O desenvolvedor pensa: que ela mesma encontre. Não é preguiça, é um crime contra o poder de processamento. Informação de contexto inadequada não só confunde o mecanismo de atenção, mas também leva a um consumo astronômico de tokens.

Agentes não controlados — já é um extremo. Quando a IA entra em um ciclo de erros, ela fica lá infinitamente, gastando tokens caros de saída. Sem um mecanismo de parada de emergência adequado, isso pode esvaziar seu cartão de crédito em uma noite.

Mas há uma solução. Cache semântico — a maneira mais simples. As solicitações dos usuários muitas vezes são semelhantes. Em vez de chamar GPT-4 toda hora, verifica-se a similaridade com o cache. Se alguém já fez uma pergunta parecida — pega-se a resposta pronta. Tokens zero gastos. A latência de segundos passa a milissegundos.

Compressão de prompts — é o segundo nível. Algoritmos baseados em entropia de informação analisam quais palavras são críticas e quais são redundantes. Pode-se comprimir um texto de mil tokens para trezentos, mantendo o conteúdo. Faça as máquinas conversarem na linguagem das máquinas — o que parece desajeitado para humanos, é totalmente compreensível para os modelos.

Roteirização de modelos — o maior desafio para arquitetos. Não coloque todas as tarefas na modelagem mais cara. Para simples transformações de formato ou tradução — roteirize para APIs baratas ou modelos menores implantados localmente. Os custos quase desaparecem. Para raciocínios complexos — aí sim, use ferramentas poderosas. Como uma empresa bem coordenada: a recepção não passa os pedidos direto ao CEO.

Aqui é que fica realmente interessante — olhe para OpenClaw e Hermes. São agentes que entendem a realidade de recursos limitados. OpenClaw quase obsessivamente controla tokens. Em vez de fluxo livre de texto — saída forçada em JSON Schema. A IA não conversa, ela preenche formulários. À primeira vista — é sobre facilidade de parsing, mas na verdade é uma economia cirúrgica de tráfego.

Hermes, da Nous Research, demonstra precisão na execução de instruções. Fazer certo na primeira — é a maior economia. Em interações de múltiplas etapas, eles não guardam toda a história. A memória de trabalho — os últimos 3–5 mensagens. Quando a janela enche, um modelo leve faz um resumo de algumas frases-chave e armazena em uma base vetorial. O diálogo antigo é deletado, mas o conhecimento permanece. Não é descarte de lixo, é uma remoção cirúrgica da memória.

Agora, o ponto principal — não é um problema técnico, é uma mudança de mentalidade. Antes, tratávamos tokens como consumidores no supermercado. Viu desconto — joga no carrinho. Empresas conectaram cegamente LLMs a tudo, até para o menu da cantina. Agora, é preciso pensar em investimento. Cada token é um investimento. A pergunta: o que ele me trouxe? A taxa de fechamento de tickets aumentou? O tempo de correção de bugs diminuiu?

Se uma função baseada em regras custa 10 centavos, e uma grande modelagem — 1 dólar por token, mas aumenta a conversão só 2%, então corte. Sem hesitação. Pare de perseguir soluções de IA grandes e abrangentes. Procure por pequenas e precisas melhorias. Quando o negócio pergunta: posso ler 100 mil relatórios e fazer um resumo? Pergunte de volta: sua receita cobre alguns milhões de tokens na API?

Faça as contas. Economize. Conte tokens como um dono de loja de produtos. Parece nada a ver com cyberpunk — mais parecido com agricultura. Mas é uma etapa necessária na maturidade da IA. A era do uso ilimitado e gratuito acabou. Agora, quem entende arquitetura, roteirização e consegue usar cada gota de poder computacional vence. Quando a maré recua, dá para ver quem está nu. Desta vez, a maré recua dos tokens baratos. Só quem extrair cada gota como ouro levará uma verdadeira armadura.