O que é um token em IA e porque é a unidade que define o teu custo

Se já olhaste para a fatura de uma API de IA ou para a tabela de preços do ChatGPT, do Claude ou do Gemini, viste a mesma expressão repetida: por milhão de tokens. O token é a unidade que está por trás de quase tudo o que pagas quando usas inteligência artificial. Percebê-lo é o primeiro passo para controlar custos em vez de levar sustos no fim do mês.

Este artigo explica o que é um token, como se conta e por que motivo esta unidade aparentemente técnica determina diretamente quanto gastas.

O que é um token, afinal

Um token é um pedaço de texto que o modelo processa de cada vez. Não é uma palavra nem uma letra, é algo no meio: um subconjunto de caracteres que o modelo usa internamente para ler e gerar linguagem.

Na prática, a regra aproximada é simples: um token equivale a cerca de quatro caracteres em inglês, ou cerca de 0,75 palavras. Posto de outra forma, um milhão de tokens corresponde a cerca de 750 mil palavras. Uma palavra curta pode ser um único token, uma palavra longa ou rara pode partir-se em dois ou três.

Porque é que o texto é dividido assim

Os modelos de linguagem não leem palavras inteiras como nós. Trabalham com um vocabulário fixo de tokens e convertem todo o texto nessa moeda interna antes de o processar. Esta divisão permite-lhes lidar com qualquer palavra, incluindo nomes próprios, código ou termos que nunca viram, montando-os a partir de pedaços conhecidos.

Por isso a contagem de tokens varia com a língua e com o tipo de texto. O português tende a gerar mais tokens do que o inglês para a mesma ideia, e texto com muitos símbolos, números ou código costuma ser mais pesado em tokens do que prosa simples.

Input e output: dois tipos de token

Esta é a distinção mais importante para o teu bolso. Quando usas uma API de IA, pagas dois tipos de token:

1. Tokens de input. Tudo o que envias ao modelo: a tua pergunta, as instruções de sistema e qualquer contexto que junta, como documentos ou histórico de conversa.
2. Tokens de output. Tudo o que o modelo gera em resposta.

E aqui está o detalhe que apanha muita gente desprevenida: o output custa quase sempre mais caro que o input. Na maioria dos modelos atuais, a relação é de cerca de cinco para um. Ou seja, gerar texto sai mais caro do que enviá-lo.

Porque é que isto define o teu custo

A fatura de uma API de IA é, na sua essência, uma multiplicação simples:

(tokens de input × preço do input) + (tokens de output × preço do output)

Tudo o que aumenta a contagem de tokens aumenta a conta. Prompts longos, históricos de conversa que crescem a cada turno, documentos grandes enviados como contexto, respostas extensas. Numa única chamada o valor é minúsculo, mas uma aplicação com milhares de utilizadores processa centenas de milhões de tokens por mês, e aí cada token conta.

É por isso que equipas que correm IA em produção falam de tokens constantemente. Não é obsessão técnica, é gestão de custos. Quem percebe a unidade percebe onde está a gastar e onde pode poupar.

O que isto significa na prática

Três conclusões úteis para tirar daqui:

• Prompts mais curtos e diretos custam menos. Cada palavra a mais no input é dinheiro.
• Respostas mais longas custam mais, e custam em dobro. Limitar o tamanho do output, quando faz sentido, tem impacto direto.
• A escolha do modelo é o maior fator. O preço por token varia enormemente entre modelos, e usar o modelo certo para cada tarefa é a alavanca mais poderosa de todas.

Conclusão

O token é a moeda da inteligência artificial. Tudo o que envias e tudo o que recebes é convertido nesta unidade, e é por ela que pagas. Compreender o que é um token, a diferença entre input e output e como a contagem cresce é a base para usar IA de forma sustentável, sem que o custo se torne uma surpresa.

Nos próximos passos vale a pena perceber como se comparam os preços entre fornecedores e que estratégias existem para reduzir o consumo de tokens sem perder qualidade.