Token
A unidade em que os modelos leem e cobram texto — nem palavra, nem letra.
Token é o pedaço de texto que um modelo processa por vez. Não é exatamente uma palavra nem uma letra: uma palavra comum costuma ser um token, mas palavras longas ou raras viram vários. Uma regra grosseira para português é que cada token equivale a mais ou menos ¾ de uma palavra.
Tokens importam por dois motivos práticos. Primeiro, custo: APIs de IA cobram por token de entrada e de saída, então um prompt gigante custa mais. Segundo, limite: cada modelo aceita um número máximo de tokens de uma vez — a janela de contexto. Entender token ajuda a explicar por que colar um documento enorme fica caro e por que, em algum ponto, o modelo "esquece" o começo da conversa.