Tokens, janela de contexto e o documento de calibração

Perguntas frequentes

O que é um token e por que ele importa?

Token é a unidade básica com que a inteligência artificial lê e escreve texto: o modelo não enxerga palavras como a gente, ele quebra tudo em pedacinhos, e cada pedacinho é um token. Na média, um token equivale a cerca de três quartos de uma palavra — em português, quase uma palavra por token —, e espaço e pontuação também contam. Ele importa porque entra em três coisas ao mesmo tempo: custo (paga-se o token de entrada e o de saída), janela de contexto (o teto do que o modelo considera de uma vez) e velocidade (mais token, resposta mais lenta).

A janela de contexto é a memória do ChatGPT?

Não. A janela de contexto é o teto de informação que o modelo consegue considerar de uma vez, e não é memória permanente. Três pontos sobre ela: o limite não é único — muda conforme o modelo, o plano e a ferramenta; conversa enorme perde foco e começa a esquecer; e o jeito de trabalhar com isso é por etapas, pedindo um resumo de continuidade quando a conversa cresce, em vez de arrastar tudo para a frente.

O que é o documento de calibração?

É um documento único que reúne perfil, regras, formatos, critérios e contexto do negócio, e serve para as respostas pararem de mudar de tom a cada conversa nova. No perfil e nas regras entram idioma, tom, a instrução de não inventar e a de declarar incerteza. Nos formatos e critérios, coisas como tabela, etapas numeradas e exigência de fonte primária. No contexto do negócio, produtos, políticas, limites e quem aprova o quê.