Temperatura

Definição em uma frase: escalar que divide os logits antes do softmax, controlando quão concentrada (fina) ou difusa (chapada) é a distribuição de amostragem.

Fórmula

ValorEfeito
converge para argmax — greedy decoding, sem sorteio
afina a distribuição; improváveis perdem massa
distribuição como saiu do modelo
achata; com amostragem pura, vira ruído

O detalhe que quase todo mundo erra

Temperatura não muda o ranking dos tokens — dividir por um escalar positivo é monotônico. Ela muda a geometria da distribuição: o quanto de massa fica nos poucos favoritos.

É por isso que provedores recomendam ajustar temperature ou top_p, nunca os dois: ajustar os dois é multiplicar efeitos e quase sempre piora.

Escolha prática

CasoValor típico
Extração de dados, código, classificação0 a 0.2
Resposta factual com fonte (RAG)0 a 0.3
Texto criativo, brainstorming0.8 a 1.2

⚠️ Parâmetros de sampling têm suporte desigual entre modelos e provedores, e alguns modelos recentes rejeitam valores fora do padrão. Consulte a referência do modelo antes de prescrever.

Autoavaliação

  1. P: Por que não é “temperatura zero” no sentido físico? R: porque a implementação não divide por zero — ela faz argmax. São duas rotas de código diferentes, mesmo que o efeito se pareça.
  2. P: Por que aumentar a temperatura e o top-p juntos costuma degradar? R: os dois cortam a cauda em direções diferentes; combinados, deixam quase só o token de topo alto, com pouco espaço para recuperação.

Onde vi isso

Ver também


Atualizado em 2026-09-30