Temperatura
Definição em uma frase: escalar que divide os logits antes do softmax, controlando quão concentrada (fina) ou difusa (chapada) é a distribuição de amostragem.
Fórmula
| Valor | Efeito |
|---|---|
| converge para argmax — greedy decoding, sem sorteio | |
| afina a distribuição; improváveis perdem massa | |
| distribuição como saiu do modelo | |
| achata; com amostragem pura, vira ruído |
O detalhe que quase todo mundo erra
Temperatura não muda o ranking dos tokens — dividir por um escalar positivo é monotônico. Ela muda a geometria da distribuição: o quanto de massa fica nos poucos favoritos.
É por isso que provedores recomendam ajustar temperature ou top_p, nunca os dois: ajustar os dois é multiplicar efeitos e quase sempre piora.
Escolha prática
| Caso | Valor típico |
|---|---|
| Extração de dados, código, classificação | 0 a 0.2 |
| Resposta factual com fonte (RAG) | 0 a 0.3 |
| Texto criativo, brainstorming | 0.8 a 1.2 |
⚠️ Parâmetros de sampling têm suporte desigual entre modelos e provedores, e alguns modelos recentes rejeitam valores fora do padrão. Consulte a referência do modelo antes de prescrever.
Autoavaliação
- P: Por que não é “temperatura zero” no sentido físico? R: porque a implementação não divide por zero — ela faz
argmax. São duas rotas de código diferentes, mesmo que o efeito se pareça. - P: Por que aumentar a temperatura e o top-p juntos costuma degradar? R: os dois cortam a cauda em direções diferentes; combinados, deixam quase só o token de topo alto, com pouco espaço para recuperação.
Onde vi isso
- Visto em: Temperatura e previsibilidade
Ver também
Atualizado em 2026-09-30