Tecnicamente, a temperatura ajusta a distribuição de probabilidade sobre a próxima palavra candidata: perto de zero, o modelo quase sempre escolhe a opção mais provável; mais alta, ele passa a considerar opções menos óbvias com mais frequência.
Tarefas que exigem precisão (como gerar código ou responder uma pergunta factual) costumam usar temperatura baixa; tarefas criativas (como brainstorm) se beneficiam de uma temperatura mais alta.