Temperatura

Pílula de Conhecimento

Temperatura

sampling temperature · o quanto a IA arrisca na escolha da palavra

Mais criativo não é mais inteligente.

Veja a distribuição mudar — toque numa temperatura

Exemplo ilustrativo: um modelo completando “a radiografia sugere...”. Os números não medem um modelo real — mostram só como a temperatura achata (alta) ou afunila (baixa) a distribuição de probabilidade entre as palavras candidatas.

Temperatura:
o quanto a IA arrisca, não o quanto ela sabe

Por que a mesma pergunta, feita duas vezes a uma IA, pode voltar com respostas diferentes? A resposta está na temperatura de amostragem (sampling temperature): o parâmetro que regula o quanto o modelo arrisca na escolha de cada palavra. Temperatura baixa repete a opção mais provável; temperatura alta dá chance a palavras menos óbvias — o que pode soar mais criativo, mas também menos consistente.

Como funciona

Um modelo de linguagem não escolhe a resposta inteira de uma vez: ele constrói o texto token por token (uma palavra ou pedaço de palavra de cada vez), e a cada passo calcula a probabilidade de cada opção possível de continuação. Essas probabilidades vêm de uma função chamada softmax, que transforma os “pontos” que o modelo dá a cada opção (os logits) numa distribuição que soma 100%.

A temperatura entra nessa conta antes do softmax, dividindo os pontos de cada opção por ela. Com temperatura baixa, a diferença entre a opção mais provável e as demais fica mais exagerada: o modelo quase sempre escolhe a opção número 1. Com temperatura 0, o comportamento vira determinístico — chamado de “decodificação gulosa” —, sem sorteio. Com temperatura alta, a distribuição fica mais achatada: opções antes pouco prováveis ganham chance real de serem escolhidas, e a resposta fica mais variada e mais imprevisível.

É como pedir a um residente que escolha entre quatro hipóteses diagnósticas, todas plausíveis, mas com probabilidades diferentes. Com temperatura baixa, ele sempre aponta a mais provável. Com temperatura alta, às vezes aposta na hipótese mais rara da lista — nem sempre errada, mas mais arriscada.

Por que importa na clínica

Um médico que usa chatbot de IA para rascunhar texto, resumir artigo ou buscar hipótese precisa saber por que a mesma pergunta, feita de novo, às vezes volta diferente — e por que isso não é sinal de erro nem de acerto. Confundir “resposta mais criativa” com “resposta mais confiável” é um risco direto: a temperatura não melhora a qualidade da informação, só a variedade da forma. A verificação da resposta — fonte, evidência, coerência clínica — continua sendo trabalho do médico, independente de como a ferramenta foi configurada.

E em geradores de imagem?

Interfaces baseadas em Stable Diffusion também têm controles que mudam o resultado — mas com mecanismos próprios, diferentes da temperatura de texto.

A comparação ajuda a mostrar que a geração pode ser ajustada de várias formas — mas nenhum desses três é a mesma coisa que a temperatura de texto.

Sampling temperature, caso a caso

Cinco situações de uso de IA na rotina médica. Escolha a resposta certa em cada uma.

Checklist

Esse mesmo cuidado com o que o modelo prioriza aparece na Pílula 17, Bajulação: a tendência do modelo de concordar com a tese que o próprio usuário apresentou, mesmo à custa da exatidão — um viés diferente do efeito da temperatura, documentado mesmo em modelos sem RLHF e que tende a aumentar, não diminuir, com o tamanho do modelo.

Material educativo, não parecer jurídico nem técnico de engenharia. Os valores de temperatura variam por provedor e por modelo; esta pílula não recomenda um número de configuração.

Referências

1. Mistral AI. Temperature, Concept Deep Dive — Sampling Temperature. Mistral AI Cookbook.

2. Together AI. Inference parameters & sampling.

3. Hugging Face. Generation strategies. Transformers Docs.

4. Félix Sanz. How Stable Diffusion works.

5. Chris McCormick. Steps and Seeds in Stable Diffusion.

6. Perez, Ethan et al. Discovering Language Model Behaviors with Model-Written Evaluations. ACL Findings, 2023.

7. ICS & Xdiag Tecnologias. Medicina com IA: O Método Prático para o Médico Moderno — Módulo 1. 2026.