Por que as respostas mudam toda vez
Aula 5 de 23 do curso “Básico de IA”. Grátis, com animações e teste.
Cada palavra tem sua chance
O modelo não escolhe uma palavra de cara. Primeiro ele dá a cada opção uma probabilidade, ou seja, uma chance. Exemplo da figura, a frase “O céu hoje está…”: “azul” 62%, “cinza” 21%, “limpo” 9%, “roxo” 2%. Os 6% restantes ficam divididos entre todas as outras palavras: 100 − 62 − 21 − 9 − 2 = 6. Os números foram inventados para o exemplo, mas o mecanismo é real.
O modelo joga os dados
Depois vem a amostragem (sampling): o modelo sorteia uma palavra, mas de acordo com as chances. Em 100 tentativas, “azul” sai umas 62 vezes e “cinza” umas 21, porque essas são as chances delas. Por isso a mesma pergunta gera respostas diferentes: basta sair outra palavra no começo e o texto todo segue outro caminho. Não é bug, é recurso.
Temperatura: o controle de risco
A temperatura é um ajuste que muda essas chances. Baixa deixa as barras altas ainda mais altas: o modelo quase sempre escolhe “azul” e as respostas ficam previsíveis. Alta achata as barras: até “roxo” ganha chance, e o texto fica mais ousado e aleatório. Um ajuste parecido é o top-p: o modelo escolhe só entre as palavras mais prováveis até a chance somada delas chegar a uma parcela definida.
Quando usar frio e quando usar quente
Temperatura baixa serve para tarefas com uma resposta certa: calcular o orçamento de uma viagem, montar uma tabela, traduzir instruções. Alta serve para ideias: nomes para o seu canal, o roteiro de um vídeo, um presente para um amigo. Os apps de chat comuns muitas vezes não têm esse controle. Aí peça “me dê 5 opções bem diferentes” ou toque no botão de gerar de novo: o modelo sorteia as palavras outra vez.
Uma resposta não é a verdade
Como a resposta é um sorteio pelas chances, uma resposta só não é “a” resposta. Gere de novo 2–3 vezes. Se os fatos mudam entre as respostas, o modelo não tem certeza: confira numa fonte confiável. A pegadinha é que, mesmo com temperatura baixa, o modelo pode repetir com confiança o mesmo erro. Previsível não quer dizer correto.
Teste-se
- Por que o modelo responde diferente à mesma pergunta?
Resposta certa: Escolhe palavras ao acaso conforme as chances. É a amostragem: as palavras são sorteadas, mas pela probabilidade. Outra palavra no começo muda todo o texto que vem depois. - Qual temperatura é melhor para criar o nome de um canal?
Resposta certa: Mais alta: vão sair opções mais variadas. Ideias pedem variedade. A temperatura alta equilibra as chances, e palavras menos óbvias também entram na resposta. - Você gerou a resposta 3 vezes e o ano do evento muda toda vez. O que isso significa?
Resposta certa: O modelo não tem certeza: confira o ano. Fatos variando mostram que o modelo não tem resposta segura. Nem a última nem a mais repetida garante a verdade: confira uma fonte.
← Embeddings: o sentido como coordenadas Os dados decidem tudo →