Por qué las respuestas cambian cada vez
Lección 5 de 23 del curso «Bases de IA». Gratis, con animaciones y un test.
Cada palabra tiene su probabilidad
El modelo no elige una palabra de inmediato. Primero le da a cada opción una probabilidad, o sea una posibilidad. Ejemplo del dibujo, la frase «El cielo hoy está…»: «azul» 62%, «gris» 21%, «despejado» 9%, «morado» 2%. El 6% restante se reparte entre todas las demás palabras: 100 − 62 − 21 − 9 − 2 = 6. Los números son inventados para el ejemplo, pero el mecanismo es real.
El modelo tira los dados
Luego viene el muestreo (sampling): el modelo saca una palabra al azar, pero según las probabilidades. De 100 intentos, «azul» sale unas 62 veces y «gris» unas 21, porque esas son sus probabilidades. Por eso la misma pregunta da respuestas distintas: basta con que al inicio salga otra palabra y todo el texto toma su propio camino. No es un bug, es una función.
Temperatura: el control del riesgo
La temperatura es un ajuste que cambia esas probabilidades. Baja hace que las barras altas sean aún más altas: el modelo casi siempre elige «azul» y las respuestas son predecibles. Alta aplana las barras: hasta «morado» tiene chance, y el texto se vuelve más audaz y aleatorio. Un ajuste parecido es top-p: el modelo elige solo entre las palabras más probables hasta que su probabilidad sumada llega a cierta parte.
Cuándo en frío y cuándo en caliente
La temperatura baja sirve para tareas con una sola respuesta correcta: calcular el presupuesto de un viaje, armar una tabla, traducir instrucciones. La alta sirve para ideas: nombres para tu canal, la trama de un video, un regalo para un amigo. Las apps de chat comunes muchas veces no tienen ese control. Entonces pide «dame 5 opciones muy distintas» o toca el botón de regenerar: el modelo vuelve a sacar las palabras.
Una respuesta no es la verdad
Como una respuesta es un sorteo según probabilidades, una sola respuesta no es «la» respuesta. Regénerala 2–3 veces. Si los datos cambian entre respuestas, el modelo no está seguro: verifícalo en una fuente confiable. La trampa es que incluso con temperatura baja el modelo puede repetir con seguridad el mismo error. Predecible no significa correcto.
Ponte a prueba
- ¿Por qué el modelo responde distinto a la misma pregunta?
Respuesta correcta: Elige palabras al azar según las probabilidades. Es el muestreo: las palabras se sacan al azar pero según la probabilidad. Otra palabra al inicio cambia todo el texto que sigue. - ¿Qué temperatura conviene para inventar el nombre de un canal?
Respuesta correcta: Más alta: saldrán opciones más variadas. Para ideas hace falta variedad. La temperatura alta empareja las probabilidades y también entran palabras menos obvias. - Regeneraste la respuesta 3 veces y el año del suceso cambia cada vez. ¿Qué significa?
Respuesta correcta: El modelo no está seguro: verifica el año. Si los datos varían, el modelo no tiene una respuesta segura. Ni la última ni la más repetida garantiza la verdad: revisa una fuente.
← Embeddings: el significado como coordenadas Los datos mandan →