为什么每次回答都不一样
“AI 入门”课程第 5 课,共 23 课。免费,有动画和小测验。
每个词都有自己的概率
模型不会马上只选一个词。它先给每个候选词一个概率,也就是可能性。图里的例子,“今天的天空……”:“蓝色”62%,“灰色”21%,“晴朗”9%,“紫色”2%。剩下的 6% 由其他所有词分:100 − 62 − 21 − 9 − 2 = 6。数字是为了举例编的,但机制是真的。
模型在掷骰子
接下来是采样(sampling):模型随机抽一个词,但按概率来抽。跑 100 次,“蓝色”大约出现 62 次,“灰色”大约 21 次,因为它们的概率就是这样。所以同一个问题会得到不同回答:开头只要抽到另一个词,整段文字就走上了另一条路。这不是 bug,是特性。
温度:冒险程度的滑块
温度是改变这些概率的设置。低温让高的柱子更高:模型几乎总是选“蓝色”,回答很好预测。高温把柱子拉平:连“紫色”都有机会,文字变得更大胆、更随机。还有个类似的设置叫 top-p:模型只从最可能的那些词里选,直到它们的概率加起来达到设定的比例。
什么时候调低,什么时候调高
低温适合只有一个正确答案的任务:算旅行预算、整理表格、翻译说明书。高温适合想点子:给频道起名、视频剧情、给朋友挑礼物。普通聊天应用里往往没有这个滑块。那就直接说“给我 5 个差别很大的方案”,或者点“重新生成”按钮:模型会把词重新抽一遍。
一个回答不等于真相
既然回答是按概率随机抽出来的,一个回答就不是“标准答案”。多重新生成 2–3 次。如果几次回答里的事实对不上,说明模型没把握:去可靠来源核实。陷阱在于:即使温度很低,模型也可能每次都很自信地重复同一个错误。稳定不等于正确。
自测一下
- 为什么同一个问题模型会给出不同回答?
正确答案: 它按概率随机挑词. 这就是采样:词是随机抽的,但按概率抽。开头换了一个词,后面整段文字都会变。 - 想给频道起名,温度调成什么更好?
正确答案: 高一点:会有更多不同方案. 想点子需要多样性。高温让概率更平均,不那么显而易见的词也有机会出现。 - 你重新生成了 3 次,事件的年份每次都不一样。这说明什么?
正确答案: 模型没把握,年份要去核实. 事实前后不一,说明模型没有确定答案。最后一次或出现最多的都不保证正确,要查来源。
← 嵌入:把意思变成坐标 数据决定一切 →