模型在写回答时做的是什么？

挑选最合适的下一小块文字. 回答是一块一块、一个词元接一个词元拼出来的。模型里没有现成答案，只有学到的规律。

语言模型里的词元（token）是什么？

一个词或词的一部分. 这里的词元是文字单位：一个词、词的一部分或一个符号。别和加密货币的代币搞混。

仍然值得核实一下. 语气自信说明不了准确性。模型挑的是听起来合理的内容，重要的事要核实。

“AI 入门”课程第 2 课，共 23 课。免费，有动画和小测验。

神经网络是一种靠例子学会做事的程序，而不是靠人写好的规则。ChatGPT 和 Claude 都是语言模型，也就是专门处理文字的神经网络。它们一块一块地写出回答，每次都挑最合适的下一块。例如：在“比特币常被称为数字……”后面，模型选“黄金”的可能性远大于“披萨”。接着再选下一个词，就这样一路写下去。

模型处理的不是字母，也不一定是完整的词，而是词元（token）。词元就是一小块文字：可以是一个短词、长词的一部分，或一个标点。一个长词常被拆成好几个词元。注意名字：它不是加密货币里的代币，也不是钱，只是文字的计量单位。付费的 AI 服务按词元计算对话长度和价格。

上线之前，模型经过了训练：读了海量的书、网站和代码。它不会把整页内容存下来，而是学会了规律：人们通常怎么接着说、邮件怎么写、代码怎么组织。所以它写得很流畅。但它不是存着原文的图书馆，逐字引用来源时可能会出错。

训练总会在某个时间点结束，之后模型不会自己学到新东西。这个界限叫作知识截止日期。对于之后发生的事，模型可能一无所知，也可能编一个答案。有些聊天机器人能上网搜索，但不一定每次都搜，也不一定搜对。一句话：最新新闻、汇率和价格，要自己核实。

模型拼出的是一个听起来合理的回答。它不是从数据库里取答案，也不会自己去核对来源。所以它可能语气很笃定，却答错了。例如：问它火星有几颗卫星，自信的回答也可能是错的。正确答案是两颗：火卫一和火卫二。基本原则：自信不等于正确。重要的事一定要核实。