为什么模型会重复例子里原有的错误？

它从数据中学习，连错误一起学了. 垃圾进，垃圾出：例子里的错误标签，会变成模型的错误回答。

一个评论过滤器几乎只用英文例子训练。最可能出现什么情况？

它识别其他语言里的脏话会更差. 这就是数据偏差：例子里少的东西，模型就掌握得差。

人给例子写上的标准答案. 标签告诉模型这个例子的正确答案是什么，比如“恶意”或“正常”。

“AI 入门”课程第 6 课，共 23 课。免费，有动画和小测验。

数据就是模型用来学习的例子：文字、照片、各种记录。模型拿不到现成的规则，它要自己从例子里找规律。例如：你想给自己视频下的评论做个过滤器。你给它 10000 条旧评论，它就学着分辨哪些是恶意评论、哪些是正常评论。例子里有的，它就会；例子里没有的，它就不懂。

要让过滤器明白什么是恶意评论，每个例子都需要一个标签。标签就是人给例子写上的标准答案，比如“恶意”或“正常”。模型学的就是重复这些标签。陷阱在于：标签是人打的，人会出错。如果一条骂人的评论被标成了“正常”，模型也会把这个错误学进去，之后照样再犯。

程序员有句老话：垃圾进，垃圾出。模型不会比它的数据更聪明。标错的标签、重复的例子、混进来的垃圾广告，它都会照单全收，再在回答里重复出来。数据本身有问题的话，光是加量也没用。一句话：一小份干净的例子，往往比一大堆脏数据更有用。

如果数据里某一类例子比另一类多得多，模型就会把这种失衡照搬过来。这叫偏差，英文是 bias。例如：你的过滤器主要是用英文评论训练的，结果中文网络用语里的脏话它就漏掉了。聊天机器人也一样：网上英文内容比任何其他语言都多，所以模型往往用英文回答得更好，看世界也更偏向英语国家的视角。

数据是在某个时间点收集的，之后世界继续变化，模型却原地不动。一年后出现了新的网络用语，你的过滤器就看不懂了：新的骂人话直接溜过去。对聊天机器人来说，这就是第一课讲过的知识截止日期：之后发生的事，模型可能完全不知道。结论：最新的潮流、价格和新闻，要去最新的来源核实。

训练数据里可能有个人信息：名字、帖子、别人公开发出的聊天记录。模型通常不会逐字存下这些内容，但有时会复述出一小段。你自己的聊天记录也可能被拿去训练。很多聊天应用允许你在设置里关掉这一项，去看看你的。底线：不愿意交给陌生人的东西，就别发进聊天框。