什么是数据漂移？

真实数据随时间偏离了训练时的数据. 模型不会自己坏掉。是世界在变：新骗局、新流行语、新价格，旧的训练跟不上了。

诈骗过滤器为什么漏掉了新骗局？

训练数据里没有这类例子. 模型只懂它数据里有的东西。只有用新例子重新训练后，它才能识别新骗局。

反馈会变成用于测试和训练的新标签. 反馈会被收集起来，用来找错误、重新训练模型。效果在下次更新时才体现，而不是马上。

“AI 入门”课程第 19 课，共 23 课。免费，有动画和小测验。

例如：某银行 App 里有个过滤器，专门拦截诈骗短信。它是用旧短信训练的，每条都标着“诈骗”或“正常”。标签就是人给每个例子标上的正确答案。过滤器只学会了这些数据里有的东西。某个标签标错了，它就跟着错；某种骗局数据里没有，它就完全不认识。

一年过去了。骗子想出了新花样：“兼职点赞视频就能赚钱”。训练数据里没有这类短信，过滤器就放过去了。这叫数据漂移：随着时间推移，真实数据和模型训练时用的数据差别越来越大。模型自己并没有坏，是世界往前走了。网络流行语、价格和潮流也会这样过时，模型的回答也随之过时。

所以，产品里的模型需要有人盯着。这叫监控：团队会看漏掉了多少诈骗短信、收到了多少投诉。效果下降了？就收集新的带标签例子，重新训练模型，也就是用新数据再教它一遍。图上那次往上跳就是这一步。聊天机器人也类似：不断推出新版本，正是因为旧版本的知识会过时。

“人在回路中”是指：AI 做出的重要或有争议的决定，由真人来复核。比如冻结银行卡或拒绝贷款。你点的“不是垃圾短信”或“回答不好”按钮也是这个回路的一部分。这些反馈会变成新的标签，用来测试和训练。点一下不会让模型马上改变，但到下次更新时，这些反馈能帮它改掉错误。

负责任的 AI 靠三点支撑。公平：如果数据里某种口音或肤色的人很少，模型恰恰会对这些人表现更差。隐私：用户的个人数据要受到保护，不能随便外传。透明：人们知道自己在和机器人对话，也能了解它为什么这样决定。基本原则：如果 AI 对你做了重要决定，要求由真人复核。

什么是数据漂移？
正确答案: 真实数据随时间偏离了训练时的数据. 模型不会自己坏掉。是世界在变：新骗局、新流行语、新价格，旧的训练跟不上了。
诈骗过滤器为什么漏掉了新骗局？
正确答案: 训练数据里没有这类例子. 模型只懂它数据里有的东西。只有用新例子重新训练后，它才能识别新骗局。
为什么要点“不是垃圾短信”或“回答不好”？
正确答案: 反馈会变成用于测试和训练的新标签. 反馈会被收集起来，用来找错误、重新训练模型。效果在下次更新时才体现，而不是马上。