核查:事实核查智能体
“生活里的智能体”课程第 7 课,共 22 课。免费,有动画和小测验。
自信的错误很贵
AI 出错时语气平静又自信,连巨头都为此付出了大代价。2023 年 2 月,Google 的 Bard 在宣传视频里说错了一个关于太空望远镜的事实,Alphabet 一天之内市值蒸发约 1000 亿美元。2023 年,美国几名律师在法庭上引用了 ChatGPT 编造的判例,被罚款 5000 美元。2025 年 10 月,德勤同意退还澳大利亚政府 44 万澳元报告费中的一部分:报告里有一段编造的法院判决引语,还引用了不存在的研究。
为什么一本正经地胡说
模型不是在脑子里查找真相,而是把文字续写得听起来合理。你要三篇带链接的研究,合理的回答就是三个姓氏、年份和整整齐齐的链接。这些到底存不存在,除非它有搜索功能或你明确要求,否则它不会自己去查。这就叫“幻觉”。它默认没有“我不确定”的内部信号:编造的事实和真实的事实听起来一模一样。所以要查的是来源,不是语气。
危险信号
全部核对太费时,所以先找危险信号:没有链接,或者链接打不开,或者跳到首页而不是文章;精确得过分的数字,比如“73.4% 的学生”,却没有出处;听起来过于顺滑、刚好合用的引语;所谓“新”事实,引用的却是三年前的东西。任何一个信号都不能证明是假的,但每一个都在提醒:先查这里。2023 年那几位律师面前就摆着信号:那些判例,任何法律检索都找不到。
三步核对
发现信号了?核对只要几分钟。第一步:点开链接,确认页面存在,而且就是那篇文章。第二步:用页面内搜索找那个数字或引语,电脑上按 Ctrl+F,手机上用“在页面中查找”。找不到,答案就有了。第三步:看是谁、什么时候写的。官网加新日期,靠谱;匿名加五年前,再找一个来源。记者就是这样核对的,德勤的团队当初也该这样检查报告。
第二个智能体当审稿人
核对的一部分可以交给智能体,但得是另一个。Anthropic 的智能体指南里就有这种模式:一个智能体写,另一个评估并提出修改意见,来回循环,直到结果够好。为什么要另一个?作者对自己的文字很有信心,看不到自己的错;审稿人在新聊天里用新眼光看,只找错误。注意:审稿人也会出错。它能帮你缩小范围,但最重要的事实,最后还得你自己核对。
动手试试:事实核查智能体
找一段对准确性有要求的文字:你的课程论文、上节课的报告、你想转发的帖子都行。新开一个能联网搜索的聊天,先粘下面的说明,再把文字贴在下面。智能体会列出每个可核查的说法并打上标签。说明里最关键的是“绝不”:它不自己改,也不自己补。找不到来源就直说。莉莎就这样检查了自己的论文,发现两段引语在来源里根本没有。她手动复核、改写后,安心交了上去。
自测一下
- 他首先该做什么?
正确答案: 点开链接,在页面里找这个数字. 没核实过的精确数字就是危险信号。点开链接一分钟,就能得到真实答案。 - 为什么最好在新聊天里核查?
正确答案: 作者对自己的文字有信心,审稿人用新眼光看. 这就是 Anthropic 指南里的“作者和审稿人”模式:评估的不是写的那个。 - 哪里出了问题?
正确答案: 允许它自己改,它就把缺口给掩盖了. 会改文字的核查员,会把“没找到”变成新的编造。所以说明里写着“什么都不改、不补”。 - 怎么处理?
正确答案: 转发之前,先去原始出处找这句话. 过于完美又没链接的引语是危险信号。如果在任何采访或书里都找不到,大概率从没说过。