brainax

幻觉与隐私

“AI 入门”课程第 8 课,共 23 课。免费,有动画和小测验。

AI 会编造内容

模型有时会编造事实、数字、引语,甚至编出不存在的文章链接。这种编造叫作“幻觉”。例如:模型写“根据 2019 年的一项研究……”,可链接打不开,因为这项研究是它编的。幻觉看起来和真话一样可信。任何模型都可能这样出错。

AI 为什么会编造

模型并不寻找真相,它挑的是文本中听起来合理的下一段。如果它不知道确切答案,也照样会写出一段像答案的内容。它可能会说“我不知道”,但不总会这样。编造最常出现在冷门事实、精确数字、日期、引语和链接上。恰恰在这些地方要格外小心。

怎么核实

数字、日期、法律、健康和钱的问题,一律要核实。原始来源是信息最早出现的地方:政府机构网站、研究论文原文或官方文件。让模型给出来源,然后自己打开链接,确认里面写的是同样的内容。链接打不开,或者内容对不上?那这条信息就不能信。

别透露不该说的

别把密码、银行卡号、助记词(seed phrase)或别人的个人信息粘贴到聊天里。助记词通常是 12 或 24 个单词,掌握它就能完全控制一个加密钱包。你发出的所有内容都会传到公司的服务器上,可能会被保存,就不再只属于你了。简单原则:陌生人面前不会给看的东西,就别发进聊天。

如果已经发出去了

别慌,但要快。发了密码?马上改掉,并开启双重验证,也就是登录时还要输入 App 或短信里的验证码。发了卡号?给银行打电话补办新卡。发了助记词?新建一个钱包,把资产全部转过去,旧钱包就当已经丢了。删掉聊天有帮助,但副本可能已经被保存。

自测一下

  1. AI 给了你一个研究的链接,怎么办?
    正确答案: 打开看看,确认内容一致. 链接也可能是编的。只问模型不够:它可能会很自信地确认自己编的内容。
  2. 什么是 AI 幻觉?
    正确答案: 被当成事实说出来的编造信息. 模型挑的是听起来合理的内容,不一定是真的。所以编出来的东西看着很真。
  3. 哪种内容可以放心粘贴到 AI 聊天里?
    正确答案: 你自己的历史复习笔记. 自己的学习笔记没问题。密码、助记词、银行卡信息和别人的数据都不要发进聊天。

← 聊天机器人是怎么练成的:3 个阶段 怎么判断 AI 好不好用 →