智能体：会动手做事的 AI
“AI 入门”课程第 17 课，共 23 课。免费，有动画和小测验。
不只回答，还会动手
普通聊天只写文字，剩下的事你自己做。智能体（agent）是被配上了工具的模型，工具就是它能自己运行的程序：搜索、计算器、运行代码、日历。整节课用一个例子：“帮我们四个人找一趟周末去海边的火车，算出每人出多少钱，再把行程加进我的日历。”智能体会一步一步完成。
模型怎么调用工具
例如：四个人的车票一共 240 美元。模型自己不会去按按钮，它会写一条特殊请求：“计算器：240 / 4”。应用运行这个工具，把结果 60 送回对话里。模型读到后写道：“每人 60 美元”。为什么这样做：模型不擅长精确计算和最新信息，而计算器和搜索恰好在这方面很可靠。
循环：想、做、看
智能体是绕着圈工作的。想：下一步该做什么。做：调用一个工具。看：查看结果。判断：任务完成了，还是要再来一轮。例如：它搜索周六的火车，发现票卖光了，决定改查周日，找到一趟，算好价格，再把行程放进日历。每一轮都建立在上一轮看到的结果之上。
错误会叠加
坑在于每一步都建立在上一步之上。智能体如果把两个名字相近的城市搞混，后面全都错：价格、时间、日历里的安排。例如：如果每一步有 10 次里 9 次是对的，那么连续 5 步全对的概率是 0.9 × 0.9 × 0.9 × 0.9 × 0.9 ≈ 0.59，也就是大约 10 次里只有 6 次。所以要盯着每一步，边做边纠正。
使用智能体的安全规则
花钱、发消息、删除东西：必须等你点头。让智能体先给你看它准备买什么、发什么，再由你确认。只给最小权限，也就是只开放这项任务需要的东西。例如：日历可以，银行卡和整个邮箱不行。智能体读到的网页文字也可能是陷阱，这一点在安全那一课里讲。
自测一下
- 对 AI 智能体来说，“工具”是什么？
正确答案: 模型能运行的程序：搜索、计算器、代码. 模型写出请求，应用运行程序并返回结果。智能体就是这样算得准、查到新信息的。 - 为什么智能体的错误会越积越多？
正确答案: 每一步都依赖上一步，早期的错会一路带下去. 例如：单步 10 次对 9 次，但连续 5 步全对只有大约 10 次里 6 次。所以长任务需要检查。 - 智能体找到了车票，准备下单。正确做法是？
正确答案: 让它先给你看订单，由你自己确认. 涉及花钱、发消息和删除的操作，只能由你确认。事后撤销一笔购买，比一开始不买要难得多。
← 图片、语音和视频 安全：数据与提示词注入 →