Агенты: ИИ, который действует
Урок 17 из 23 курса «ИИ: курс с нуля». Бесплатно, с анимациями и тестом.
Не только отвечает, но и делает
Обычный чат пишет текст, а дальше всё делаешь ты. Агент: модель, которой дали инструменты, то есть программы, которые она может запускать сама: поиск, калькулятор, запуск кода, календарь. Пример на весь урок: «Найди поезд к морю на выходные для нас четверых, посчитай, сколько с каждого, и поставь поездку в календарь». Агент делает это по шагам.
Как модель зовёт инструмент
Пример: билеты на четверых стоят 240 $. Сама модель кнопок не нажимает: она пишет особый запрос «калькулятор: 240 / 4». Приложение запускает инструмент и возвращает в чат результат: 60. Модель читает его и пишет: «по 60 $ с человека». Зачем так: в точном счёте и свежих фактах модель слабая, а калькулятор и поиск в этом надёжны.
Цикл: думай, делай, смотри
Агент работает по кругу. Думает: что нужно сделать дальше. Действует: вызывает инструмент. Смотрит на результат. Решает: задача готова или нужен ещё круг. Пример: ищет поезда на субботу, видит, что билетов нет, решает искать на воскресенье, находит, считает цену, ставит поездку в календарь. Каждый новый круг опирается на то, что агент увидел в прошлом.
Ошибки складываются
Ловушка тут в том, что каждый шаг строится на предыдущем. Агент перепутал город с похожим названием, и дальше всё неверно: цены, время, запись в календаре. Пример: если каждый шаг верен в 9 случаях из 10, то 5 шагов подряд верны с шансом 0,9 × 0,9 × 0,9 × 0,9 × 0,9 ≈ 0,59, то есть примерно 6 раз из 10. Поэтому следи за шагами и поправляй по ходу.
Правила безопасности для агента
Деньги, сообщения, удаление: только после твоего «да». Пусть агент сначала покажет, что собрался купить или отправить, а подтвердишь ты. Давай узкие права, то есть доступ только к тому, что нужно для задачи. Пример: календарь можно, а банковскую карту и всю почту нет. Тексты на сайтах, которые читает агент, тоже бывают ловушками: об этом в уроке про безопасность.
Проверь себя
- Что такое инструмент у ИИ-агента?
Правильный ответ: Программа, которую модель может запустить: поиск, калькулятор, код. Модель пишет запрос, приложение запускает программу и возвращает результат. Так агент точно считает и находит свежие данные. - Почему ошибки агента накапливаются?
Правильный ответ: Каждый шаг опирается на прошлый, и ранняя ошибка тянется дальше. Пример: шаг верен в 9 случаях из 10, но 5 таких шагов подряд верны примерно в 6 случаях из 10. Поэтому длинные задачи надо проверять. - Агент нашёл билеты и готов их купить. Как правильно?
Правильный ответ: Пусть покажет покупку, а подтвердишь её ты сам. Действия с деньгами, сообщениями и удалением подтверждаешь только ты. Отменить покупку потом сложнее, чем не сделать её.
← Картинки, голос, видео Безопасность: данные и prompt injection →