Проверка: агент-фактчекер
Урок 7 из 22 курса «ИИ-агенты для жизни: курс с нуля». Бесплатно, с анимациями и тестом.
Уверенные ошибки стоят денег
ИИ ошибается спокойным, уверенным тоном, и это обходится дорого даже гигантам. В феврале 2023 года Bard от Google ошибся в факте о космическом телескопе прямо в рекламном ролике, и за день Alphabet подешевела примерно на $100 млрд. В 2023 году американские юристы сослались в суде на дела, которые выдумал ChatGPT, и получили штраф $5000. В октябре 2025 года Deloitte согласилась вернуть часть из A$440 000 за отчёт для правительства Австралии: в нём нашли выдуманную цитату из решения суда и ссылки на несуществующие исследования.
Почему ИИ врёт уверенно
Модель не ищет правду в голове. Она продолжает текст так, чтобы он звучал правдоподобно. Если ты просишь три исследования со ссылками, правдоподобный ответ — это три фамилии, годы и аккуратные ссылки. Существуют они или нет, модель сама не проверит, если у неё нет поиска или ты об этом не просишь. Это называется галлюцинацией. Внутреннего сигнала «я не уверена» по умолчанию у неё нет: выдуманный и настоящий факт звучат одинаково. Поэтому проверять нужно не тон, а источник.
Красные флаги
Проверять всё подряд долго, поэтому сначала ищи красные флаги. Нет ссылки, или она не открывается, или ведёт на главную страницу вместо статьи. Очень точная цифра вроде «73,4% студентов» без источника. Цитата, которая звучит слишком гладко и удобно. «Свежий» факт со ссылкой на материал трёхлетней давности. Ни один флаг не доказывает ложь, но каждый говорит: вот тут проверь в первую очередь. У юристов из 2023 года флаг был прямо перед глазами: дела, которых не находил ни один юридический поиск.
Проверка за 3 шага
Увидел флаг? Проверка занимает пару минут. Первый шаг: открой ссылку и убедись, что страница существует и это та самая статья. Второй: найди нужную цифру или цитату поиском по странице, Ctrl+F на компьютере или «Найти на странице» в телефоне. Если её там нет, это уже ответ. Третий: посмотри, кто это написал и когда. Официальный сайт и свежая дата — хорошо. Аноним и материал пятилетней давности — ищи ещё один источник. Так проверяют журналисты, и так стоило бы проверить свой отчёт команде Deloitte.
Второй агент — критик
Проверку можно частично поручить агенту, только другому. В гайде Anthropic по агентам есть такая схема: один агент пишет, второй оценивает и возвращает замечания, и так по кругу, пока результат не станет хорошим. Почему другой? Автор уверен в своём тексте и свои ошибки не видит. Критик в новом чате смотрит свежим взглядом и ищет только ошибки. Важно: критик тоже может ошибиться. Он сужает круг, но финальную проверку самых важных фактов делаешь ты.
Практика: агент-фактчекер
Возьми любой текст, где важна точность: свой реферат, отчёт из прошлого урока, пост, который хочешь репостнуть. Открой новый чат с поиском в интернете и вставь бриф ниже, а под ним — текст. Агент выпишет каждое проверяемое утверждение и поставит метку. Главное в брифе — «никогда»: он ничего не исправляет сам и не додумывает. Если источник не найден, так и пишет. Лиза прогнала так свой реферат и нашла две цитаты, которых не было в источниках. Перепроверила вручную, переписала и сдала спокойно.
Проверь себя
- Что сделать прежде всего?
Правильный ответ: Открыть ссылку и найти цифру на странице. Точная цифра без подтверждения — красный флаг. Проверка по ссылке занимает минуту и даёт настоящий ответ. - Почему проверять лучше в новом чате?
Правильный ответ: Автор уверен в своём тексте, а критик смотрит свежим взглядом. Так работает схема «автор и критик» из гайда Anthropic: оценивает не тот, кто писал. - Что пошло не так?
Правильный ответ: Агенту разрешили исправлять самому, и он замаскировал пробел. Фактчекер, который правит текст, превращает «не нашёл» в новую выдумку. Поэтому в брифе стоит «ничего не исправляй и не додумывай». - Как поступить?
Правильный ответ: Найти эту цитату в первоисточнике, прежде чем репостить. Слишком гладкая цитата без ссылки — красный флаг. Если её нет ни в интервью, ни в книге, её, скорее всего, не говорили.
← Deep research: агент-исследователь Коннекторы: агент видит твой день →