ИИ + твои документы (RAG)
Урок 15 из 23 курса «ИИ: курс с нуля». Бесплатно, с анимациями и тестом.
Модель не читала твои файлы
Модель знает только то, что было в её обучающих текстах. Твои конспекты, правила на работе или PDF из универа она не видела. Спросишь про дедлайн, то есть крайний срок сдачи по курсу, и она просто угадает. RAG (по-простому: сначала найди, потом ответь) решает это так: программа ищет нужный кусок в твоих файлах, и модель отвечает по нему. На схеме: вопрос, поиск, найденный кусок, ответ со ссылкой.
Поиск по смыслу, а не по словам
Документы заранее режут на кусочки, например по абзацу. Каждый кусочек превращают в эмбеддинг: список чисел, который описывает смысл, как координаты точки на карте. Твой вопрос тоже становится точкой. Поиск берёт кусочки, чьи точки ближе всего к вопросу. Поэтому «когда сдавать эссе?» найдёт абзац «срок сдачи работы: конец мая», хотя слова почти разные.
Найденное попадает в промпт
Дальше приложение вставляет найденные кусочки прямо в промпт, то есть в текст запроса к модели, рядом с твоим вопросом. И добавляет инструкцию: «отвечай только по этим текстам и укажи источник». Модель пишет ответ и ставит метку вроде [1]: это номер кусочка, откуда взята мысль. Всё это происходит за кадром, ты видишь только ответ со ссылками.
Меньше выдумок, но не ноль
Почему врёт меньше: модель пересказывает текст, который лежит перед ней, а не вспоминает по памяти. Почему не ноль: поиск может принести не тот кусок, например старую версию правил. Нужного куска может вовсе не быть, и модель дорисует ответ сама. Ещё она может смешать два куска или неверно прочитать таблицу. Лайфхак: допиши «если в документах ответа нет, так и скажи».
Где ты это встретишь
Чат с PDF: загружаешь учебник или договор аренды и задаёшь вопросы. Бот поддержки компании: отвечает по её внутренним правилам, а не по памяти. Поиск с ИИ: модель находит страницы в интернете и пишет ответ со ссылками. Везде одна схема: найти кусочки, вставить в промпт, ответить со ссылкой. Короче: RAG это шпаргалка, которую модели подсовывают прямо перед ответом.
Ссылка есть? Открой её
Метка [1] не гарантия. Бывает, что ссылка ведёт на кусок, где сказано другое, или модель пересказала его с ошибкой. Перед важным шагом (сдать работу, подписать договор, потратить деньги) открой источник и найди там ту самую фразу. Сходится: отлично. Не нашёл: считай ответ догадкой и спроси модель, где именно это написано.
Проверь себя
- Что делает RAG, прежде чем модель ответит?
Правильный ответ: Ищет подходящие куски твоих файлов и вставляет их в промпт. Модель никто не переобучает. Программа находит близкие по смыслу кусочки и подкладывает их в промпт, а модель отвечает по ним. - Ты спросил «когда сдавать эссе?», а нашёлся абзац «срок сдачи работы». Почему?
Правильный ответ: Похожие по смыслу тексты дают близкие точки-эмбеддинги. Эмбеддинг описывает смысл числами. Вопрос и абзац про одно и то же оказываются рядом на карте, даже если слова разные. - Бот по документам ответил со ссылкой [1]. Что сделать перед важным решением?
Правильный ответ: Открыть источник [1] и найти там эту фразу. Поиск может принести не тот кусок, а модель может пересказать его с ошибкой. Проверка источника занимает минуту.