Галлюцинации и приватность
Урок 8 из 23 курса «ИИ: курс с нуля». Бесплатно, с анимациями и тестом.
ИИ умеет выдумывать
Иногда модель придумывает факты, цифры, цитаты и даже ссылки на статьи, которых нет. Такие выдумки называют галлюцинациями. Пример: модель пишет «согласно исследованию 2019 года…», а ссылка ведёт в никуда, потому что исследование она сочинила. Выглядят галлюцинации так же убедительно, как правда. Так может ошибаться любая модель.
Почему ИИ выдумывает
Модель не ищет правду, она подбирает правдоподобное продолжение текста. Если точного ответа в её знаниях нет, она всё равно допишет что-то похожее на ответ. Признаться «не знаю» она может, но не всегда. Чаще всего выдумки появляются в редких фактах, точных цифрах, датах, цитатах и ссылках. Именно там будь особенно внимателен.
Как проверять
Цифры, даты, законы, здоровье и деньги проверяй всегда. Первоисточник: место, где факт появился впервые, например сайт госоргана, сама научная статья или официальный документ. Попроси у модели источник, затем открой ссылку сам и убедись, что там написано то же самое. Ссылка не открывается или там другое? Значит, на этот факт полагаться нельзя.
Не отдавай лишнего
Не вставляй в чат пароли, номера карт, seed-фразы и чужие личные данные. Seed-фраза: обычно 12 или 24 слова, которые дают полный доступ к криптокошельку. Всё, что ты отправил, уходит на серверы компании и может там храниться. Так что это уже не только у тебя. Простое правило: не пиши в чат то, что не показал бы незнакомцу.
Если уже отправил
Без паники, но действуй быстро. Отправил пароль: сразу смени его и включи двухфакторную защиту, то есть вход с кодом из приложения или СМС. Номер карты: позвони в банк и перевыпусти карту. Seed-фразу: создай новый кошелёк и переведи туда всё, старый считай потерянным. Удалить чат полезно, но копия могла уже сохраниться.
Проверь себя
- ИИ дал ссылку на исследование. Что делать?
Правильный ответ: Открыть и проверить, что там то же самое. Ссылки тоже бывают выдуманными. Спросить саму модель мало: она может уверенно подтвердить свою же выдумку. - Что такое галлюцинация ИИ?
Правильный ответ: Выдуманный факт, поданный как правда. Модель подбирает правдоподобное, а не обязательно верное. Поэтому выдумки выглядят как правда. - Что можно спокойно вставить в чат с ИИ?
Правильный ответ: Свой конспект по истории для повторения. Свои учебные заметки можно. Пароли, seed-фразы, данные карт и чужие личные данные в чат не отправляем.