Галлюцинация — это ответ нейросети, который звучит убедительно, но не соответствует действительности: выдуманная цитата, несуществующий закон, правдоподобная, но неверная цифра.
Ключевая особенность: модель не сомневается. Она выдаёт вымысел ровно тем же уверенным тоном, что и точный факт, — и в этом главная опасность.
Почему так происходит
Языковая модель не хранит базу проверенных фактов. Она предсказывает, какой текст выглядит уместным в ответ на ваш запрос. Если правдоподобный текст совпадает с правдой — ответ верный. Если нет — получается галлюцинация. Модель не «врёт» намеренно: у неё просто нет механизма отличить «я знаю» от «я предполагаю».
Вероятность вымысла растёт, когда:
- вопрос о редких, узких или свежих фактах;
- запрос сформулирован размыто — модель заполняет пробелы догадками;
- разговор очень длинный и начало вышло за контекстное окно;
- вы давите на модель: «точно уверен?» часто заставляет её придумать подтверждение вместо признания незнания.
Где это опаснее всего
- Юридические и медицинские вопросы — выдуманная норма закона выглядит как настоящая.
- Цифры и статистика — правдоподобные проценты, которых никто не считал.
- Ссылки и цитаты — модель легко «сочиняет» несуществующие источники.
- Автономные ИИ-агенты — здесь ошибка превращается в действие: не просто неверный ответ, а неверно выполненная задача.
Как защититься
- Просите источники и проверяйте их — не сам факт наличия ссылки, а то, что она открывается и содержит заявленное.
- Разрешите не знать: добавьте в запрос «если не уверен — так и скажи». Это заметно снижает вымысел.
- Дайте модели данные: когда ответ строится по вашему документу, а не по «памяти», галлюцинаций резко меньше.
- Проверяйте всё, что имеет последствия — цифры в отчёте, нормы, факты для публикации.
- Для агентов — подтверждение действий: агент готовит, человек утверждает. Особенно первые недели (как настроить).
Полезная привычка
Относитесь к ответу нейросети как к работе способного стажёра: быстро, полезно, но требует проверки в важных местах. Это единственный подход, который не приводит ни к слепому доверию, ни к отказу от инструмента.
Другие термины — в глоссарии.