Галлюцинации нейросетей: что это, почему возникают и как их снизить

Галлюцинация нейросети — это правдоподобный, уверенно поданный, но ложный ответ языковой модели: несуществующая статья закона, выдуманная цитата, неверная дата или ссылка на исследование, которого не было. Галлюцинации нейросетей встречаются у всех больших языковых моделей, включая самые новые. Ниже — откуда они берутся, чем опасны для бизнеса и какие способы и промпты помогают их снизить.

Что такое галлюцинации нейросетей

Галлюцинации — это ложные утверждения, которые модель выдаёт так же уверенно, как верные. OpenAI определяет их как правдоподобные, но неверные утверждения, сгенерированные языковыми моделями.

В документе NIST об управлении рисками генеративного ИИ для того же явления используется термин «конфабуляция». Под ним понимают не только фактические ошибки, но и ответы, которые расходятся с запросом или исходными данными, а также противоречат тому, что модель сказала раньше в том же диалоге (NIST AI 600-1).

На практике галлюцинации бывают нескольких видов:

• фактические — неверные даты, цифры, имена, характеристики товара;
• выдуманные источники — ссылки на несуществующие статьи, законы, страницы;
• искажение исходных данных — модель пересказывает документ и добавляет то, чего в нём нет;
• противоречия — в середине ответа утверждение меняется на обратное.

Почему нейросети галлюцинируют

Модель учится предсказывать следующее слово в огромном массиве текстов, а не проверять факты. Если правильного ответа в её знаниях нет, она всё равно строит правдоподобное продолжение.

OpenAI в разборе 2025 года объясняет это так. При обучении у текстов нет меток «правда» и «ложь», модель видит только примеры связной речи. Регулярные закономерности вроде орфографии с ростом модели перестают вызывать ошибки, а редкие произвольные факты — например, чей-то день рождения — из закономерностей не выводятся. Вторая причина — способ оценки: если модель получает баллы только за точность, ей выгоднее угадать, чем ответить «не знаю» (OpenAI).

Компания приводит пример из теста SimpleQA:

Модель, которая почти никогда не отказывается отвечать, выглядит чуть точнее, но ошибается почти втрое чаще. Ещё одна частая причина — устаревшие знания: всё, что произошло после обучения, модель без доступа к поиску знать не может.

Где галлюцинации опасны для бизнеса

Опаснее всего галлюцинации там, где ответ нейросети воспринимают как слово компании или используют без проверки.

• Чат-бот на сайте. Если бот придумал условие возврата или скидку, клиент будет ссылаться на него. В 2024 году трибунал Британской Колумбии в деле Moffatt v. Air Canada признал авиакомпанию ответственной за неверную информацию её чат-бота и отклонил довод, что бот — отдельная сущность.
• Ответы о компании в поиске. Яндекс прямо предупреждает, что ответ Алисы AI может содержать неточности, Google — что обзоры от ИИ могут ошибаться. Устаревшие данные о бренде на сторонних площадках повышают этот риск.
• Контент и аналитика. Выдуманная статистика в статье, коммерческом предложении или отчёте для руководства бьёт по доверию и ведёт к неверным решениям.
• Агенты, которые выполняют действия. Ошибка в рассуждении превращается в неверный заказ, письмо или запись в CRM, поэтому ИИ-агентам нужны проверки и подтверждения на критичных шагах.

Как уменьшить галлюцинации нейросети: способы и промпты

Пользователь может заметно снизить число галлюцинаций, если даёт модели источник, разрешает не знать ответ и требует ссылки. Вот рабочие приёмы.

1. Дайте исходные данные. Вставьте текст документа или выгрузку и попросите отвечать только по нему.
2. Разрешите ответ «не знаю». Модель реже придумывает, если отказ явно допустим.
3. Просите источники и проверяйте их. Открывайте каждую ссылку: выдуманные адреса и названия встречаются часто.
4. Делите задачу на шаги. Сначала факты, потом выводы, потом текст.
5. Просите отметить неуверенные места. Это подсвечивает, что нужно перепроверить.
6. Задавайте вопрос повторно и в другой формулировке. Расхождения в ответах — сигнал галлюцинации.
7. Включайте поиск для свежих фактов и указывайте дату или период.

Примеры формулировок:

Ответь только на основе текста ниже. Если ответа в тексте нет, напиши «в документе этого нет». После каждого утверждения укажи, из какого абзаца оно взято.

Перечисли факты, в которых ты не уверен, отдельным списком в конце ответа.

Как снизить галлюцинации в продукте: RAG и проверки

В продуктах галлюцинации снижают архитектурой: модель отвечает по проверенной базе знаний, а не по памяти, и не отвечает, когда данных нет.

Основной приём — RAG (retrieval-augmented generation): перед ответом система находит релевантные фрагменты в документах компании и передаёт их модели как контекст. Подход описан в работе 2020 года о генерации с извлечением для задач, требующих знаний (arXiv). Так же устроены ИИ-ответы поисковиков: Google называет это граундингом.

Вокруг RAG нужны ещё несколько слоёв:

• ответ со ссылкой на фрагмент базы знаний, который его подтверждает;
• сценарий отказа и передача вопроса человеку, если данных нет;
• тестовый набор вопросов с эталонными ответами и регулярная проверка после изменений;
• журнал диалогов для разбора ошибок;
• актуальная база: устаревший прайс даст устаревший ответ даже при идеальной модели.

Именно так стоит строить ИИ-чат-бота для сайта: бот, который не знает ответа, должен сказать об этом и предложить связаться с менеджером.

Как проверять ответы нейросети

Проверять стоит всё, что содержит цифры, даты, имена, цитаты и ссылки, — именно там галлюцинации встречаются чаще всего. Короткий порядок проверки:

• откройте каждую ссылку и найдите в источнике конкретное утверждение;
• сверьте цифры и даты с первоисточником, а не с пересказом;
• для законов и стандартов проверяйте актуальную редакцию;
• если источник не находится, считайте утверждение непроверенным и не публикуйте его.

Можно ли полностью избавиться от галлюцинаций

Полностью — нет, но сделать их редкими и заметными можно. OpenAI формулирует это так: точность никогда не достигнет 100%, потому что на часть вопросов ответа нет, но галлюцинации не неизбежны, потому что модель может воздержаться от ответа.

Для бизнеса из этого следуют два правила. Модель должна иметь право не отвечать, а всё, что уходит клиенту или влияет на деньги, должно проходить проверку человеком или по источнику.

Если нужно подключить нейросеть к собственной базе знаний так, чтобы она отвечала по документам компании, а не по памяти, с этого начинается интеграция LLM в сайт и CRM.

Источники

• Why language models hallucinate | OpenAI
• Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) | NIST
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks | arXiv
• Алиса AI в Поиске | Справка Яндекса
• Moffatt v. Air Canada: Misrepresentation by an AI Chatbot | McCarthy Tétrault