Как добиться точных ответов ИИ: RAG против галлюцинаций

Языковая модель умеет звучать уверенно, даже когда ошибается, — и это главная причина, почему бизнес боится подпускать ИИ к клиентам и документам. Галлюцинации ии — это выдуманные факты, несуществующие пункты договора или придуманные цифры, поданные тем же ровным тоном, что и правда. В этой статье разберём, почему так происходит, чем это грозит компании и как с помощью подхода RAG заставить ассистента отвечать строго по вашим документам, со ссылкой на источник и с честным «не знаю», когда данных нет.

Почему ИИ выдумывает факты

Языковая модель не хранит базу фактов и не «ищет» ответ. Она предсказывает следующее слово на основе статистики текстов, на которых обучалась. Когда вы спрашиваете о вашем внутреннем регламенте, тарифе или остатке на складе, модель этих данных просто не видела — и достраивает правдоподобный ответ из общего языкового паттерна. Получается грамотный, связный и абсолютно ложный текст.

Усугубляют ситуацию несколько вещей. Модель обучена быть «полезной» и почти всегда стремится дать ответ, а не признаться в незнании. Её знания обрываются на дате обучения, поэтому свежие изменения ей неизвестны. Чем уже и специфичнее вопрос — реквизиты, номер приказа, условие конкретного контракта, — тем выше шанс, что вместо факта вы получите имитацию факта. И отличить одно от другого по тону невозможно: уверенность модели не связана с её правотой.

Чем галлюцинации опасны для бизнеса

Одна выдуманная фраза в переписке с клиентом превращается в обещание, которое компания не давала. Бот «подтверждает» скидку, которой нет, называет несуществующий срок поставки или ссылается на пункт договора, придуманный на ходу. Дальше — спор, потерянная сделка или репутационный удар в публичном канале.

В работе с документами цена ошибки ещё выше. Ассистент, который сводит данные из счетов и актов, может уверенно подставить неверную сумму или контрагента. Если такой ответ уходит в 1С или СЭД без проверки, ошибка тиражируется по всей цепочке отчётности. В регулируемых отраслях добавляется юридический риск: ИИ, толкующий норму закона или условие лицензии «по памяти», создаёт основание для претензий и штрафов.

Отдельная проблема — доверие сотрудников. Стоит ассистенту пару раз выдать заметную глупость, и команда перестаёт им пользоваться. Дорогой проект превращается в игрушку, а вложенные деньги не возвращаются. Поэтому точность здесь — не технический нюанс, а условие, при котором автоматизация вообще имеет смысл.

RAG против галлюцинаций: ответы по вашим документам

RAG (retrieval-augmented generation, генерация с дополнением через поиск) переворачивает логику. Модель больше не отвечает «из головы». Сначала система ищет в вашей базе знаний фрагменты, релевантные вопросу, и только потом отдаёт их модели с инструкцией: ответь, опираясь строго на эти фрагменты, ничего не добавляя от себя.

По шагам это выглядит так:

1. Ваши документы — регламенты, договоры, инструкции, база FAQ, выгрузки из CRM — разбиваются на небольшие фрагменты и переводятся в векторный индекс.
2. Когда приходит вопрос, система находит несколько наиболее близких по смыслу фрагментов.
3. Эти фрагменты вместе с вопросом передаются модели как контекст.
4. Модель формулирует ответ только на основе переданного и указывает, из какого документа он взят.

Результат: ассистент отвечает фактами из ваших актуальных источников, а не из усреднённого интернета двухлетней давности. Если в базе чего-то нет, правильно настроенный RAG скажет об этом, а не сочинит. Именно поэтому связку «RAG против галлюцинаций» сегодня считают рабочим стандартом для корпоративных ассистентов. В проектах OVEERMOON такая база разворачивается в закрытом контуре на отечественных LLM — GigaChat, YandexGPT или Cotype, — чтобы документы не покидали периметр компании и сохранялось соответствие 152-ФЗ.

Приёмы, которые дают точные ответы ИИ

Сам по себе RAG не гарантирует точность — её собирают из деталей. Ниже приёмы, которые реально двигают качество.

• Качество базы. Мусор на входе даёт мусор на выходе. Уберите устаревшие версии регламентов, дубликаты и противоречащие друг другу документы. Один источник правды на каждый вопрос лучше десяти приблизительных.
• Грамотный чанкинг. Документ нужно резать на фрагменты по смыслу, а не механически по числу символов. Слишком крупные куски размывают поиск, слишком мелкие теряют контекст. Таблицы, списки и реквизиты выносят аккуратно, чтобы они не рвались посередине.
• Цитирование источника. Каждый ответ должен сопровождаться ссылкой на документ и раздел. Это позволяет сотруднику за секунду перепроверить и резко снижает доверие к выдумкам: если источника нет, ответу не верят.
• Право сказать «не знаю». Модель явно инструктируют: нет данных в найденных фрагментах — отвечай, что информации нет, и предлагай эскалацию. Честный отказ полезнее уверенной ошибки.
• Человек в контуре для критичного. Платежи, юридические формулировки, медицинские и кадровые решения ИИ готовит, но утверждает человек. Ассистент экономит время на поиске и черновике, ответственность остаётся за специалистом.
• Контроль свежести. База знаний синхронизируется с источниками по расписанию, чтобы ответы не отставали от реальных регламентов и цен.

Эти меры работают вместе. Цитирование без чистой базы бесполезно, а «не знаю» без хорошего поиска срабатывает слишком часто и раздражает пользователей.

Как измерять точность ответов

Точность нельзя «почувствовать» — её измеряют. Перед запуском соберите тестовый набор из реальных вопросов с заранее известными правильными ответами: 100–300 типовых обращений по вашей теме. На нём прогоняют ассистента и считают метрики.

Метрика	Что показывает	Как трактовать
Доля верных ответов	Сколько ответов совпало с эталоном	Базовый показатель качества
Доля ответов с источником	Где есть корректная ссылка на документ	Чем выше, тем проверяемее система
Доля корректных отказов	Как часто бот честно говорит «не знаю» при отсутствии данных	Показывает, что модель не фантазирует
Доля выдумок	Ответы с фактами, которых нет в базе	Целевое значение — минимально возможное
Эскалация к человеку	Сколько вопросов ушло специалисту	Помогает настроить границу автоматизации

Дальше — регулярная проверка на живом потоке. Часть ответов выборочно просматривает эксперт, ошибки возвращаются в работу: уточняется база, чанкинг или инструкция. Это не разовая настройка, а цикл. Полезно зафиксировать метрики до старта и сравнивать с ними каждую неделю первого месяца, а затем ежемесячно.

Что обещать нельзя

Честный разговор экономит нервы. Стопроцентной точности у языковых моделей не бывает — кто гарантирует ноль ошибок, лукавит. Реалистичная цель — довести качество до уровня, при котором ИИ надёжно закрывает типовые вопросы, а спорное и критичное уходит человеку.

Нельзя обещать, что ассистент заменит экспертизу юриста или бухгалтера: он ускоряет их работу, но не несёт ответственности за решение. Нельзя ждать точных ответов по темам, которых нет в базе, — RAG силён ровно настолько, насколько полны и актуальны ваши документы. И не стоит рассчитывать на мгновенный идеальный результат: первые недели уходят на чистку базы и калибровку. Правильная рамка — измеримое снижение ошибок и прозрачность, а не магия без сбоев.

Часто задаваемые вопросы

Можно ли полностью убрать галлюцинации ИИ?

Полностью — нет. Это свойство самой технологии. Но связка RAG, цитирования источника, честного «не знаю» и человека в контуре для критичных задач снижает выдумки до уровня, при котором система пригодна для бизнеса. Ключ в том, чтобы каждый ответ был проверяемым.

Чем RAG лучше, чем просто дообучение модели на наших данных?

Дообучение «вшивает» знания в модель, но их сложно и дорого обновлять, а сама модель всё равно может смешивать факты. RAG хранит знания отдельно, в базе, которую легко актуализировать, и заставляет модель отвечать строго по найденным фрагментам с указанием источника. Для часто меняющихся документов RAG практичнее.

Сколько документов нужно, чтобы запустить RAG-ассистента?

Начать можно с одного хорошо вычищенного раздела — например, базы FAQ или регламента поддержки. Важнее не объём, а качество и непротиворечивость. Лучше запустить ассистента на узкой проверенной теме и расширять базу по мере роста доверия, чем сразу залить весь архив с дубликатами.

Безопасно ли отдавать ИИ внутренние документы?

Зависит от схемы. При работе через публичные зарубежные сервисы данные покидают периметр, что несовместимо с 152-ФЗ и требованиями к КИИ. Безопасный вариант — развёртывание в закрытом контуре на отечественных LLM, когда документы и индекс остаются внутри компании.

Начните с малого: возьмите один регламент или базу FAQ, соберите тестовый набор из 100 реальных вопросов и замерьте долю верных ответов и долю выдумок до внедрения. Эти две цифры станут точкой отсчёта, по которой вы честно увидите, что RAG действительно сделал ответы ИИ надёжными.