Автор: Катя Пославская
Настройка RAG-ассистента для корпоративной базы знаний
Система отвечает на вопросы сотрудников по внутренним документам компании. Автор делится опытом настройки, чтобы избежать ошибок и выдумок. Описаны методы подготовки данных, поиска и проверки ответов.
- Для кого
- Руководитель
- Разработчик
Что понадобится
- Сложность
- Нужен конструктор (n8n, Make)
Как повторить
- Разбейте документы на смысловые фрагменты (чанки) нужного размера.
- Создайте два индекса: один для поиска по смыслу, другой по ключевым словам.
- Настройте промпт, требуя от ИИ ссылаться на источники.
- Добавьте проверку ответа второй нейросетью перед выдачей клиенту.
Здесь — короткая схема. Пошаговые детали и скриншоты — в оригинале.
Подробная инструкция — у автораПодробности
Многие компании пробуют внедрить ИИ-ассистентов, которые ищут ответы в корпоративной базе знаний, но бросают их из-за ошибок. На маленьких примерах всё работает, но на реальной «шумной» базе знаний модель начинает галлюцинировать. Часто виновата не сама нейросеть, а то, как подготовлены данные и настроен поиск.
Автор делится опытом настройки таких систем. Главный совет: не начинайте сразу со сложных схем. Простой поиск работает для большинства вопросов. Сложные запросы лучше направлять в отдельный канал, где ИИ может искать несколько раз.
Ключевые моменты:
-
Подготовка данных. Документы нужно разбивать на смысловые фрагменты. Если нарезать их слишком мелко, ИИ потеряет контекст. Если слишком крупно — будет лишний шум. Важно удалять дубли и устаревшую информацию.
-
Поиск. Лучше использовать два метода сразу: по смыслу (векторный) и по ключевым словам. Это повышает точность. Для сложных вопросов, где ответ спрятан в разных документах, можно использовать графовые индексы, но они дороги в поддержке.
-
Генерация ответа. В инструкции для ИИ (промпте) нужно четко прописать правила: отвечать только по фактам, не выдумывать, указывать источник. Для важных ответов стоит добавить этап проверки: отдельная нейросеть проверяет черновик на наличие выдумок.
-
Оценка. Не пытайтесь сразу считать сложные метрики. Соберите хотя бы 20 примеров вопросов и правильных ответов от экспертов, чтобы проверить, работает ли система.
Источник
Оригинал: Как починить RAG (habr.com, рус.)
Добавлено 27 октября 2026 г.