RAG-система: что это, как устроена и сколько стоит внедрение

Коротко

RAG-система (retrieval-augmented generation, генерация с дополненной выборкой) — это ИИ-ассистент, который отвечает по вашим документам: сначала находит подходящие фрагменты регламентов, инструкций или базы знаний, затем формулирует ответ только на их основе и указывает источник. Переобучать модель не нужно — чтобы обновить знания, достаточно обновить документы. Качество RAG-системы в первую очередь определяют подготовка документов и проверка ответов на реальных вопросах, а не выбор модели. Пилот на одной области знаний у нас занимает от 2 недель и стоит от 60 000 ₽.

Как работает RAG-система

1. Подготовка базы. Документы разбиваются на фрагменты, для каждого вычисляется векторное представление (эмбеддинг) — числовой «отпечаток смысла», — и всё сохраняется в векторной базе.
2. Поиск. Вопрос пользователя тоже превращается в вектор, и система находит фрагменты, наиболее близкие по смыслу. Часто поиск по смыслу дополняют обычным поиском по словам — он лучше находит артикулы, номера пунктов и названия.
3. Ответ. Модель получает вопрос и найденные фрагменты и формулирует ответ только по ним, с указанием источника.

Если нужного фрагмента нет, правильное поведение — честно сказать «в документах этого нет» и передать вопрос человеку, а не придумывать ответ.

Из чего состоит

Компонент	Что делает	Варианты
Загрузчик документов	Извлекает текст из PDF, Word, таблиц, вики	Отдельная обработка таблиц и сканов
Модель эмбеддингов	Превращает фрагменты и вопросы в векторы	Облачная или на своём сервере
Векторная база	Хранит фрагменты и ищет похожие	Отдельная СУБД или расширение к PostgreSQL
Языковая модель	Формулирует ответ по найденному	Облачная, российская или своя
Набор проверочных вопросов	Контролирует качество после каждого изменения	30–50 вопросов с эталонными ответами

Где RAG полезен

• ответы сотрудникам по регламентам, инструкциям и внутренним политикам — ускоряет онбординг и разгружает поддержку;
• ответы клиентам по описаниям услуг, условиям и частым вопросам;
• поиск по договорам, технической документации и базе знаний;
• подсказки менеджерам по продажам — см. «ИИ в отделе продаж».

Когда RAG не нужен

• Ответов немного и они не меняются — хватит обычного FAQ или чат-бота со сценариями.
• Нужно не отвечать по документам, а выполнять действия в системах — это задача ИИ-агента (как его создать).
• Нужен особый стиль или формат ответов — это решается дообучением или промптами, а не поиском по документам.

Что определяет качество

Документы. Устаревшие, противоречивые или дублирующиеся документы дают противоречивые ответы. Перед запуском нужно определить, какие документы считаются актуальными, и назначить владельцев.

Разбиение на фрагменты. Слишком мелкие фрагменты теряют контекст, слишком крупные — точность поиска. Таблицы, списки и заголовки нужно обрабатывать отдельно.

Проверка на реальных вопросах. Соберите набор реальных вопросов с правильными ответами и прогоняйте через систему до запуска и после каждого изменения — так же, как мы закрепляем поведение ИИ-сервисов автотестами. Смотрите на две метрики: находит ли система нужный фрагмент и честно ли говорит «не знаю», когда его нет.

Границы. Что ассистент отвечает сам, а что передаёт человеку, — решается заранее.

Где хранить данные

Если в документах есть персональные данные россиян, учитывайте 152-ФЗ: с 1 июля 2025 года их запись и хранение должны вестись в базах данных на территории России. Варианты — обезличивание документов, российская облачная инфраструктура или модель и векторная база на ваших серверах. Как устроен собственный LLM-сервер, мы разбирали в статье «LLM на своём железе», а правила работы с персональными данными — в статье «ИИ и 152-ФЗ».

Сколько стоит и сколько занимает

Пилот RAG-системы на одной области знаний (например, кадровые регламенты) у нас стоит от 60 000 ₽ и занимает от 2 недель. Стоимость растёт с объёмом и разнообразием документов (сканы, таблицы, несколько источников), требованиями к хранению данных и числом интеграций — например, если ответы нужны в Битрикс24 или Telegram. Отдельно учитывайте оплату модели или сервер для неё. Подробнее — «Сколько стоит внедрение ИИ в бизнес».

С чего начать

1. Выберите одну область: например, ответы сотрудникам по кадровым регламентам.
2. Соберите актуальные документы и 30–50 реальных вопросов с правильными ответами.
3. Запустите пилот на части пользователей и сравните ответы с эталоном.
4. Масштабируйте, только когда качество устраивает.

Вопросы и ответы

Что такое RAG-система простыми словами? Это ИИ-ассистент, который перед ответом ищет подходящие фрагменты в ваших документах и отвечает только по ним, указывая источник.

Нужно ли дообучать модель на документах компании? Для ответов по документам обычно нет: в RAG знания хранятся в базе документов, и их достаточно обновить. Дообучение нужно для других задач — например, особого стиля или формата ответов.

Может ли RAG-система ошибаться? Может, если документы противоречивы или нужный фрагмент не найден. Поэтому нужны набор проверочных вопросов, ссылки на источники в ответах и правило передавать вопрос человеку, когда ответа в документах нет.

Сколько стоит внедрение RAG-системы? Пилот на одной области знаний у нас — от 60 000 ₽ и от 2 недель. Итог зависит от объёма и типа документов, требований к хранению данных и интеграций.

Можно ли сделать RAG без передачи документов наружу? Да: модель и векторную базу можно развернуть на своих серверах или в российской облачной инфраструктуре.

Источники

1. Генерация с дополненной выборкой — Википедия
2. Sber Developers: что такое RAG
3. Федеральный закон № 152-ФЗ «О персональных данных»