База знаний для ИИ-бота: как научить нейросеть отвечать по вашим данным

Главная претензия к ИИ-ботам - «он выдумывает». Решается это базой знаний: боту дают ваши документы, и он отвечает строго по ним, а не по общим знаниям из интернета. Технология называется RAG. Разбираю простыми словами, как это работает и зачем нужно.

Зачем боту база знаний

Языковая модель знает мир вообще, но не знает ваши цены, условия доставки и регламенты. Подход RAG решает это: перед ответом бот ищет нужный фрагмент в вашей базе и отвечает на его основе.

Результат: меньше выдумок, ответы со ссылкой на источник и возможность обновить знания без переобучения модели.

Как это работает по шагам

1. Документы разбиваются на фрагменты по 200 до 500 слов.
2. Каждый фрагмент превращается в вектор и попадает в базу.
3. Вопрос клиента тоже превращается в вектор.
4. Система находит несколько ближайших фрагментов.
5. Модель формирует ответ, опираясь только на них.

Что положить в базу

Прайс с условиями, описания услуг, ответы на частые вопросы, регламенты доставки и возврата, ограничения и исключения. Отдельно полезны расшифровки реальных диалогов: там формулировки клиентов, а не ваши.

Чего не кладут: внутренние документы с персональными данными и черновики без статуса.

Как повысить точность

• Разбивайте по смыслу, а не по количеству символов.
• Добавляйте к фрагментам заголовки: они улучшают поиск.
• Ведите даты актуальности и убирайте устаревшее.
• Запрещайте отвечать, если релевантный фрагмент не найден.
• Логируйте вопросы без ответа: это список пробелов в базе.

Стоимость

Сборка базы и подключение: от 50 до 120 тысяч рублей в зависимости от объёма документов. Ежемесячно: хранение векторов и обращения к модели, обычно от 2 до 10 тысяч рублей.

Главная статья затрат не техника, а приведение документов в порядок. Часто выясняется, что единого прайса просто нет.

Как готовить документы для базы

Модель работает лучше с короткими самодостаточными кусками текста, чем с длинными документами. Разбивайте инструкции на разделы с понятными заголовками, убирайте оформление и сноски, разворачивайте аббревиатуры.

Таблицы с ценами лучше дублировать текстом: «услуга такая-то стоит столько-то». В табличном виде модель нередко путает строки и столбцы.

Как поддерживать базу в актуальном состоянии

Устаревшая база опаснее её отсутствия: бот уверенно называет старые цены и отменённые условия. Назначьте ответственного и порядок обновления: кто и когда вносит изменения после правки прайса или регламента.

Полезно вести журнал вопросов, на которые бот не смог ответить. Это готовый список того, что нужно дописать в базу в следующий заход.

Что положить в базу в первую очередь

Ответы на двадцать самых частых вопросов, прайс с описанием услуг, условия работы и оплаты, регламент возвратов и отмен, контакты и график, ограничения (что вы не делаете).

Последний пункт недооценивают, а он экономит больше всего времени: бот сразу отсекает нецелевые запросы вместо того, чтобы обнадёживать клиента.

Как проверить качество перед запуском

Составьте список из пятидесяти реальных вопросов и прогоните их через бота. Оцените каждый ответ по трём критериям: верно ли по фактам, полно ли, уместен ли тон.

Отдельно проверьте провокационные и пограничные вопросы: скидки, гарантии, сравнение с конкурентами. Именно здесь бот без ограничений начинает выдумывать обещания, которые вам придётся выполнять.

Сроки внедрения

Сборка базы из готовых документов занимает от нескольких дней до двух недель. Основное время уходит не на технику, а на приведение ваших материалов в порядок.

Сколько это стоит и что входит в работу

Сборка базы знаний и подключение к боту обходится от 40 до 120 тысяч рублей в зависимости от объёма документов и числа интеграций. В работу входит подготовка материалов, настройка поиска по фрагментам, ограничения тематики, тестирование на реальных вопросах.

Ежемесячные расходы складываются из обращений к модели и хранения: обычно от 3 до 15 тысяч рублей при потоке до нескольких тысяч диалогов.

Когда база знаний не нужна

Если у вас три услуги с фиксированной ценой и десяток типовых вопросов, дешевле обойтись обычным сценарным ботом с кнопками: он предсказуем, не выдумывает и стоит в разы меньше.

База знаний оправдана там, где вопросов много, они формулируются свободно, а ответы разбросаны по документам: техподдержка, сложные услуги, большой каталог, внутренние регламенты для сотрудников.

Частые вопросы

Сколько документов нужно для старта? Хватает 20 до 50 страниц с ответами на частые вопросы.

Что если данные конфиденциальные? Базу размещают в закрытом контуре, доступ выдаётся точечно.

Может ли бот придумать ответ? При правильной настройке он обязан отвечать «не знаю» и передавать вопрос человеку.

Как часто обновлять? При каждом изменении цен и условий, плюс общая ревизия раз в квартал.

Собираю ботов с базой знаний под ключ: Telegram-бот и автоматизация процессов. Обсудить вашу базу документов - напишите.