Корпоративная база знаний на LLM – обычно первый проект с генеративным ИИ, который доходит до реальных пользователей. Технология RAG позволяет модели отвечать по внутренним регламентам, инструкциям и решённым обращениям со ссылкой на источник, без дорогого дообучения. Управленческий вопрос в другом: какие знания стоит подключать первыми, кто отвечает за их актуальность и как отличить полезного ассистента от красивой демонстрации. Ниже – выводы из открытых кейсов российских компаний.
Где база знаний на LLM даёт эффект
Ассистент для сотрудников фронт-офиса
Задача: менеджеры отделений и продавцы тратят время на поиск условий продуктов, тарифов, регламентов в разрозненных системах. Что делает ИИ: отвечает в рабочем месте сотрудника по актуальной базе продуктов и инструкций. Результат: время поиска информации сокращается в разы, большинство вопросов закрывается без обращения к методологам, обслуживание клиента ускоряется.
Поддержка пользователей внутренних систем
Задача: разгрузить техническую поддержку от типовых вопросов по корпоративным системам. Что делает ИИ: ищет ответ в инструкциях, памятках и ранее решённых заявках, формирует ответ круглосуточно. Результат: без участия специалиста закрывается от пятой части до половины обращений. Новички получают больше пользы, чем опытные сотрудники: их вопросы типовые и хорошо покрыты базой.
Подсказки инженеру и оператору
Задача: ускорить ответы на сложные обращения клиентов. Что делает ИИ: по входящему вопросу находит документацию и похожие решённые тикеты, готовит черновик ответа, который оператор принимает или правит. Результат: подсказками пользуются в значительной доле диалогов, время обработки сложного запроса сокращается, удовлетворённость клиентов растёт на несколько пунктов. Поддержка растёт вместе с клиентской базой без пропорционального роста штата.
Экспертные знания и нормативы
Задача: дать доступ к знаниям опытных технологов, юристов, специалистов по охране труда и проектированию. Что делает ИИ: отвечает по нормативам, методикам и накопленным экспертным материалам, указывая конкретный пункт документа. Результат: поиск ответа занимает секунды или минуты вместо получаса, адаптация новых сотрудников сокращается с недель до дней.
Ассистенты для клиентов и граждан
Задача: отвечать на типовые вопросы о продуктах, поступлении, налогах, услугах. Что делает ИИ: работает поверх официальных документов и сайта организации, при необходимости передаёт вопрос сотруднику. Результат: миллионы ответов в год без операторов, работа в режиме 24/7. Подключение RAG к уже существующему боту в кейсах кратно увеличивало долю решённых вопросов.
Что отличает удачные проекты
- Узкий старт. Первая версия покрывает одну область: одну систему, один продукт, несколько категорий проблем. Охват расширяют после проверки качества.
- База знаний вычищена. Устаревшие версии документов удалены, противоречия устранены, у каждого раздела есть владелец. Точность в 95% и выше в кейсах достигалась за счёт многоступенчатой фильтрации и приоритизации источников.
- Ответ со ссылкой на источник. Пользователь видит документ и пункт, на котором основан ответ. Это снижает риск вымышленных ответов и повышает доверие.
- Качественный поиск важнее модели. Сочетание полнотекстового и смыслового поиска с переранжированием результатов даёт больший прирост, чем замена языковой модели.
- Собственный набор проверочных вопросов. Команды ведут эталон вопросов с правильными ответами и прогоняют его после каждого изменения базы или модели.
- Контур и защита. Модели работают внутри периметра или с обезличенными запросами, настроены фильтры от попыток обойти ограничения через запрос.
Сколько это стоит
Отказ от дообучения модели заметно снижает стоимость: основные затраты приходятся на подготовку базы, поиск и интеграцию с рабочими местами. Отдельные компании собирали первого ассистента силами небольшой внутренней команды. Регулярные расходы – инфраструктура или оплата запросов к модели и работа владельцев контента. Кэширование повторяющихся запросов в одном из кейсов снизило расход на модель на два порядка.
Типовые ошибки руководителей
- Загрузить в систему всё подряд. Общая папка с тысячами файлов разных лет даёт противоречивые ответы. Лучше меньше документов, но актуальных.
- Не назначить владельца базы знаний. Через несколько месяцев регламенты меняются, а ассистент продолжает отвечать по старым.
- Оценивать по демонстрации. Удачные ответы на подготовленные вопросы ничего не говорят о качестве на реальном потоке. Нужен эталон и замер на живых пользователях.
- Игнорировать права доступа. Ассистент не должен показывать сотруднику документы, к которым у него нет доступа в исходной системе.
- Ждать, что ассистент заменит экспертов. Он снимает типовые вопросы, но сложные случаи остаются за специалистами, и их знания нужно регулярно добавлять в базу.
- Не измерять использование. Если ассистентом пользуется малая доля сотрудников, эффект не появится. Причины обычно в неудобном интерфейсе или слабом качестве ответов.
Как начать: план на 6 недель
- Неделя 1. Выбрать аудиторию и область знаний. Где больше всего повторяющихся вопросов и есть понятный набор документов.
- Неделя 2. Собрать реальные вопросы. Выгрузить обращения в поддержку или опросить пользователей, отобрать 100–200 вопросов для эталона.
- Неделя 3. Навести порядок в документах. Убрать устаревшее, назначить владельцев разделов, определить порядок обновления.
- Неделя 4. Решить вопрос контура и доступа. Где работает модель, как учитываются права пользователей, что согласовано с безопасностью.
- Неделя 5. Прототип и замер на эталоне. Доля правильных ответов, доля ответов со ссылкой, доля отказов «не знаю».
- Неделя 6. Запуск на пилотной группе. Встроить в привычный канал: рабочее место, мессенджер, портал. Собирать оценки ответов и разбирать их еженедельно.
Вопросы команде и подрядчику
- Какие документы входят в базу, кто за них отвечает и как часто они обновляются?
- Как проверялось качество ответов и на каком наборе вопросов?
- Видит ли пользователь источник ответа и что происходит, если ответа в базе нет?
- Учитываются ли права доступа к документам при поиске?
- Где работает модель и передаются ли данные за пределы компании?
- Сколько стоит один ответ и как изменится стоимость при росте числа пользователей?
- Какая доля сотрудников пользуется ассистентом регулярно и какие вопросы остаются без ответа?
Больше примеров корпоративных ассистентов и баз знаний можно найти в открытой подборке: база кейсов ИИ на platforms.su содержит более 1300 кейсов.
Итог
База знаний на LLM даёт быстрый эффект, если начинать с узкой области, чистых документов и эталона вопросов. Главный риск не в модели, а в устаревшем контенте без владельца. Центр компетенций ИИ проводит экспресс-диагностику готовности знаний и независимую оценку пилотов корпоративных ассистентов.
Разобрать вашу задачу
За 30 минут оценим, где ИИ даст эффект в вашей компании и с чего начать.