Разработка SmartAssistantBot — интеллектуального помощника для внутренних коммуникаций
В процессе работы команда SimbirSoft выбрала стандартный, но надежный подход RAG для гарантии фактологичности ответов.
-
Создали механизм регулярной индексации обновляемой базы знаний.
-
Провели подбор оптимальной LLM для локального развертывания, найдя баланс между качеством генерации, скоростью ответа и потреблением вычислительных ресурсов.
-
Настроили и оптимизировали весь пайплайн: от семантического поиска по векторам до финального формирования ответа моделью.
Клиент
Внутренний проект компании SimbirSoft.
Задача
Сократить время, которое сотрудники тратят на поиск ответов на типовые вопросы по рабочим процессам, HR-политикам и использованию инструментов. Информация хранилась разрозненно в обширной корпоративной базе знаний (kb.simbirsoft), что затрудняло оперативный доступ.
Решение
Разработали и внедрили интеллектуального чат-бота для корпоративного мессенджера VK Teams. Бот использует технологию RAG (Retrieval-Augmented Generation), что позволяет ему находить релевантные фрагменты в документации и формировать точные, подтвержденные источниками ответы на естественном языке.
Перечень работ:
-
Индексация и подготовка корпоративной базы знаний.
-
Проектирование и настройка пайплайна RAG.
-
Разработка и интеграция чат-бота в VK Teams.
-
Комплексное тестирование качества, адекватности и точности ответов.
Результат
Чат-бот успешно прошел тестовую эксплуатацию с участием реальных сотрудников, подтвердив высокую точность ответов и удобство использования. Внедрение решения позволило:
-
Сократить время поиска информации сотрудниками по типовым вопросам на 30-40 минут в день.
-
Разгрузить HR-отдел и тимлидов от рутинных консультаций на 60 минут в день.
-
Повысить доступность и актуальность корпоративных знаний.
-
Протестировать передовую технологию RAG в реальных бизнес-условиях для дальнейшего использования в проектах для клиентов.
Технологии
- Python
- VLLM (для эффективного запуска локальной языковой модели)
- Qdrant (векторная база данных)
- Docker
- FastAPI
- Scrapy
