ИИ-ассистент для обращений абонентов ресурсоснабжающих организаций и ЖКХ
LLM в контуре организации отвечает о начислениях, показаниях и отключениях в чате и по телефону, разгружая контакт-центр.
Диапазоны по отраслевым публикациям и типовым внедрениям; результат зависит от данных и процессов заказчика.
Что решаем
Контакт-центр ресурсоснабжающей организации или управляющей компании перегружен однотипными обращениями: почему такая сумма, как передать показания, когда включат воду, куда сообщить об аварии. В дни выставления квитанций и при массовых отключениях линия недоступна, а жалобы уходят в надзорные органы.
Операторы отвечают по регламентам, которые меняются вместе с тарифами и нормативами, и ошибки в консультациях порождают перерасчёты и споры.
Персональные данные абонентов и данные о начислениях нельзя передавать во внешние облачные сервисы, что исключает готовые LLM-боты.
Что делает ИИ
vLLMQwen / LlamaWhisperLangGraphQdrantPostgreSQL
Решение — ассистент на открытой языковой модели, развёрнутой на сервере организации, с доступом к базе знаний и биллингу через защищённые API.
- RAG по регламентам, тарифам, нормативным актам и типовым ответам с указанием источника.
- Интеграции: начисления по лицевому счёту, приём показаний, статус заявок, информация об отключениях по адресу.
- Голосовой канал: распознавание речи, диалог и синтез для телефонной линии; приём аварийных заявок с автоматической классификацией.
- Передача оператору с резюме диалога; аналитика причин обращений для руководства.
Пилот запускается в чате на сайте или мессенджере с ограниченным набором сценариев, затем подключается голосовой канал и интеграция с биллингом.
Ответы по начислениям формируются только из данных биллинга, а не «из головы» модели, что исключает выдуманные суммы; спорные случаи сразу передаются оператору.
Какие данные нужны
- База знаний, регламенты, тарифы
- История обращений и ответов операторов
- Доступ к биллингу и заявкам через API
Какая инфраструктура нужна
Профиль «инференс LLM»: модель на 30–70 млрд параметров с 40–80 ГБ памяти GPU плюс речевые модели для телефонного канала. Для организации с сотнями тысяч абонентов подходит сервер R7 ULTRA с H200 NVL или RX ULTRA из раздела GPU-серверы с 2–4 GPU: одна-две под языковую модель, остальные под распознавание и синтез речи.
Для крупного оператора с миллионами абонентов и пиковыми нагрузками в дни квитанций — платформа LM TEK 4U8GPU10KW на 8 GPU. Векторная база и журнал диалогов размещаются на NVMe узла; персональные данные абонентов остаются в контуре организации.
Как идёт проект
- 01
Данные и цель
Фиксируем метрику успеха, источники данных и ограничения: on-premise, персональные данные, сроки.
- 02
Пилот на нашей конфигурации
Стартовая машина под задачу и подтверждённый профиль нагрузки перед закупкой кластера.
- 03
Инфраструктура
Поставка серверов, станций и охлаждения, монтаж, ввод в эксплуатацию, ПО и мониторинг.
- 04
Сопровождение
Масштабирование, обновление ускорителей в том же шасси, сервис и запчасти.
Что ещё автоматизируют в отрасли «Энергетика и ЖКХ»
Опишите задачу и данные.
Вернёмся с профилем нагрузки, конфигурацией и коммерческим предложением на поставку в вашу страну.


