Интегратор GPU-серверов и рабочих станций · Россия и СНГ
8 (800) 350-70-73 · бесплатно по России  |  Условия поставки
Промышленность и производство · LLM и генеративный ИИ · Обработка документов и OCR

LLM-ассистент по технической документации и регламентам предприятия

Языковая модель в контуре предприятия отвечает на вопросы по инструкциям, чертежам и регламентам с указанием источника.

Время поиска информациисокращение на 50–70 %
Доля ответов с корректной ссылкой на источник85–95 % на подготовленной базе
Одновременных пользователей10–50 на узел в зависимости от модели

Диапазоны по отраслевым публикациям и типовым внедрениям; результат зависит от данных и процессов заказчика.

Задача

Что решаем

Технологические инструкции, руководства по оборудованию, стандарты предприятия и акты расследований лежат в десятках форматов: сканы, PDF, документы в СЭД, чертежи. Инженер тратит часы на поиск нужного пункта, а новый сотрудник месяцы осваивает то, что «все и так знают».

Отправлять такие документы во внешние облачные сервисы нельзя: это коммерческая тайна и часто — данные, подпадающие под требования по защите КИИ.

Кроме поиска, есть рутина: подготовка отчётов по типовым шаблонам, ответы на однотипные запросы смежных служб, сверка документации с актуальными редакциями стандартов. Всё это занимает время квалифицированных инженеров.

Как работает

Что делает ИИ

vLLMQwen / LlamaLangChainQdrantPaddleOCRDocling

Решение строится по схеме RAG: документы индексируются в векторную базу, а открытая языковая модель, развёрнутая на сервере предприятия, формулирует ответ на основе найденных фрагментов и ссылается на них.

  • Обработка сканов и чертежей через OCR и модели понимания структуры документа: таблицы, спецификации, штампы.
  • Разграничение доступа: пользователь видит ответы только по документам, к которым допущен.
  • Сценарии: поиск по регламентам, подготовка чек-листов ТО, разбор инцидентов, помощь в оформлении отчётов.
  • Опциональное дообучение модели на терминологии предприятия.

Развёртывание занимает 2–3 месяца: подготовка и очистка корпуса документов, настройка индексации, проверка ответов экспертами предприятия на контрольном наборе вопросов. Модель и индекс работают на сервере в вашей серверной; обновление документов идёт автоматически.

Какие данные нужны

  • Технологические инструкции и СТП
  • Руководства и паспорта оборудования
  • Акты, отчёты и переписка в СЭД
Железо · Инференс LLM и ассистенты · Один узел в стойке

Какая инфраструктура нужна

Профиль «инференс LLM»: определяющий параметр — память GPU. Модель на 30–70 млрд параметров в 4–8-битной квантизации требует порядка 40–80 ГБ видеопамяти плюс место под контекст параллельных пользователей, поэтому базовая конфигурация — сервер R7 ULTRA с H200 NVL или RX ULTRA из раздела GPU-серверы. Для десятков одновременных пользователей и моделей 70B+ без агрессивной квантизации — платформа LM TEK 4U8GPU10KW на 4–8 GPU.

OCR-конвейер и векторная база живут на том же узле; заложите NVMe-хранилище под индекс и исходные документы. Все данные остаются в контуре предприятия.

Сравнить конфигурации →  ·  Подобрать по ускорителю →

Внедрение

Как идёт проект

  1. 01

    Данные и цель

    Фиксируем метрику успеха, источники данных и ограничения: on-premise, персональные данные, сроки.

  2. 02

    Пилот на нашей конфигурации

    Стартовая машина под задачу и подтверждённый профиль нагрузки перед закупкой кластера.

  3. 03

    Инфраструктура

    Поставка серверов, станций и охлаждения, монтаж, ввод в эксплуатацию, ПО и мониторинг.

  4. 04

    Сопровождение

    Масштабирование, обновление ускорителей в том же шасси, сервис и запчасти.

Смежные решения

Что ещё автоматизируют в отрасли «Промышленность и производство»

Все решения для отрасли →

Запрос КП · ответ в течение рабочего дня

Опишите задачу и данные.

Вернёмся с профилем нагрузки, конфигурацией и коммерческим предложением на поставку в вашу страну.

Обсудить внедрение