Дообучение отраслевой языковой модели на данных финансовой организации

Открытые языковые модели хорошо понимают общий язык, но плохо знают продуктовую линейку банка, внутреннюю терминологию, форматы документов и стиль общения с клиентами. RAG закрывает часть проблемы, но не учит модель рассуждать в терминах организации и следовать её регламентам.

Дообучение в облаке означает передачу корпуса внутренних документов и диалогов внешнему провайдеру, что для банка и страховщика неприемлемо: банковская тайна, персональные данные, требования регулятора к локализации.

Без собственной вычислительной базы команда ML ограничена экспериментами на маленьких моделях, которые не дают нужного качества.

Мы поставляем вычислительную платформу для дообучения открытых моделей в контуре организации и помогаем выстроить процесс: от подготовки корпуса до выкатки модели в сервисы.

• Подготовка данных: очистка и деперсонализация документов, диалогов контакт-центра, базы знаний; формирование инструктивных наборов.
• Дообучение методами LoRA/QLoRA и полное дообучение для моделей 7–70 млрд параметров; выравнивание на предпочтениях экспертов.
• Оценка на внутренних тестах: точность по продуктам, следование регламентам, отсутствие утечек данных в ответах.
• Выкатка в сервисы: ассистент сотрудника, чат-бот клиента, разбор документов — один узел обслуживает обучение и инференс.

Цикл переобучения при обновлении продуктов занимает дни, а не кварталы, и остаётся под контролем команды банка.

Какие данные нужны

• Внутренние документы и база знаний
• Деперсонализированные диалоги контакт-центра
• Инструктивные наборы, размеченные экспертами