«Т-Банк» представил методы обучения ИИ-моделей для снижения затрат на корпоративную инфраструктуру
CNews AI · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Исследователи «Т-Банка» разработали два подхода к дообучению моделей: универсальную LLM, объединяющую более 200 сервисов, и визуально-языковую систему для извлечения данных из документов. По заявлению компании, новые методы позволяют сократить расходы на обработку запросов и работу с документами в несколько раз по сравнению с альтернативами.
Разработки позволяют компаниям с высокими требованиями к безопасности данных внедрять ИИ на собственной инфраструктуре, существенно экономя вычислительные мощности и операционные расходы без потери качества.
Корпоративный сектор сталкивается с дилеммой: строгие требования к конфиденциальности данных часто запрещают использование внешних облачных ИИ-сервисов, вынуждая компании запускать модели на собственных серверах. Однако постоянное добавление новых специализированных моделей без отключения старых приводит к фрагментации ограниченных вычислительных ресурсов. Исследователи ИИ-Центра «Т-Банка» представили два метода обучения, призванные решить эту проблему за счет консолидации функций и оптимизации затрат.
Первый подход позволяет заменить множество узкоспециализированных языковых моделей одной универсальной. В «Т-Банке» модель на 32 млрд параметров объединила более 200 внутренних сервисов. По данным компании, она обрабатывает запросы в 2,8–3,9 раза дешевле, чем значительно более крупная Qwen3-235B, а в отдельных сервисах экономия достигает 4–9 раз. При этом в режиме без рассуждений обученная модель превосходит базовую Qwen3-32B и более крупные аналоги по внутренним и публичным бенчмаркам, получая 69,6 балла против 65,8 у конкурента с большим числом параметров.
Второй метод направлен на автоматизацию извлечения данных из документов любого типа. Разработанная визуально-языковая модель позволяет находить нужную информацию по текстовому запросу. Согласно замерам «Т-Банка», использование этой системы обходится на 80% дешевле ручной обработки и на 50% дешевле работы лучших открытых моделей. Модель на основе Qwen3.5-35B-A3B-Base задействует лишь 3 млрд параметров при обработке запроса, что делает ее экономически эффективной для локального развертывания.
Техническая реализация первого метода включает три этапа: обучение на примерах с правильными ответами, улучшение через GRPO (метод обучения с подкреплением) и объединение специализированных версий модели в одну универсальную с помощью SLERP. Исследователи подчеркивают, что они стали первыми, кто описал воспроизводимую методику постобучения русскоязычных больших языковых моделей с агентскими навыками. Метод не привязан к конкретной архитектуре и применим к другим открытым моделям.
Для работы с документами команда разработала пайплайн подготовки данных Difficulty-Aware Data Curation, который отбирает из открытых PDF-документов примеры, близкие к реальным бизнес-задачам. Также предложена модель расчета экономической эффективности, учитывающая качество извлечения, стоимость инференса и труд человека. Это позволяет использовать ИИ только там, где это выгоднее, а сложные случаи передавать операторам.
Дмитрий Ушанов, директор Центра искусственного интеллекта «Т-Банка», отметил, что ключевым результатом стали воспроизводимые методы, позволяющие внедрять ИИ с меньшими затратами. Он подчеркнул, что компактная модель может заменить более дорогие решения, сохраняя качество, а система для документов остается экономически эффективной даже при совместной работе с оператором.
Разработки ориентированы на финансовые организации, телеком-компании и промышленные предприятия, обрабатывающие большие объемы данных локально. В открытый доступ выложены методика создания тестов, описание подхода к постобучению и модель с открытыми весами, обученная без использования внутренних данных компании.