Полная дообучение моделей: AWS расширяет SageMaker ИИ для глубокой адаптации LLM

AWS Machine Learning · оригинал

Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Amazon Web Services представила поддержку полной дообучения (FFT) в сервисе SageMaker AI Serverless Model Customization, позволяя компаниям адаптировать языковые модели к специфическим задачам без управления инфраструктурой. Эксперименты показывают, что при наличии больших объемов данных FFT превосходит параметр-эффективные методы вроде LoRA по качеству генерации кода, но требует тщательной настройки гиперпараметров для предотвращения потери общих знаний.

Внедрение FFT в serverless-окружение снижает барьер входа для глубокой кастомизации ИИ-моделей, предлагая баланс между качеством специализированных ответов и экономией на вычислительных ресурсах.

Компания Amazon Web Services объявила о расширении функциональности сервиса SageMaker AI Serverless Model Customization, добавив поддержку метода полной дообучения (Full Fine-Tuning, FFT). Традиционно бизнес-пользователи опирались на параметр-эффективные методы, такие как Low-Rank Adaptation (LoRA), которые обновляют лишь небольшую часть весов модели. Хотя LoRA экономит вычислительные ресурсы, его низкоранговая структура ограничивает способность модели усваивать сложные паттерны и глубокие доменные знания. FFT решает эту проблему, изменяя параметры модели одновременно и используя полную репрезентационную мощность весовых матриц, что позволяет языковым моделям более точно адаптироваться к специфическим задачам, таким как генерация кода или анализ сложных текстов.

Ключевым преимуществом нового подхода является отсутствие необходимости в управлении инфраструктурой. Пользователи не должны заниматься провижинингом GPU, настройкой кластеров или конфигурацией распределенного обучения. Достаточно указать базовую модель, набор данных и гиперпараметры, а сервис автоматически обрабатывает вычислительные ресурсы и управление контрольными точками. Это позволяет инженерам по данным сосредоточиться на качестве модели и выборе гиперпараметров, а не на операционных задачах.

В рамках экспериментальной части AWS использовала базовую модель Qwen3-4B и датасет Magicoder-Evol-Instruct-110K, содержащий 110 000 пар инструкций и ответов по программированию. Тестирование проводилось на нескольких метриках: LLM-as-Judge (оценка семантической корректности с помощью модели Amazon Nova Pro), PRIMECODE (измерение сходства кода с эталонными решениями через BLEU и ROUGE) и MMLU (проверка сохранения общих знаний). Результаты продемонстрировали, что при масштабе данных свыше 100 000 примеров FFT достигла показателя 90.0% по метрике LLM-as-Judge, превосходя LoRA на всех осевых параметрах качества.

Однако AWS подчеркивает, что FFT не является универсальным решением и крайне чувствительна к выбору гиперпараметров. В частности, агрессивные значения скорости обучения (LR ≥ 5e-5) привели к явлению катастрофического забывания: точность на математических задачах упала до 2–3%, а общий уровень знаний (MMLU) снизился до 3.6%. Оптимальной зоной безопасности для больших датасетов оказалась скорость обучения 2e-5 и количество эпох не более трех. Превышение этого лимита ухудшало результаты, несмотря на снижение функции потерь.

Сравнительный анализ показал, что выбор между FFT и LoRA должен основываться на характере задачи и качестве данных. В некоторых сценариях, например при оценке субъективного качества генерации, LoRA может демонстрировать лучшие результаты (81.5% против 79.5% у FFT). Тем не менее, для задач, требующих глубокой адаптации и наличия больших объемов высококачественных данных, полная дообучение обеспечивает измеримо более сильную конвергенцию модели и лучшее выравнивание активаций между слоями.

Таким образом, SageMaker AI Serverless Model Customization предоставляет инструменты для гибкой настройки моделей, позволяя компаниям выбирать оптимальный баланс между стоимостью инференса и качеством специализированных ответов. Интеграция FFT в serverless-платформу делает передовые методы дообучения доступными для широкого круга специалистов, ускоряя процесс от экспериментов до развертывания готовых моделей.