AWS внедряет SOCI-индексацию для ускорения запуска задач в SageMaker ИИ
AWS Machine Learning · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Amazon Web Services представила поддержку технологии Seekable OCI (SOCI) для сервисов SageMaker AI Training и Processing. Это позволяет запускать контейнеры за секунды вместо минут, снижая затраты на простой GPU-ресурсов до 90% без изменения существующих конфигураций задач.
Снижение времени загрузки контейнеров напрямую влияет на стоимость и скорость итераций в машинном обучении, особенно при масштабных экспериментах с гиперпараметрами и короткими задачами обработки данных.
В инфраструктуре глубокого обучения время, затрачиваемое на загрузку контейнерных образов, часто становится скрытым источником издержек. Традиционно сервисы запускают задачи только после полной загрузки и распаковки всех слоев образа на диск. Для современных образов глубокого обучения, размер которых регулярно превышает 10 ГБ, этот процесс занимает несколько минут. Каждая такая минута тарифицируется как активное время работы задачи, даже если модель еще не начала обучение. Amazon Web Services (AWS) анонсировала внедрение технологии Seekable OCI (SOCI) для сервисов SageMaker AI Training и Processing, чтобы исключить эту задержку из критического пути выполнения задач.
Технология SOCI работает по принципу ленивой загрузки (lazy loading). Вместо скачивания всего образа система использует специальный индекс метаданных, который хранится в Amazon ECR как отдельный артефакт. Этот индекс содержит карту всех файлов внутри контейнера. При запуске задачи SageMaker AI загружает только те файлы, которые необходимы для инициализации контейнера, а остальные данные передаются в фоне по мере их обращения кодом. Поскольку индекс является отдельным объектом, хэш-сумма (digest) оригинального образа и его подписи остаются неизменными, что гарантирует целостность данных.
Команда AWS провела бенчмаркинг на реальных задачах обучения, сравнивая стандартную загрузку Docker с использованием SOCI. Тесты охватывали восемь образов размером от 1,8 до 35,4 ГБ на различных GPU- и CPU-инстансах в регионах us-west-2 и us-east-1. Результаты показали, что время загрузки сократилось с минут до секунд. Для самого большого образа (35,4 ГБ) стандартная загрузка занимала 7 минут 17 секунд, тогда как с SOCI контейнер был готов к работе за 3–11 секунд. Это дало ускорение от 8x для мелких образов до более чем 35x для крупных.
Важно отметить, что внедрение SOCI не влияет на производительность самого обучения. В тестах с классификацией изображений на ResNet-50 и дообучением языковой модели Qwen2.5-0.5B было установлено, что время выполнения эпох после первой остается идентичным для обоих методов. Единственное отличие — небольшая задержка в 3–16 секунд на первой эпохе, пока фреймворк загружает необходимые файлы из фоновой очереди. В итоге общая продолжительность задач сократилась на 1–6 минут за счет экономии времени на начальную загрузку.
Для внедрения технологии пользователям доступны два пути. Первый — использование предварительно проиндексированных образов AWS Deep Learning Containers (DLC), которые помечаются суффиксом -soci в теге образа. Второй — создание индекса для собственных кастомных образов с помощью инструментов containerd и SOCI snapshotter. AWS также предлагает шаблон CloudFormation (CFN ECR SOCI Index Builder) для автоматической генерации индексов при каждой загрузке образа в репозиторий через Amazon EventBridge.
Существуют определенные ограничения: технология работает только с приватными репозиториями Amazon ECR и не поддерживает образы, загружаемые через VPC-реестры. Кроме того, выигрыш во времени минимален для образов размером менее 4 ГБ. Пользователям также рекомендуется проверить скрипты инициализации на наличие зависимостей от Docker CLI или путей cgroup, так как SOCI работает на базе containerd. Несмотря на эти нюансы, AWS утверждает, что функция доступна во всех регионах и позволяет значительно ускорить цикл разработки ML-моделей.