NVIDIA представила Minerva: платформу для сквозной наблюдаемости в ИИ-фабриках

NVIDIA представила Minerva — платформу AIOps (AI Operations), разработанную для повышения производительности и надежности «AI-фабрик». Эти комплексы представляют собой одни из самых сложных операционных систем в мире, где тысячи графических процессоров работают через высокоскоростные сети для обучения моделей и обслуживания приложений. В таких условиях даже незначительное снижение производительности одного компонента может замедлить выполнение всей задачи. Предупреждающие признаки часто остаются незамеченными: например, один GPU может работать при более высокой температуре, чем другие, или NVMe-накопитель может терять скорость под нагрузкой. Minerva фокусируется на ключевом показателе — выходе полезной работы инфраструктуры, измеряемом в часах GPU, «goodput» (полезном потоке данных), временем безотказной работы кластера и объемом произведенных токенов.

Традиционные инструменты мониторинга обычно разделяют дата-центр на изолированные сегменты: команды по сетям, вычислениям, надежности и машинному обучению видят лишь часть картины. Minerva объединяет эти сигналы, связывая данные с NVIDIA GPU, сетевым оборудованием, хранилищами, планировщиками задач и самими рабочими нагрузками. На основе этой информации платформа строит динамическую графу знаний, которая логически отображает инфраструктуру — от GPU и SuperNIC до коммутаторов и кабелей — а также задачи, выполняемые на ней. Это контекст позволяет операторам проследить путь медленной задачи обучения до конкретного компонента, вызывающего задержки, даже в фабрике с сотнями тысяч графических процессоров.

Технологическая основа Minerva включает анализ миллиардов точек данных в час с использованием надзорного и ненадзорного машинного обучения. Система изучает нормальное поведение системы, выявляет ранее неизвестные аномалии, предсказывает возникающие сбои и коррелирует связанные события на основе топологии фабрики. Вместо того чтобы отправлять оператору каждый симптом отдельно, Minerva группирует «шторм событий» в единый инцидент с вероятной причиной. Платформа также оснащена встроенным ИИ-ассистентом и поддерживает интеграцию с внешними агентными ИИ-инструментами, предоставляя интерфейс на естественном языке, основанный на живой телеметрии.

Операторы могут использовать диалоговый режим для проверки состояния кластера и получения рекомендаций по устранению неполадок. Команды могут сохранять за собой право на ручное выполнение исправлений или подключать Minerva к автоматизации через API инфраструктуры и внешние системы. Способность коррелировать проблемы рабочих нагрузок с инфраструктурными сбоями упрощает управление AI-фабриками. Вместо работы с лавиной предупреждений, Minerva агрегирует связанные проблемы в один действенный пункт, позволяя командам AIOps перейти от реактивного устранения к проактивному обслуживанию.

NVIDIA утверждает, что это помогает максимизировать время безотказной работы GPU. Платформа обеспечивает более длительное время между сбоями, так как выявляет проблемы до их возникновения; ускоряет время ремонта, точно локализуя неисправность; и предоставляет более глубокий анализ, фильтруя поток данных и оставляя только значимые предупреждения. Среди партнеров, использующих Minerva для оптимизации своих AI-фабрик, находится IREN. Денис Скринников, главный технологический директор IREN, отметил, что ключом к предоставлению лучших услуг является максимизация продуктивности GPU. По его словам, Minerva дает команде эксплуатации единый обзор сети, GPU и задач, позволяя сосредоточиться на проактивном обслуживании.

Помимо IREN, Minerva планируют развернуть Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI и Tesla. Также Dell Technologies, Lenovo и Supermicro включат платформу в свои портфели решений для операций AI-фабрик. Источник: web:NVIDIA AI — https://blogs.nvidia.com/blog/minerva-platform-infrastructure/