Alibaba Zhenwu 810E: особенности интеграции китайского ИИ-ускорителя в облачную инфраструктуру
Habr AI · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Команда Selectel протестировала сервер с 16 ускорителями PPU Zhenwu 810E от Alibaba, оценив его потенциал для инференса LLM. Основной вывод: устройство обладает впечатляющими характеристиками памяти, но требует использования закрытого стека и ожидания портирования актуальных версий библиотек.
Материал демонстрирует реальные технические и организационные барьеры при внедрении альтернативных к NVIDIA AI-ускорителей, что критично для компаний, рассматривающих диверсификацию аппаратной базы.
Современный рынок искусственного интеллекта характеризуется появлением множества специализированных ускорителей: от привычных GPU и TPU до новых аббревиатур вроде NPU и LPU. В этом контексте китайские разработчики активно продвигают собственные решения. MLOps-инженер Selectel Дмитрий поделился опытом тестирования сервера, оснащенного 16 чипами PPU Zhenwu 810E производства Alibaba Group. Устройство, разработанное подразделением T-HEAD (Pingtou Ge Semiconductor Co., Ltd.), позиционируется как Parallel Processing Unit — самостоятельный класс ускорителей, аналогичный TPU или GPU.
Аппаратная конфигурация сервера выглядит внушительно: каждый чип Zhenwu 810E оснащен 96 ГБ памяти HBM2e с пропускной способностью около 2,77 ТБ/с. Суммарно на сервере доступно 1536 ГБ видеопамяти, что позволяет работать с крупными языковыми моделями без необходимости их фрагментации на множество устройств. Чипы связаны собственным межчиповым интерконнектом ICN с заявленной пропускной способностью до 700 ГБ/с на ускоритель, а также подключаются через интерфейс PCIe 5.0 x 16.
Однако ключевым аспектом эксплуатации является программное обеспечение. Весь стек для работы с PPU является суверенным и локальным: нативные библиотеки NVIDIA несовместимы с устройством. Хотя заявлена совместимость с исходным кодом CUDA, его необходимо компилировать под PPU с помощью специального SDK. Это означает, что популярные инструменты вроде PyTorch, vLLM или Transformers должны быть предварительно адаптированы командой T-HEAD.
Здесь возникает главный операционный риск: задержка в получении актуальных версий библиотек. По данным тестирования, на момент августа 2026 года актуальная версия vLLM составляет v0.27.0, тогда как сборка для PPU содержит устаревшую версию v0.23.0. Пользователи вынуждены ждать, пока вендор портирует новые фичи и модели. Кроме того, T-HEAD рекомендует использовать специфические схемы квантизации весов (W8A8, AWQ, GPTQ), которые также требуют отдельной адаптации.
Доступность моделей и инструментов также имеет свои нюансы. Официальные веса моделей с рекомендуемой квантизацией W8A8 (например, DeepSeek R1, Qwen3-235B-A22B) выкладываются на китайской платформе Modelscope.cn, а не на глобальном Hugging Face. Внутри Docker-образа PPU SDK загрузка моделей происходит без необходимости авторизации, что упрощает процесс. Для мониторинга состояния устройств предусмотрен аналог nvidia-smi — утилита ppu-smi, которая отображает температуру, потребление энергии и топологию соединений между чипами.
Документация к PPU преимущественно доступна на китайском языке и ориентирована на разработчиков SDK. Англоязычные материалы часто содержат устаревшие данные, что создает дополнительные сложности для международных команд. Несмотря на мощные аппаратные характеристики, интеграция Zhenwu 810E в стандартные облачные сценарии требует учета специфики закрытого экосистемного стека и готовности к потенциальным задержкам в обновлении программного обеспечения.