Orchestro и Furiosa ИИ объединяют усилия для коммерциализации отечественных NPU
zdnet.co.kr · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Южнокорейские компании Orchestro Group и Furiosa AI подписали меморандум о взаимопонимании для совместного продвижения искусственного интеллекта на базе национальных нейропроцессоров. Партнеры намерены расширить поддержку своих платформ на чипы RNGD, чтобы предложить конкурентоспособную альтернативу GPU-решениям в государственном и финансовом секторах.
Ценность: Сотрудничество двух ключевых игроков корейского IT-рынка направлено на создание независимой экосистемы AI-инфраструктуры. Это позволяет снизить зависимость от зарубежных графических ускорителей и предложить корпоративным клиентам более энергоэффективные и безопасные решения для развертывания больших языковых моделей.
Компании Orchestro Group и Furiosa AI официально объявили о подписании меморандума о взаимопонимании, направленного на коммерциализацию инфраструктуры искусственного интеллекта на базе отечественных нейропроцессоров (NPU). Сделка была заключена 18 сентября в штаб-квартире Furiosa AI в Сеуле. Основной стратегической целью партнеров является выход на рынки государственного управления, финансового сектора и корпоративного сегмента с готовыми решениями для развертывания и обслуживания больших языковых моделей (LLM).
Техническая основа сотрудничества строится на интеграции второго поколения NPU под названием RNGD от Furiosa AI с программным стеком Orchestro. С начала текущего года компании вели совместные работы по проверке совместимости серверов NXT RNGD в среде AI-инфраструктуры Orchestro. В ходе этих испытаний была проработана технология стабильного развёртывания, обслуживания и эксплуатации LLM на базе данных чипов в реальных сервисных условиях.
Ключевым продуктом, который получает расширение функциональности, является платформа CONCERTO A.I. Изначально ориентированная на управление GPU-ресурсами, эта система теперь поддерживает и NPU. Платформа обеспечивает комплексное управление: от деплоя моделей и управления вычислительными ресурсами до мониторинга сервисов. По заявлению компаний, это снимает с заказчиков сложную задачу ручной настройки среды для NPU, позволяя использовать эти ускорители так же удобно, как графические процессоры.
Особое внимание уделяется гетерогенной инфраструктуре, где GPU и NPU работают совместно. Orchestro внедряет функции интеллектуального маршрутизации запросов и планирования на основе топологии сети. Это позволяет системе динамически распределять нагрузку между различными типами ускорителей в зависимости от характеристик конкретной задачи. В будущем планируется дальнейшее совершенствование технологий интегрированного мониторинга, охватывающего модели, рантаймы и аппаратное обеспечение.
После этапа технической верификации партнеры переходят к фазе практической реализации. Планируется проведение бенчмарков (BMT) и пилотных проектов с реальными клиентами для подтверждения производительности и стабильности систем на базе RNGD. Полученные данные будут использованы для формирования конкретных моделей внедрения, адаптированных под требования государственных и финансовых учреждений.
В рамках стратегии развития экосистемы «K-AI» компании также расширяют связку с другими продуктами Orchestro, такими как виртуализация Contrabass, облачная платформа Viola и DevOps-инструменты. Это позволяет предложить клиентам полный цикл услуг — от проектирования инфраструктуры до её интеграции в корпоративные процессы. Руководство обеих компаний подчёркивает важность создания полного стека решений для управления крупными AI-дата-центрами.
Бай Джун Хо, глава Furiosa AI, отметил растущую значимость программного обеспечения и инфраструктурных компетенций на фоне распространения ИИ в корпоративном секторе. Он заявил о намерении оптимизировать работу дата-центров через комбинацию RNGD и софта Orchestro. Мин Джун Ким, председатель совета директоров Orchestro Group, подтвердил, что техническое сотрудничество началось в начале года, и теперь фокус смещается на коммерциализацию и создание эталонных проектов для рынка.