GitHub представил Project HydraFusion: оркестрация моделей для баланса качества и стоимости

Hacker News · оригинал

Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

GitHub запустила исследовательский предпросмотр Project HydraFusion, который автоматически выбирает оптимальную стратегию выполнения задач с помощью нескольких ИИ-моделей. Система демонстрирует качество на уровне передовых моделей при значительном снижении затрат на вычисления.

Проект меняет подход к использованию ИИ в разработке, переходя от выбора одной лучшей модели к динамической оркестрации нескольких моделей. Это позволяет оптимизировать баланс между скоростью, стоимостью и качеством кода.

Компания GitHub представила Project HydraFusion — исследовательский предпросмотр, который использует оркестрацию нескольких моделей для решения задач разработки. В отличие от ранее запущенной функции автоматического выбора модели, новая система создает полный план выполнения: она может чередовать модели разных провайдеров для черновика, критики и доработки кода или эскалировать задачу к более мощным моделям при необходимости. Для разработчиков процесс остается прозрачным: они выбирают HydraFusion как обычную модель, а система в фоне подбирает рабочий процесс, балансируя производительность, стоимость и задержку.

HydraFusion рассматривает выбор рабочего процесса как задачу оптимизации, используя сигналы возможностей моделей для рассуждений, генерации кода, отладки и использования инструментов. Система предлагает три основных паттерна выполнения: Single (одна модель решает задачу напрямую), Cascade (эффективная модель создает черновик, а при неудаче задача передается более сильной модели) и Critique (одна модель чертит результат, независимый критик из другой модельной семьи его проверяет, после чего автор вносит правки). Каждый паттерн адресует различные компромиссы между качеством и стоимостью: Single сохраняет скорость, Cascade обеспечивает путь к более сильному инференсингу, а Critique добавляет независимую перспективу там, где это полезнее, чем повторная попытка.

В офлайн-оценках на трех агентных бенчмарках по кодированию HydraFusion стабильно демонстрировала качество на уровне передовых моделей при существенной экономии затрат. На TerminalBench 2.1 система улучшила верифицированное качество задач на 4,9 процентных пункта при снижении расчетной стоимости на 67% по сравнению с Claude Opus 5. На DeepSWE, который оценивает сложные задачи уровня репозитория, HydraFusion уступила Opus 5 всего 1,5 процентного пункта, сократив затраты на 36%. На внутреннем бенчмарке CheckpointBench, основанном на реальных сессиях GitHub Copilot, система оказалась в пределах 0,1 процентного пункта от Opus 5 при снижении стоимости на 65%.

Архитектура HydraFusion построена на пяти операционных принципах: полный учет затрат по всем этапам выполнения, ограниченное выполнение с явными тайм-аутами, изолированный обзор в контекстах без инструментов, безопасное применение патчей (отмена при сбое) и верифицированный роутинг. Эти принципы делают оркестрацию нескольких моделей практичной для работы на уровне репозитория. Внутренне рантайм записывает роль, результат, стоимость и латентность каждого этапа, позволяя анализировать рабочий процесс после выполнения. Внешне разработчик получает один связный ответ и один набор изменений с учетом разрешений.

Политики маршрутизации HydraFusion были сформированы на основе того, как разработчики используют GitHub Copilot в реальных задачах. Для воспроизводимости рабочих процессов команда создала CheckpointBench из траекторий реальных сессий Copilot. Оптимизация проводилась итеративно по нескольким бенчмаркам, а не для одного конкретного теста. Вместо ручной настройки порогов использовался beam search для построения оптимальной политики решений. Каждый кандидат оценивался по качеству, стоимости и режимам сбоев относительно замороженного базового уровня.

Разработка шла нелинейно: между 11 и 25 августа две операционные ошибки в тестовой инфраструктуре привели к невалидным запускам, которые были исключены из тренда производительности. После исправления ошибок продолжился рост эффективности конфигураций HydraFusion. К 25 августа система достигла самых сильных рабочих точек в записанной серии. Этот процесс показывает, как политики улучшались через повторяющиеся эксперименты. Поскольку TerminalBench 2.1 близок к насыщению, более широкая валидация важна, поэтому оценка включала DeepSWE с более требовательными задачами уровня репозитория.

Исследовательский предпросмотр предназначен для изучения того, какие задачи выигрывают от составных рабочих процессов и как оркестрация влияет на латентность и стоимость в реальной практике. Для лучшего опыта сегодня рекомендуется начинать с существенных, хорошо определенных задач кодирования, которые можно передать Copilot в режиме autopilot одним промптом. Команда GitHub фокусируется на сильной многоходовой производительности в более длинных итеративных сессиях. HydraFusion остается активным исследовательским усилием: результаты, модели, рабочие процессы, доступность и поведение продукта могут изменяться по мере обучения из предпросмотра. Компания считает, что следующий реальный рост в агентном кодировании придет от сочетания передового интеллекта с оркестрацией во время выполнения.