Meta представила Muse Glimmer: открытая 30-миллиардная модель для локальных агентных задач
Hacker News · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Meta Superintelligence Labs выпустила Muse Glimmer — 30-миллиардную языковую модель с открытыми весами, оптимизированную для работы на потребительском оборудовании. Модель поддерживает агентные сценарии, многошаговое рассуждение и мультимодальный ввод, работая локально благодаря квантованию и спекулятивному декодированию.
Появление компактных моделей высокого уровня для локального запуска снижает зависимость от облачной инфраструктуры, позволяя разработчикам создавать приватные ИИ-агенты с минимальной задержкой на доступном оборудовании.
Компания Meta Superintelligence Labs представила Muse Glimmer — новую языковую модель с 30 миллиардами параметров, предназначенную для работы в локальных агентных сценариях. В отличие от многих современных ИИ-систем, требующих мощных облачных ресурсов, эта модель оптимизирована для запуска на потребительских устройствах, таких как Mac или ПК с одним графическим процессором. Весы модели опубликованы под лицензией Apache 2.0 на платформе Hugging Face, что позволяет разработчикам свободно использовать и модифицировать ее.
Ключевой особенностью Muse Glimmer является фокус на агентных задачах: управление расписанием, черновиками сообщений, организации файлов и выполнении многошаговых инструкций. По заявлению Meta, модель демонстрирует высокую эффективность в бенчмарках, таких как DeepSearch QA, MCP-Atlas, τ-Bench и SWE-Bench, конкурируя с ведущими моделями своего класса, включая Gemma4-31B и Qwen3.6-27B. Система поддерживает надежное использование инструментов (function calling), многошаговое рассуждение и восстановление после ошибок в процессе выполнения задач.
Для обеспечения работы на локальном оборудовании инженеры Meta применили несколько оптимизаций. Во-первых, модель подвергнута квантованию до 4-битной точности, что сокращает объем памяти с более чем 55 ГБ до менее 20 ГБ. Это позволяет разместить модель, кэш KV и модуль восприятия изображений в рамках 24–32 ГБ видеопамяти. Во-вторых, используется спекулятивное декодирование с помощью вспомогательной модели DFlash, которая предлагает блоки токенов для параллельной проверки основной моделью. Это значительно ускоряет генерацию текста без потери качества вывода.
Muse Glimmer также поддерживает мультимодальный ввод, принимая чередующиеся текстовые и графические данные благодаря специальному энкодеру восприятия. Это позволяет агентам интерпретировать скриншоты, графики и документы в контексте диалога. Модель обучена на данных более чем 100 языков и совместима с популярными фреймворками оркестрации, включая OpenClaw. Разработчики могут интегрировать модель через llama.cpp, MLX, ExecuTorch, а также использовать сервисы вроде Ollama, LM Studio и vLLM.
Процесс обучения включал три этапа: предобучение с использованием дистилляции логов от более крупной модели Muse Spark, промежуточное обучение на данных с длинным контекстом и агентными задачами, а также пост-обучение с применением supervised fine-tuning и reinforcement learning. Meta утверждает, что модель прошла оценку в соответствии с Advanced AI Scaling Framework компании перед релизом.
Компания подчеркивает, что локальный запуск ИИ обеспечивает приватность данных и независимость от сетевого соединения, что критично для корпоративных и личных сценариев использования. Meta сотрудничает с AMD, Arm, Dell, Intel и NVIDIA для оптимизации производительности на различных устройствах. Документация и инструменты для настройки уже доступны, а сообщество разработчиков приглашено тестировать модель и делиться обратной связью.