Ollama v0.34.3: поддержка Nemotron H на Apple Silicon и новые API-возможности
github:ollama/ollama · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Выпуск Ollama v0.34.3 добавляет поддержку визуальных моделей Nemotron H на устройствах с чипами Apple Silicon через фреймворк MLX. Также обновлен API для отображения параметров «размышления» моделей и исправлено поведение окон в macOS-приложении.
Ценность: Обновление расширяет возможности локального запуска передовых мультимодальных моделей на популярной экосистеме Apple, улучшая совместимость инструментов разработки и пользовательский опыт десктопного приложения.
Команда разработчиков Ollama выпустила версию 0.34.3, которая приносит несколько значимых улучшений для пользователей локальных языковых моделей. Одним из ключевых нововведений стала поддержка визуальных моделей Nemotron H на устройствах с процессорами Apple Silicon. Интеграция реализована с использованием фреймворка MLX, что позволяет эффективно использовать аппаратное ускорение графики и вычислений на Mac. Это открывает возможности для работы с мультимодальными моделями, которые ранее могли быть недоступны или работать менее стабильно на данной платформе.
Помимо расширения поддержки моделей, обновлен интерфейс программирования приложений (API). Метод GET /api/show теперь возвращает информацию о контроле «размышления» (thinking controls) для каждой модели. В ответе API теперь присутствуют поля, описывающие допустимые значения параметров размышления и их значение по умолчанию. Например, для модели glm-5.3-flash:cloud система может вернуть список значений "low", "high", "max" с указанием, что по умолчанию установлено "max". Это изменение упрощает автоматизацию и настройку поведения моделей в приложениях, позволяя программно определять доступные режимы работы без необходимости задокументированного ручного тестирования.
В десктопном приложении для macOS также внесено изменение в пользовательский опыт. Ранее, при активации приложения, оно могло автоматически восстанавливать окна, которые пользователь ранее закрыл. В новой версии это поведение убрано: приложение больше не перекрывает закрытые окна при запуске или переключении на него. Это делает взаимодействие с программой более предсказуемым и соответствующим ожиданиям пользователей операционной системы macOS.
Обновление также включает ряд других исправлений и улучшений, полный список которых доступен в журнале изменений на GitHub. Выпуск v0.34.3 продолжает линию развития Ollama как инструмента для локального развертывания и управления большими языковыми моделями, расширяя совместимость с различными архитектурами моделей и платформами.
Для разработчиков, использующих Ollama в своих проектах, обновление API означает необходимость проверки кода, взаимодействующего с методом /api/show, чтобы учесть новые поля. Пользователи macOS оценят более логичное поведение окон приложения. Поддержка Nemotron H на Apple Silicon может стать важным фактором для тех, кто работает с мультимодальными моделями и предпочитает экосистему Apple.