Ollama выпустила версию 0.40.1: проксирование облачных API и исправление ошибок на Windows
github:ollama/ollama · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Команда Ollama представила релиз v0.40.1, в котором добавлена поддержка проксирования запросов к облачным API использования и баланса. Также в обновлении устранены критические ошибки чтения памяти на Windows и улучшена стабильность работы с симлинками.
Обновление расширяет функциональность локального запуска моделей, интегрируя их с облачными сервисами, и повышает надежность приложения для пользователей Windows, что важно для широкого внедрения инструментов локального ИИ.
Команда разработчиков Ollama опубликовала версию 0.40.1, которая приносит ряд значимых улучшений в работу серверной части и исправлений для пользователей платформы Windows. Одним из ключевых нововведений стало добавление возможности проксировать запросы к облачным API, отвечающим за учет использования ресурсов и проверку баланса. Эта функция была реализована в рамках pull request #18829 автором drifkin и позволяет более гибко управлять взаимодействием локальных моделей с внешними сервисами.
Отдельного внимания заслуживает исправление критической ошибки в работе библиотеки llama на Windows. Как отмечает разработчик Gigrise в pull request #18777, была устранена проблема, при которой чтение заголовков Clef выходило за пределы 2 ГБ памяти. Это изменение повышает стабильность работы приложения с большими моделями и предотвращает потенциальные сбои в работе системы.
В пользовательском интерфейсе командной строки также произошли изменения: из процесса онбординга был удален шаг создания учетной записи. По данным из pull request #18826 от hoyyeva, это упрощает начальный настройку инструмента для тех пользователей, которые предпочитают работать без обязательной регистрации.
Разработчики также уделили внимание совместимости с файловой системой Windows. В частности, dhiltgen в pull request #18852 изменил логику работы манифестов, чтобы избежать использования символьных ссылок (symlinks), которые могут вызывать проблемы в этой операционной системе. Это должно сделать установку и обновление Ollama более предсказуемыми для пользователей Windows.
В документации были исправлены несколько неработающих ссылок. Aniketkrs устранил шесть битых ссылок в списке интеграций сообщества в README (pull request #18814), а chenlichao починил ссылки на загрузку в README приложения (pull request #18233). Эти правки помогают пользователям легче находить актуальные ресурсы и инструкции.
Кроме того, dhiltgen удалил патч, связанный с резидентностью Metal в MLX, поскольку соответствующая функциональность уже была интегрирована в основной код (upstream) в pull request #18854. Это упрощает поддержку кодовой базы и снижает риск конфликтов при будущих обновлениях.
В релизе также отмечены первые вклады новых участников сообщества: Gigrise, aniketkrs и chenlichao сделали свои первые вклады в проект, что свидетельствует о растущей активности вокруг Ollama. Полное сравнение изменений доступно в официальном репозитории проекта. Источник: github:ollama/ollama — https://github.com/ollama/ollama/releases/tag/v0.40.1-rc0