Ollama 0.40.14: исправления совместимости с Claude Code и оптимизация сэмплирования
github:ollama/ollama · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Обновление Ollama версии 0.40.14 устраняет ограничения на длину вывода для облачных моделей Claude и исправляет ошибки декодирования веб-поиска. Также улучшена стабильность соединений ChatGPT и скорость работы с большими словарями на архитектуре MLX.
Релиз повышает надежность интеграции локальных инструментов с облачными API, устраняя критические баги в обработке токенов и сетевых сбоях, что важно для разработчиков, использующих Ollama как шлюз к разным LLM.
Команда разработчиков Ollama выпустила обновление версии 0.40.14, которое фокусируется на улучшении совместимости с внешними сервисами и исправлении технических недочетов в обработке данных. Одним из ключевых изменений стало поведение команды `ollama launch claude`: теперь она автоматически применяет лимит выходных токенов, определенный для модели Claude Code. По словам разработчиков, это решение предотвращает ситуации, когда облачные модели сталкиваются с жестким ограничением в 128k токенов по умолчанию, что ранее могло приводить к обрыву генерации или ошибкам в работе инструментов.
Отдельное внимание уделено корректности работы API. В обновлении исправлена проблема с декодированием ответов облачного веб-поиска в эндпоинте `/api/chat`. Теперь сжатые ответы обрабатываются без искажений, что обеспечивает целостность получаемых данных. Кроме того, были скорректированы параметры сэмплирования для OpenAI-совместимых интерфейсов. Ранее эти эндпоинты могли переопределять стандартные значения сэмплера, встроенного в модель, если клиент не передавал явные параметры `temperature` или `top_p`. Теперь система использует собственные настройки модели, а не принудительно устанавливает значение 1.0, что обеспечивает единообразие поведения с основным API `/api/chat`.
Важные доработки затронули и работу с историей диалога. Эндпоинт `/v1/responses` теперь сохраняет читаемый контент входных данных, включая предыдущие отказы ассистента, вместо того чтобы «сплющивать» эту информацию. Это изменение позволяет более точно передавать контекст между запросами, что критично для сложных многошаговых задач. Пользователи приложения Ollama также получили улучшение устойчивости к сбоям: теперь система может автоматически повторять соединение при обрывах с ChatGPT, вместо того чтобы оставлять соединение в нерабочем состоянии.
Для разработчиков, использующих `ollama launch codex`, добавлена предварительная проверка маршрутизации ChatGPT. Если необходимые маршруты недоступны, система выдает понятное сообщение об ошибке до начала конфигурации, что упрощает диагностику проблем с сетевыми настройками. На уровне производительности отмечено ускорение процесса top-k сэмплирования на архитектуре MLX при работе с большими словарями. Это должно положительно сказаться на скорости генерации для моделей, развернутых на соответствующем железе.
Таким образом, релиз 0.40.14 представляет собой набор точечных, но значимых исправлений, направленных на повышение стабильности и предсказуемости работы Ollama в связке с популярными облачными провайдерами ИИ. Обновление устраняет ряд «болевых точек» в интеграции с Claude и ChatGPT, а также улучшает внутреннюю логику обработки параметров генерации.