Kimi K3 от Moonshot ИИ доступен в Amazon Bedrock: 2,8 триллиона параметров и кэширование промптов
AWS Machine Learning · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Amazon Web Services объявила о запуске модели Kimi K3 от Moonshot AI на платформе Amazon Bedrock. Это первая открытая модель с 2,8 триллионами параметров, поддерживающая явное кэширование промптов и работающая в рамках строгих требований безопасности AWS.
Ценность: Появление Kimi K3 расширяет возможности разработчиков за счет доступа к мощной открытой модели с длинным контекстом и оптимизированными затратами на инференс, сохраняя при этом контроль над данными.
Рынок искусственного интеллекта претерпевает структурные изменения благодаря развитию моделей с открытыми весами. Эти решения позволяют компаниям гибко балансировать между производительностью, скоростью и стоимостью внедрения. Amazon Web Services (AWS) активно развивает инфраструктуру для поддержки таких инноваций, обеспечивая необходимую надежность и безопасность для производственных сред. В рамках этой стратегии на платформе Amazon Bedrock стала доступна модель Kimi K3 от разработчика Moonshot AI, позиционируемая как мощный инструмент для задач программирования и интеллектуального труда.
По утверждению Moonshot AI, Kimi K3 является их самой способной моделью и первым открытым решением, достигшим масштаба в 2,8 триллиона параметров. Архитектура модели включает нативные возможности компьютерного зрения и окно контекста на 1 миллион токенов. Разработчики отмечают, что по сравнению с предыдущей версией Kimi K2 наблюдается примерно 2,5-кратное улучшение эффективности масштабирования. Эти характеристики делают модель особенно подходящей для длительных рабочих процессов в кодировании и работе с знаниями, где требуется удержание контекста при обработке больших репозиториев, документов и изображений.
Важным технологическим отличием Kimi K3 на Amazon Bedrock является поддержка явного кэширования промптов. Это первая открытая модель на данной платформе, реализующая такую функцию. Механизм позволяет снижать задержки и затраты на входные токены при повторном использовании контекста в последовательных запросах. Пользователи могут маркировать границы переиспользуемых префиксов промптов, что приводит к более быстрому ответу системы и снижению стоимости обработки совпадающих запросов. Кэшированные данные сохраняются в памяти не менее 30 минут, при этом токены, записанные в кэш, тарифицируются по повышенной ставке, но последующие обращения к ним обходятся дешевле.
Запуск Kimi K3 отражает долгосрочную инвестицию AWS в экосистему открытых моделей. С 2025 года Amazon Bedrock добавил десятки решений от таких провайдеров, как DeepSeek, Google, MiniMax, Mistral AI, NVIDIA, OpenAI и Qwen. В 2026 году платформа расширила функциональность, добавив поддержку вызова инструментов, структурированного вывода, рассуждений и потоковой передачи ответов. Поскольку эти возможности являются платформенными, а не привязанными к конкретной модели, новые открытые решения автоматически получают доступ к этим функциям при публикации на Bedrock.
Безопасность данных остается приоритетом для корпоративных клиентов. При использовании Kimi K3 данные обрабатываются внутри границ AWS и не передаются провайдеру модели для обучения. Функция нулевого удержания данных (zero data retention) всегда активирована для запросов инференса, а режим нулевого доступа операторов предотвращает чтение промптов и ответов даже сотрудниками AWS в процессе работы. Это позволяет организациям внедрять открытые модели, сохраняя полный контроль над конфиденциальной информацией.
Для интеграции Kimi K3 разработчикам доступны стандартные API, включая совместимые с OpenAI интерфейсы Responses и Chat Completions, а также нативные методы Invoke и Converse. Модель доступна через глобальный профиль инференса global.moonshotai.kimi-k3, который маршрутизирует запросы в поддерживаемые коммерческие регионы AWS по всему миру. Использование глобального профиля снижает стоимость примерно на 10% по сравнению с географически ограниченным профилем us.moonshotai.kimi-k3, который предназначен для соблюдения требований к резидентности данных в США.
Практическое применение модели демонстрируется через интеграцию с популярными инструментами разработки. Например, в открытом исходном коде OpenCode Kimi K3 может использоваться для создания сложных функций и работы над долгосрочными задачами, такими как разработка браузерных игр. Также модель поддерживается агентом Hermes Agent, который применяется для автоматизации задач и глубокого исследования. Это подтверждает универсальность Kimi K3 в различных сценариях использования, от написания кода до управления продуктивностью.