AWS расширяет доступ к моделям OpenAI для канадских пользователей через межрегиональный инференс
AWS Machine Learning · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Amazon Web Services объявила о возможности доступа к последним версиям моделей GPT от OpenAI из канадских регионов AWS с использованием функции cross-Region inference. Это решение позволяет канадским организациям использовать передовые языковые модели, сохраняя при этом контроль над резидентностью данных и соблюдая требования к обработке информации в Северной Америке.
Данное обновление критически важно для корпоративного сектора в Канаде, так как снимает географические ограничения на использование передовых ИИ-моделей. Компании получают доступ к расширенному пулу вычислительных мощностей для обеспечения стабильной пропускной способности приложений, что особенно актуально при пиковых нагрузках. Кроме того, интеграция через Amazon Bedrock упрощает разработку, позволяя использовать знакомые API-интерфейсы OpenAI без необходимости изменения архитектуры приложений.
Канадские организации, разрабатывающие генеративные ИИ-приложения на платформе Amazon Bedrock, теперь получили прямой доступ к новейшим фундаментальным моделям OpenAI. Согласно данным AWS, через механизм межрегионального инференса (cross-Region inference) из регионов Canada (Central) и Canada West (Calgary) стали доступны модели GPT-5.6 (Sol, Terra, Luna), GPT-6 (Astra, Sol, Luna) и GPT-6.1 Sol. Эти модели поддерживают контекстное окно в один миллион токенов, режим рассуждений и вызов инструментов, что делает их пригодными для сложных аналитических и генеративных задач.
Механизм межрегионального инференса работает как система управления пропускной способностью. Приложение обращается к стандартному эндпоинту Amazon Bedrock Runtime в исходном регионе, после чего AWS автоматически маршрутизирует запрос в поддерживаемый целевой регион для обработки. Такой подход позволяет использовать более широкий пул вычислительных ресурсов, что помогает приложениям поддерживать стабильный поток данных во время всплесков спроса. Разработчикам не требуется самостоятельно управлять логикой маршрутизации между регионами внутри своего кода.
Для канадских пользователей доступны два типа профилей инференса. Профиль с префиксом us. направляет запросы в регионы Канады и США, что обеспечивает соблюдение требований по обработке данных исключительно в Северной Америке. Глобальный профиль (global.) использует более широкий пул мощностей в коммерческих регионах AWS, где развернуты модели. Важно отметить, что глобальный профиль для моделей GPT-5.6 доступен только из региона ca-central-1, тогда как из ca-west-1 следует использовать географический профиль США.
С точки зрения разработки, эти модели поддерживают три основных пути доступа через эндпоинт bedrock-runtime: OpenAI Responses API, OpenAI Chat Completions API и Amazon Bedrock Converse API. Это позволяет разработчикам использовать привычные SDK и библиотеки, такие как openai для Python, просто указав региональный эндпоинт Bedrock в качестве базового URL. AWS рекомендует использовать генератор токенов для создания краткосрочных API-ключей, что повышает безопасность по сравнению с хранением статических ключей.
Вопросы безопасности и соответствия стандартам также учтены в архитектуре решения. Данные при передаче шифруются с помощью TLS 1.2+ и проходят через частную инфраструктуру AWS, а не по публичному интернету. По умолчанию данные в состоянии покоя остаются в исходном канадском регионе. Однако AWS указывает на специфическое ограничение для моделей OpenAI: контент, помеченный автоматизированными классификаторами злоупотреблений, может храниться в целевом регионе до 30 дней для проверки. Компаниям рекомендуется согласовать эту политику со своими командами комплаенса.
Для управления ресурсами AWS предоставляет инструменты мониторинга и квотирования. Квоты измеряются в токенах в минуту (TPM) и разделяются на отдельные пулы для профилей США и глобальных. Разработчики могут запросить увеличение квот через консоль Service Quotas. Наблюдаемость обеспечивается записью логов в AWS CloudTrail и метриками в Amazon CloudWatch, которые фиксируются в исходном регионе независимо от того, где именно выполнялась вычислительная часть запроса.