AWS открыла GPT-6 Sol и Luna в Bedrock для пяти азиатских регионов — Astra пока только из Сингапура

Что стало доступно и откуда

Публикация разбирает три модели семейства GPT-6. GPT-6 Sol, по описанию AWS, приносит сильные способности к рассуждению и программированию в сложные задачи в течение недели; GPT-6 Luna делает сфокусированные повторяемые задачи практичными при больших объёмах; GPT-6 Astra берёт на себя сложные рассуждения, программирование и работу с длинными документами. Все три принимают текст и изображения на вход, поддерживают клиентские вызовы инструментов и кэширование подсказок, а различаются уровнем усилия рассуждения: Sol и Luna принимают none, low, medium, high, xhigh и max, Astra — те же уровни, кроме none.

Исходные регионы, из которых работает глобальный профиль, — Сингапур (ap-southeast-1), Джакарта (ap-southeast-3), Малайзия (ap-southeast-5), Таиланд (ap-southeast-7) и Тайбэй (ap-east-2). Профиль global.openai.gpt-6-astra работает только из Сингапура. Активным должен быть лишь тот регион, откуда идёт вызов: Сингапур включён по умолчанию, а Джакарта, Малайзия, Таиланд и Тайбэй — это регионы с включением по запросу, которые нужно активировать заранее.

Как это вызывается

Глобальный профиль подставляется вместо идентификатора модели в параметр model, а Amazon Bedrock сам выбирает регион обработки. Поддерживаются три пути доступа на одном эндпоинте: Amazon Bedrock Converse API, OpenAI Responses API и OpenAI Chat Completions API; OpenAI-совместимые интерфейсы вызываются по путям /openai/v1, а не через SDK AWS, и принимают либо подпись Signature Version 4, либо ключ Amazon Bedrock API. Для примеров с совместимым интерфейсом нужны OpenAI SDK и генератор токенов Amazon Bedrock, которые ставятся командой pip install boto3 openai aws-bedrock-token-generator.

Права описываются политикой IAM, разрешающей ровно то, что нужно примерам, плюс, при необходимости, исключением в политике service control policy. AWS предлагает готовый шаблон SCP, который сохраняет региональный allowlist для всех сервисов, кроме инференса Bedrock, и пропускает вызовы Bedrock только при маршрутизации через глобальные профили вида inference-profile/global.*; для географических профилей в список исключений нужно добавить их префикс, например inference-profile/us.*.

Квоты: выходной токен съедает десять

Квоты GPT-6 на bedrock-runtime считаются в токенах в минуту и привязаны к исходному региону вызова. Входные токены и токены записи в кэш расходуют квоту один к одному, а каждый выходной токен — как десять токенов квоты, поэтому запрос на 2 000 входных токенов и 1 000 выходных исчерпает 12 000 токенов квоты. Amazon Bedrock резервирует значение max_tokens целиком, так что его стоит выставлять близко к ожидаемому объёму ответа. Одна квота покрывает InvokeModel, Converse, Responses и Chat Completions. AWS советует заранее запрашивать повышение квот и ставить сигнализацию на метрику EstimatedTPMQuotaUsage в пространстве AWS/Bedrock на уровне 70–80% выделенного объёма.

Журналы, хранение данных и региональные ограничения

Операционная поверхность остаётся в исходном регионе: метрики CloudWatch, события CloudTrail, журналы вызовов моделей, учёт квот и биллинг не покидают регион вызова, и платит клиент по его тарифам, а не по тарифам региона обработки. CloudTrail фиксирует, где именно обработан каждый запрос, — в поле additionalEventData.inferenceRegion; при этом AWS описывает пункты назначения глобального профиля как «коммерческие регионы» без перечисления, а метод GetInferenceProfile возвращает ARN уровня модели и исходного региона, но не список регионов обработки.

Для автоматического офлайн-обнаружения злоупотреблений трафик, помеченный классификатором, хранится у AWS до 30 дней и обрабатывается программно; при cross-Region inference это хранение происходит в регионе обработки, то есть для глобального профиля — в любом поддерживаемом коммерческом регионе, где развёрнута модель. Подходящие под критерии клиенты могут запросить полное отсутствие хранения данных через свою команду AWS; организациям с требованиями к резидентности данных AWS советует приносить это к командам по рискам и комплаенсу заранее.

Что это меняет

Практический смысл публикации в том, что встроенная OpenAI-интеграция переносится на этот эндпоинт сменой базового URL и ключа, а не переписыванием кода, поскольку тот же эндпоинт обслуживает OpenAI-совместимые API. Авторы отдельно предупреждают, что доступность профилей и поддержка регионов меняются по мере добавления AWS новых регионов, поэтому и то, и другое следует подтверждать на карточке модели перед сборкой, а тарифы смотреть на странице цен Amazon Bedrock. Всё это делает региональный слой Bedrock предсказуемее для команд в Юго-Восточной Азии и на Тайване, но не снимает вопроса о том, где физически обрабатывается запрос: ответ на него в глобальном профиле остаётся широким — «любой коммерческий регион, где развёрнута модель».