大模型服务平台百炼：如何选择地域和部署模式

使用阿里云百炼的模型服务时，需正确选择地域和部署模式，二者将影响模型服务的响应速度、成本、可用模型及默认限流。

• 地域：决定您的模型服务接入点（Endpoint/Base URL），以及模型调用过程中产生的静态数据（如提示词输入、模型输出等）的存储位置。

• 部署模式：决定模型推理计算的执行区域。

目前，地域与部署模式为系统预设绑定关系，不支持自由组合。

地域选择

选择时请考虑：

• 就近：选择主要（或大多数）调用端近邻地域，通常可降低网络延迟，从而提升模型的响应速度。

• 可用平台功能：阿里云百炼为不同地域提供的平台功能有差异，详见下表。

  板块	功能	新加坡	美国（弗吉尼亚）	华北2（北京）
  使用	实时推理	支持	支持	支持
  	批量推理	支持	不支持	支持
  	模型体验	支持	支持	支持
  管理	模型监控	支持	支持	支持
  	模型告警	支持	不支持	支持
  	传输安全	支持	支持	支持
  	权限管理	支持	支持	支持
  优化	模型调优	支持	支持	支持

部署模式选择

不同部署模式支持的模型、模型调用计费、限流有差异。选型建议：

• 全球：希望使用全球算力资源池，从而提升模型的可用性及默认限流。

• 国际：需使用非中国内地计算资源。

• 美国：希望数据处理与推理行为均发生在美国境内。

• 中国内地：需使用中国内地计算资源并在中国内地处理数据。

如何在控制台切换地域与部署模式

进入阿里云百炼控制台，点击页面右上角的地域图标。

• 新加坡：模型为国际部署模式。

• 美国（弗吉尼亚）：您调用的模型将决定部署模式。

  • 不带 -us 后缀（如 qwen-flash）：模型为全球部署模式。

  • 带 -us 后缀（如 qwen-flash-us）：模型为美国部署模式。

• 华北2（北京）：模型为中国内地部署模式。

如何在 API 或 SDK 调用时选择地域与部署模式

在调用API或SDK时，通过指定模型服务接入点以选择地域，部署模式则由地域和模型名称共同决定。以下是 OpenAI 兼容模式的接入点信息，详情请参见通义千问API参考。

例如，使用美国模式的模型，需要配置美国（弗吉尼亚）地域的接入点，并调用带-us后缀（如 qwen-flash-us）的模型。同理，若要使用全球模式，也需配置美国（弗吉尼亚）地域的接入点，但需调用不带-us后缀的模型（如 qwen-flash）。

相关文档

• 数据处理与跨境传输条款

• 模型列表

• 模型调用计费

• 限流