在使用百鍊模型服務時,您需要選擇兩個關鍵配置項:
地區:決定模型服務的接入位置和使用者待用資料的儲存位置。
部署模式:決定推理計算可以在哪些地區執行。
這兩個配置相互獨立,但必須按預定義組合使用。它們共同影響服務的延時、成本、可用模型及預設限流。無論選擇哪種部署模式,您的待用資料(包括輸入、輸出)始終儲存在所選地區內。
提示:地區控制“資料存放區在哪”,部署模式控制“推理計算在哪”。兩者結合,協助您平衡效能、成本與合規需求。
如何選擇地區
模型服務的地區是指您接入百鍊模型服務的物理節點位置。選擇地區時,請考量以下維度:
訪問延遲:物理距離直接影響響應速度。建議選擇靠近您或您的終端使用者的地區,以最小化網路延遲。
合規准入:業務部署須符合當地法律法規,請根據您的合規訴求選擇合適您的待用資料儲存位置。
當前支援的地區:新加坡、美國(維吉尼亞)、華北2(北京)、中國香港、德國(法蘭克福)
所有使用者待用資料均儲存在所選地區,符合本機資料駐留要求。
部署模式對比
部署模式決定了模型推理的計算地區,地區和部署模式二者為預設綁定關係,不支援自由組合。
為了降低網路延遲、提升模型響應速度,建議根據您主要使用者或業務應用的地理位置選擇就近地區對應的部署模式:
部署模式 | 綁定地區(資料存放區) | 模型推理計算範圍 |
全球 | 美國(維吉尼亞)或德國(法蘭克福) | 全球動態調度 |
国际 | 新加坡 | 全球動態調度(不含中國內地) |
美国 | 美國(維吉尼亞) | 僅限美國境內 |
中国内地 | 華北2(北京) | 僅限中國內地 |
中国香港 | 中國香港 | 僅限中國香港 |
欧盟 | 德國(法蘭克福) | 僅限歐盟境內 |
全球模式:適用於使用者遍布全球且追求模型高可用性的業務。該模式利用全球分布的計算資源,模型可用性有保障。
國際模式:適用於服務海外使用者(如亞太地區,美國等),但由於業務策略或合規需求,需明確排除使用中國內地大陸境內計算資源的情境。
中國內地模式:適用於主要服務中國境內使用者,且必須嚴格滿足中國等境內監管要求的情境。
美國模式 :適用於業務主體在美國,或受美國法規限制,需確保所有資料處理與推理行為均嚴格限於美國境內的情境。
中國香港模式:適用於主要服務中國香港地區使用者,資料存放區和推理嚴格限制在中國香港境內的情境。
歐盟模式:適用於服務歐盟使用者,或受歐盟法規限制,需確保所有資料處理與推理行為均嚴格限於歐盟境內的情境。
在全球部署模式和国际部署模式下,由於涉及跨境計算,您需自行確保使用者業務資料跨境處理的合法性。跨區推理請求由所選地區的前端存取點接收。模型調用過程中產生的待用資料(如提示詞輸入、模型輸出等)僅在推理過程中進行瞬時處理,不會在計算節點所在地區進行持久化儲存;資料在傳輸過程中全程加密。
如何使用
使用国际部署模式的模型
使用前,請先配置請求地址、API Key和模型名稱:
使用美国部署模式的模型
使用前,請先配置請求地址、API Key和模型名稱:
請求地址(Base URL):美國部署模式綁定美國(維吉尼亞)地區,請使用
dashscope-us.aliyuncs.com網域名稱。以下為部分請求地址樣本,其他 API 請參考對應文檔:OpenAI Chat Completions API :
https://dashscope-us.aliyuncs.com/compatible-mode/v1DashScope:
https://dashscope-us.aliyuncs.com/api/v1
API Key:請前往密鑰管理(維吉尼亞)頁面擷取。
模型名稱:請參考模型列表,選擇美國部署模式的模型(帶
-us尾碼)。
使用全球部署模式的模型
全球部署模式支援多個地區,請根據您的業務需求選擇合適的地區。
美國(維吉尼亞)地區
使用前,請先配置請求地址、API Key和模型名稱:
請求地址(Base URL):美國(維吉尼亞)地區請使用
dashscope-us.aliyuncs.com網域名稱。以下為部分請求地址樣本,其他 API 請參考對應文檔:OpenAI Chat Completions API :
https://dashscope-us.aliyuncs.com/compatible-mode/v1DashScope:
https://dashscope-us.aliyuncs.com/api/v1
API Key:請前往密鑰管理(維吉尼亞)頁面擷取。
模型名稱:請參考模型列表,選擇全球部署模式的模型。
德國(法蘭克福)地區
使用前,請訪問阿里雲控制台,切換至德國(法蘭克福)地區,點擊頁面右上方的
表徵圖,在彈出的對話方塊中複製業務空間ID,然後配置請求地址、API Key和模型名稱。
請求地址(Base URL):德國(法蘭克福)地區請使用
{WorkspaceId}.eu-central-1.maas.aliyuncs.com網域名稱,調用時請將{WorkspaceId}替換為真實的業務空間ID,以下為部分請求地址樣本,其他 API 請參考對應文檔:OpenAI Chat Completions API :
https://{WorkspaceId}.eu-central-1.maas.aliyuncs.com/compatible-mode/v1DashScope:
https://{WorkspaceId}.eu-central-1.maas.aliyuncs.com/api/v1
API Key:請前往密鑰管理(法蘭克福)頁面擷取。
模型名稱:請參考模型列表,選擇全球部署模式的模型。
使用中国内地部署模式的模型
使用前,請先配置請求地址、API Key和模型名稱:
使用中国香港部署模式的模型
使用前,請先配置請求地址、API Key和模型名稱:
請求地址(Base URL):中國香港部署模式綁定香港地區,請使用
cn-hongkong.dashscope.aliyuncs.com網域名稱。以下為部分請求地址樣本,其他 API 請參考對應文檔:OpenAI Chat Completions API :
https://cn-hongkong.dashscope.aliyuncs.com/compatible-mode/v1DashScope:
https://cn-hongkong.dashscope.aliyuncs.com/api/v1
API Key:請前往密鑰管理(中國香港)頁面擷取。
模型名稱:請參考模型列表,選擇中國內地部署模式的模型。
使用欧盟部署模式的模型
使用前,請訪問阿里雲控制台,切換至德國(法蘭克福)地區,點擊頁面右上方的
表徵圖,在彈出的對話方塊中複製業務空間ID,然後配置請求地址、API Key和模型名稱。
請求地址(Base URL):歐盟部署模式綁定德國(法蘭克福)地區,請使用
{WorkspaceId}.eu-central-1.maas.aliyuncs.com網域名稱,調用時請將{WorkspaceId}替換為真實的業務空間ID。以下為部分請求地址樣本,其他 API 請參考對應文檔:OpenAI Chat Completions API :
https://{WorkspaceId}.eu-central-1.maas.aliyuncs.com/compatible-mode/v1DashScope:
https://{WorkspaceId}.eu-central-1.maas.aliyuncs.com/api/v1
API Key:請前往密鑰管理(法蘭克福)頁面擷取。
模型名稱:請參考模型列表,選擇中國內地部署模式的模型。
非同步任務
對於非同步任務(如映像產生、視頻產生),所有後續操作必須使用建立任務時所用的服務網域名稱和 API Key,否則會導致報錯。
以下是在全球部署模式(美國地區)下建立映像產生任務並查詢結果的樣本。如使用德國地區,請將服務網域名稱替換為{WorkspaceId}.eu-central-1.maas.aliyuncs.com:
# 建立任務(全球部署模式-美國地區,服務網域名稱dashscope-us.aliyuncs.com)
curl --location 'https://dashscope-us.aliyuncs.com/api/v1/services/aigc/image-generation/generation' \
--header 'Content-Type: application/json' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'X-DashScope-Async: enable' \
--data '{
"model": "wan2.6-t2i",
"input": {
"messages": [
{
"role": "user",
"content": [
{
"text": "一間有著精緻窗戶的花店,漂亮的木質門,擺放著花朵"
}
]
}
]
},
"parameters": {
"n": 1
}
}'
# 響應樣本:{"output":{"task_id":"abc123..."},"request_id":"..."}
# 查詢任務(必須使用相同服務網域名稱)
curl -X GET https://dashscope-us.aliyuncs.com/api/v1/tasks/{task_id} \
--header "Authorization: Bearer $DASHSCOPE_API_KEY"
# [錯誤] 使用其他服務網域名稱查詢將導致報錯
curl -X GET https://dashscope.aliyuncs.com/api/v1/tasks/{task_id} \
--header "Authorization: Bearer $DASHSCOPE_API_KEY"各地區支援的功能
百鍊在各地區提供的平台能力略有差異,但均適用於該地區下所有可用的部署模式:
板塊 | 功能 | 新加坡 | 美國(維吉尼亞) | 華北2(北京) | 中國香港 | 德國(法蘭克福) |
使用 | 即時推理 | |||||
批量推理 | ||||||
模型體驗 | ||||||
管理 | 模型監控(普通) | |||||
模型監控(進階) | ||||||
模型警示 | ||||||
傳輸安全 | ||||||
許可權管理 | ||||||
最佳化 | 模型調優 |