EAS提供多種接入方式與兩種通訊協定,您可以根據網路環境和效能需求靈活組合。
情境導航
服務部署後預設提供共用網關調用(HTTP 協議),無需額外配置。請根據您的實際情境,快速跳轉相關內容:
-
快速開始調用:服務已部署,希望通過預設提供的共用網關調用。參見通過網關調用。
-
需要其他接入方式:共用網關無法滿足需求,希望瞭解專屬網關、VPC 高速直連、NLB、Nacos 等其他接入方式的差異和配置方法。參見下文接入方式選擇。
-
使用 gRPC 協議:服務已部署,使用 gRPC 二進位協議降低網路開銷、提升推理效能。參見gRPC 調用 PAI-EAS 推理服務。
調用流程
EAS 服務調用的整體資料流向如下:
-
用戶端發起請求:您的應用程式向 EAS 服務入口(網關或直連地址)發送推理請求。
-
入口路由:請求經過您選擇的調用方式(共用網關、專屬網關、VPC 高速直連、NLB 或 Nacos)路由到後端服務執行個體。網關方式由網關層處理負載平衡和路由轉寄;直連方式由用戶端自行選擇目標執行個體。
-
服務執行個體處理:請求到達 EAS 服務執行個體後,由模型服務進程執行推理計算,將結果序列化為指定格式(JSON、ProtoBuf 等)返回。
-
用戶端接收響應:用戶端收到推理結果後,根據請求類型解析響應資料,繼續後續商務邏輯。
接入方式選擇
根據您的使用情境選擇合適的接入方式。
|
情境 |
推薦接入方式 |
網路路徑 |
配置成本 |
|
快速驗證、小Cellular Data Package |
公網 / VPC 經共用網關 |
免費提供,配置簡單 |
|
|
高安全、高穩定、大流量 |
公網 / VPC 經專屬網關 |
需先建立並配置網關,額外付費 |
|
|
低延遲、高並發情境,且調用方與EAS服務同 VPC |
同 VPC 直連執行個體,繞過網關 |
需配置 VPC |
|
|
大流量 + 負載平衡 |
經 NLB 轉寄(NLB 與 EAS服務同 VPC) |
需建立或關聯 NLB |
|
|
已有 Nacos 服務治理體系 |
經 Nacos 註冊發現(Nacos 與 EAS服務同VPC) |
需自備 Nacos 執行個體 |
EAS 服務配置專用網路、交換器和安全性群組後:
-
不受安全性群組規則限制:通過共用網關、專屬網關訪問 EAS 時,安全性群組規則不生效(專屬網關可通過白名單設定訪問規則)。
-
受安全性群組規則限制:通過 NLB、Nacos 或 VPC 高速直連訪問 EAS,以及所有 EAS 出流量,均受安全性群組規則限制。
通訊協定支援
EAS 支援兩種通訊協定,具體可用協議取決於您部署的服務類型:
-
HTTP/JSON(預設):部署後自動啟用,適用於大多數情境。
-
gRPC:高效能二進位協議,適用於效能敏感或流式推理情境。部署時需手動啟用。
常見問題
跨地區訪問與費用說明
Q:如何跨地區內網訪問(通過網關的VPC地址)?
當EAS服務與調用方處於跨地區VPC時,根據網關情況如下處理:
-
應用型專屬網關(ALB):通過CEN、VPC對等串連或其他方式打通跨VPC網路即可,參見VPC互連。
-
全託管專屬網關:除實現跨VPC網路互聯外,還需在專屬網關側關聯調用方的VPC。詳情參見跨VPC訪問全託管專屬網關。
Q:跨地區VPC內網訪問需要支付流量費用嗎?與公網訪問相比有哪些優勢?
需要。跨地區內網訪問仍會產生流量費用(具體取決於使用的互連方式)。與公網訪問相比,VPC內網訪問具有以下優勢:
-
更安全:服務不暴露在公網上,降低安全風險。
-
速度更快:內網鏈路品質穩定,延遲更低。
-
流量成本更低:內網流量費用通常低於公網流量費用。
生產環境推薦優先使用VPC內網地址進行跨地區訪問。
EAS容器內應用調用其他EAS服務
若應用部署在EAS容器中,需要調用其他EAS服務,請注意以下事項:
-
認證要求:無論使用公網地址還是VPC內網地址,要求標頭中均需攜帶正確的Authorization Token。
-
失敗的常見原因:EAS服務預設無法訪問公網,通過公網地址調用其他EAS服務會失敗。請參見EAS訪問公網或內網資源配置網路。出現401、502等錯誤碼參見附錄:服務狀態代碼與常見報錯進行排查。
-
推薦做法:優先使用VPC內網地址進行EAS服務間調用,確保網路連通性和安全性。