EAS提供多種接入方式與兩種通訊協定,您可以根據網路環境和效能需求靈活組合。
情境導航
服務部署後預設提供共用網關調用(HTTP 協議),無需額外配置。請根據您的實際情境,快速跳轉相關內容:
快速開始調用:服務已部署,希望通過預設提供的共用網關調用。參見通過網關調用。
需要其他接入方式:共用網關無法滿足需求,希望瞭解專屬網關、VPC 高速直連、NLB、Nacos 等其他接入方式的差異和配置方法。參見下文接入方式選擇。
使用 gRPC 協議:服務已部署,使用 gRPC 二進位協議降低網路開銷、提升推理效能。參見gRPC 調用 PAI-EAS 推理服務。
調用流程
EAS 服務調用的整體資料流向如下:
用戶端發起請求:您的應用程式向 EAS 服務入口(網關或直連地址)發送推理請求。
入口路由:請求經過您選擇的調用方式(共用網關、專屬網關、VPC 高速直連、NLB 或 Nacos)路由到後端服務執行個體。網關方式由網關層處理負載平衡和路由轉寄;直連方式由用戶端自行選擇目標執行個體。
服務執行個體處理:請求到達 EAS 服務執行個體後,由模型服務進程執行推理計算,將結果序列化為指定格式(JSON、ProtoBuf 等)返回。
用戶端接收響應:用戶端收到推理結果後,根據請求類型解析響應資料,繼續後續商務邏輯。
接入方式選擇
接入方式由您的網路環境決定。
接入方式 | 網路路徑 | 配置成本 | 適用情境 |
公網 / VPC 經共用網關 | 零配置 | 快速驗證、小Cellular Data Package | |
公網 / VPC 經專屬網關(支援跨 VPC / 跨雲) | 需先建立,額外付費 | 高安全、高穩定、大流量 | |
同 VPC 直連執行個體,繞過網關 | 需配置 VPC | 低延遲、高並發情境 | |
同 VPC 經 NLB 轉寄 | 需建立或關聯 NLB | 大流量 + 負載平衡 | |
同 VPC 經 Nacos 註冊發現 | 需自備 Nacos 執行個體 | 已有 Nacos 服務治理體系 |
EAS 服務配置專用網路、交換器和安全性群組後:
不受安全性群組規則限制:通過共用網關、專屬網關訪問 EAS 時,安全性群組規則不生效(專屬網關可通過白名單設定訪問規則)。
受安全性群組規則限制:通過 NLB、Nacos 或 VPC 高速直連訪問 EAS,以及所有 EAS 出流量,均受安全性群組規則限制。
通訊協定支援
EAS 支援兩種通訊協定,具體可用協議取決於您部署的服務類型:
HTTP/JSON(預設):部署後自動啟用,適用於大多數情境。
gRPC:高效能二進位協議,適用於效能敏感或流式推理情境。部署時需手動啟用。