共用網關因頻寬共用且存取原則固定,難以滿足高並發業務對隔離性和彈性的高要求。為此,EAS提供了全託管專屬網關,它提供靈活的公網或內網存取控制、支援自訂網域名,並獨享頻寬,保障服務的穩定與可靠。
核心特性
-
存取控制:通過白名單控制公網和內網訪問。
-
自訂網域名訪問:支援配置自訂網域名和認證提供對外服務。
-
跨帳號VPC訪問:支援跨帳號的同地區VPC內伺服器通過內網地址訪問EAS服務。
-
權威網域名稱解析:支援網關網域名稱權威解析,跨雲、線下IDC機房調用EAS服務時使用,需與阿里雲網路打通。
計費說明
-
網關費用:支援隨用隨付和訂用帳戶兩種計費方式,詳情請參見模型線上服務(EAS)計費說明。
-
附加費用:
-
內網訪問:會產生額外的私網串連(PrivateLink)費用,包括執行個體費和流量處理費,詳情請參見私網串連(PrivateLink)計費說明。
-
公網訪問:服務過程中產生的公網流量費通過CDT雲資料轉送計費收取,詳見CDT控制台。
-
1. 建立全託管專屬網關
-
登入PAI控制台,在頁面上方選擇目標地區,並在右側選擇目標工作空間,然後單擊進入EAS。
-
在推理网关頁簽,單擊新建专属网关,選擇全托管专属网关。
-
在EAS專屬網關付費頁面,配置參數。請參考附錄:專屬網關容量說明選擇網關規格,以保證服務的穩定性。
-
參數配置完成後,單擊立即購買。按照介面操作指引確認訂單並完成支付。
您可以在推理網關列表中查看已購買的全託管專屬網關,當状态為运行中時,即可使用該全託管專屬網關。
-
全託管專屬網關建立之後支援更新網關規格和網關節點數,更改後大約需3~5分鐘生效。
-
可以將某個專屬網關設定為預設閘道。後續在部署服務時,系統將自動選擇它。
2. 服務綁定專屬網關
以通過控制台自訂部署一個新服務為例,操作如下。對於已部署的服務,可通過服務更新操作來修改其綁定的網關。
-
登入PAI控制台,在頁面上方選擇目標地區,並在右側選擇目標工作空間,然後單擊進入EAS。
-
在推理服务頁簽,單擊部署服务,然後在自定义模型部署地區,單擊自定义部署。
-
在网络信息地區,選擇专属网关,並下拉選擇已建立的專屬網關。
3. 開通網路訪問
3.1 配置公網訪問
-
在推理网关頁簽,單擊目標全託管專屬網關名稱進入詳情頁面。
-
在网关访问控制地區的公网頁簽,開啟访问入口開關。當狀態為已开通時,表明已為全託管專屬網關開啟公網訪問通道。
-
預設公網均不可訪問全託管專屬網關,單擊添加白名单,填入允許訪問的公網IP位址區段(例如192.0.2.0/24)。
-
每個條目之間使用半形逗號(,)或分行符號分隔。
-
如需設定公網均可訪問,則添加0.0.0.0/0位址區段。最多支援添加15個位址區段。
-
-
驗證全託管專屬網關公網訪問連通性。
-
在公网頁簽,查詢域名地址。在網關存取控制頁面,單擊公網頁簽,查看網域名稱地址(格式如
gw-c***s.aliyuncs.com),確認訪問入口狀態為已開通。 -
在白名單位址區段那的裝置上訪問該網域名稱地址,輸出如下結果,表明連通性正常。
C:\Users\xxx>ping gw-cxxx.cn-beijing.pai-eas.aliyuncs.com 正在 Ping nlb-w0ncxxx.cn-beijing.nlb.aliyuncs.com [xxx] 具有 32 位元組的資料: 來自 xxx 的回複: 位元組=32 時間=24ms TTL=89 來自 xxx 的回複: 位元組=32 時間=29ms TTL=89 來自 xxx 的回複: 位元組=32 時間=24ms TTL=89 來自 xxx 的回複: 位元組=32 時間=24ms TTL=89 xxx 的 Ping 統計資訊: 資料包: 已發送 = 4,已接收 = 4,丟失 = 0 (0% 丟失), 往返行程的估計時間(以毫秒為單位): 最短 = 24ms,最長 = 29ms,平均 = 25ms
-
-
如需關閉公網訪問,在公网頁簽,關閉访问入口開關。
在本地終端中,訪問該網域名稱地址,輸出如下結果,表明該網關的公網訪問通道關閉。
C:\Users\xxx> ping gw-ccqv77ddlxxx-xxx.cn-beijing.pai-eas.aliyuncs.com 正在 Ping gw-ccq xxx cn-beijing.pai-eas.aliyuncs.com [47.xxx.xxx.xxx] 具有 32 位元組的資料: 來自 xxx 的回複: 位元組=32 時間=26ms TTL=89 來自 xxx 的回複: 位元組=32 時間=26ms TTL=89 來自 xxx 的回複: 位元組=32 時間=27ms TTL=89 來自 xxx 的回複: 位元組=32 時間=26ms TTL=89 47.xxx.xxx.xxx 的 Ping 統計資訊: 資料包: 已發送 = 4, 已接收 = 4, 丟失 = 0 (0% 丟失), 往返行程的估計時間(以毫秒為單位): 最短 = 26ms, 最長 = 27ms, 平均 = 26ms(base) niki@xxx ~ % telnet gw-ccqxxx.cn-beijing.pai-eas.aliyuncs.com 80 Trying 47.xx.xx.xxx... telnet: connect to address 47.xx.xx.xxx: Bad file descriptor telnet: Unable to connect to remote host
3.2 配置內網訪問
-
在推理网关頁簽,單擊目標全託管專屬網關名稱進入詳情頁面。
-
在网关访问控制地區的专有网络頁簽,單擊添加专有网络,選擇需要連通的VPC及交換器。
-
支援跨帳號添加同地區VPC。添加帳號B的VPC後(帳號B需開通PAI-EAS、Privatelink、PrivateZone),該VPC內伺服器能通過VPC地址訪問使用該專屬網關的EAS服務。
說明此為白名單功能,如有需要請提工單。
在添加專用網路對話方塊中,填寫所屬UID(跨帳號情境填寫目標帳號的 UID)、VPC (ID)和交換器 ID。交換器需位於網關支援的可用性區域內(例如 cn-hangzhou-j、cn-hangzhou-k、cn-hangzhou-i)。可根據需要開啟權威網域名稱解析開關,完成後單擊確定。
-
支援網關網域名稱權威解析。跨雲、線下IDC機房調用EAS服務時使用,需提前和阿里雲網路打通。目前只能在一個專用網路的配置中使用權威網域名稱解析。
-
-
添加VPC時,系統預設配置0.0.0.0/0的白名單,表示允許該VPC內所有IP訪問。您可根據需要修改白名单。
-
驗證專屬網關的內網訪問連通性。
-
在专有网络頁簽,查詢域名地址。在存取控制頁面,選擇專用網路頁簽,擷取網域名稱地址欄中的網關網域名稱(格式如
gw-xxx.eas.aliyuncs.com)。 -
在專用網路內的終端機器上,訪問該網域名稱地址,輸出如下結果,表明連通性正常。
說明在專用網路內,所有可用性區域都可以通過配置白名單訪問專屬網關,不局限於添加到專屬網關的交換器可用性區域。
[root@iZ2xxx ~]# ping gw-567lydxxx-vpc.cn-beijing.pai-eas.aliyuncs.com PING ep-2zeixxx.epsrv-2zemwo87lxxx.cn-beijing.privatelink.aliyuncs.com (192.xxx.xxx.xxx) 56(84) bytes of data. 64 bytes from 192.xxx.xxx.11: icmp_seq=1 ttl=102 time=1.11 ms 64 bytes from 192.xxx.xxx.11: icmp_seq=2 ttl=102 time=1.05 ms 64 bytes from 192.xxx.xxx.11: icmp_seq=3 ttl=102 time=0.572 ms 64 bytes from 192.xxx.xxx.11: icmp_seq=4 ttl=102 time=0.515 ms 64 bytes from 192.xxx.xxx.11: icmp_seq=5 ttl=102 time=0.519 ms 64 bytes from 192.xxx.xxx.11: icmp_seq=6 ttl=102 time=0.514 ms 64 bytes from 192.xxx.xxx.11: icmp_seq=7 ttl=102 time=0.508 ms ^C --- ep-2zeixxx.epsrv-2zemwo87lxxx.cn-beijing.privatelink.aliyuncs.com ping statistics --- 7 packets transmitted, 7 received, 0% packet loss, time 6111ms rtt min/avg/max/mdev = 0.508/0.682/1.107/0.252 ms
-
-
如需關閉專用網路訪問,在專用網路列表中,單擊交换机操作列下的删除。
在專用網路內的終端機器上,訪問該網域名稱地址,輸出如下結果,表明專屬網關的內網訪問通道已關閉。
[root@iZ2zef8xxx ~]# ping gw-xxx-vpc.cn-beijing.pai-eas.aliyuncs.com PING ep-2zei6xxxlcb.epsrv-2zeute2zixxx.cn-beijing.privatelink.aliyuncs.com (1xxx) 56(84) bytes of data.[root@iZ2zcr0StvqwCommduccSU ~]# telnet gw-ccqvxxx-vpc.cn-beijing.pai-eas.aliyuncs.com 80 Trying 1xxx...
4. 測試服務調用
-
在推理服务頁簽,找到目標服務,在服务方式列單擊调用信息。
-
在专属网关頁簽,擷取公网调用地址、VPC调用地址和Token。
-
使用curl命令發起請求,驗證返回資料是否正常。
-
公網調用:在任何可訪問公網的機器上執行。
-
內網調用:在專用網路內的終端機器上執行。
curl <介面URL> -H'Authorization:<token>'測試介面為GET請求,無參,期望返回True。
-
5. 配置自訂網域名
1.(可選)準備SSL認證
如果使用HTTPS協議訪問服務,需先在數位憑證管理服務中維護自訂網域名的SSL認證。
-
登入數位憑證管理服務控制台,選擇SSL證書管理。
2. 配置定義網域名稱
配置公網自訂網域名
-
在專屬網關詳情頁面,切換到域名頁簽,單擊创建域名,按照以下說明進行配置。
在彈出的 建立網域名稱 面板中,訪問方式 選擇 公網 或 專用網路,在 網域名稱 輸入框中填寫自訂網域名,然後在 認證 下拉式清單中選擇已在數位憑證管理服務中維護的 SSL 憑證。若無可用認證,可單擊 購買/上傳認證 前往認證管理頁面建立。
說明-
如果服務已經使用該專屬網關部署,公網自訂網域名設定成功之後,需等待一會兒(5分鐘以內)才生效。
-
請查看服務調用資訊,確認公網調用地址的網域名稱已顯示為網關中配置的公網自訂網域名。
-
-
配置公網網域名稱解析。
-
在專屬網關的网关详情頁簽,查看專屬網關的公網網域名稱地址。
在網關存取控制頁面,單擊公網頁簽,查看網域名稱地址(格式如
gw-c***s.aliyuncs.com),確認訪問入口狀態為已開通。 -
為公網自訂網域名添加CNAME解析記錄,將其指向專屬網關公網網域名稱。
阿里雲公網權威網域名稱解析請參見網域名稱管理和添加解析記錄。
-
配置內網自訂網域名
-
在專屬網關詳情頁面,切換到域名頁簽,單擊创建域名。參考如下配置。
配置訪問方式為專用網路,在網域名稱輸入框中填寫自訂網域名(例如
www.test.com),按需在認證下拉框中選擇已在數位憑證管理服務中維護的SSL認證,然後單擊確定。 -
如果服務已經使用該專屬網關部署,在內網自訂網域名設定成功之後,需要等待一會兒(5分鐘以內),查看服務調用資訊,如果調用資訊中VPC調用地址中的網域名稱已經為網關中配置的私網網域名稱,則網域名稱已經生
監控與警示
為保障全託管網關的服務穩定性並及時發現運行異常,建議開啟日誌、監控與警示。
操作步驟
-
開啟日誌、監控與警示。在網關詳情頁的日志、监控和告警頁簽,按照頁面指引進行開啟。
-
建立警示策略:成功開啟警示功能後,頁面將顯示建立EAS專屬網關警示策略按鈕,單擊該按鈕。 參見管理警示規則,為該網關建立警示規則。
重要警示內容中用於標識網關的變數
{{$labels.envoy_clusterid}}顯示的是內部ID,不包含您自訂的網關名稱,這使得在收到警示時難以快速定位到具體網關。為方便識別,強烈建議您在建立警示規則時,手動修改通知模板,將該變數替換或補充為易於辨識的網關名稱。在警示內容中填寫警示模板,例如:PAI-EAS專屬網關 {{$labels.envoy_clusterid}} 的節點({{$labels.pod_name}}) CPU使用率超過 {{ $labels.metrics_params_value }},當前值 {{ printf "%.2f" $value }}%。其中{{$labels.envoy_clusterid}}表示專屬網關叢集ID。
警示指標詳解
|
指標名稱 |
精確定義與計算公式 |
推薦閾值與情境建議 |
|
EAS專屬網關CPU使用率 |
網關執行個體(Pod)的CPU使用率百分比。 |
建議: |
|
EAS專屬網關記憶體使用量率 |
網關執行個體(Pod)的記憶體使用量率百分比。 |
建議: |
|
EAS專屬網關整體正確率 |
|
建議: |
|
EAS專屬網關認證到期 |
監控網關上配置的HTTPS認證的剩餘有效天數。 |
建議: |
|
EAS專屬網關請求4xx/5xx佔比 |
|
5xx建議: |
|
EAS專屬網關請求平均RT |
單位為毫秒(ms),統計周期內所有請求回應時間的平均值。 |
建議: 根據業務基準設定,如 |
|
EAS專屬網關請求量同比昨日 |
目前時間點N分鐘內的請求量與昨日同一時間點N分鐘內的請求量對比的百分比變化。 |
建議: |
|
EAS專屬網關請求限流 |
統計周期內被網關限流策略拒絕的請求總數。 |
建議: |
注意事項
當服務使用專屬網關時,Auto Scaling不支援從0進行擴容,即最小副本數需設定為大於0。
常見問題
Q:添加專用網路報錯Vswitch vsw-2zeqwh8hv0gb96zcd**** in zone cn-beijing-g is not supported, supported zones: [cn-beijing-i cn-beijing-l cn-beijing-k]
選擇的交換器所屬可用性區域不符合要求。請重新選擇一個支援的可用性區域內的交換器。