Platform For AI:フルマネージド専用ゲートウェイ

3.1 パブリックアクセスの設定

1. Inference Gateway タブで、対象のフルマネージド専用ゲートウェイの名前をクリックして、詳細ページに移動します。

2. Gateway Access Control セクションの Internet タブで、Access Portal スイッチをオンにします。ステータスが Activated になると、ゲートウェイへのパブリックアクセスが有効になります。

3. デフォルトでは、ゲートウェイはすべてのパブリックアクセスをブロックします。Add to Whitelist をクリックし、許可するパブリック IP の CIDR ブロック (例：192.0.2.0/24) を入力します。

   • 複数のエントリは、カンマ (,) または改行で区切ります。

   • 0.0.0.0/0 を追加すると、すべてのパブリック IP が許可されます。最大 15 個の CIDR ブロックを設定できます。

4. ゲートウェイのパブリックネットワーク接続を確認します。

   1. Internet タブで、Endpoint を見つけます。[ゲートウェイアクセス制御] ページで、[パブリックネットワーク] タブをクリックし、[ドメイン名] (例：`gw-c***s.aliyuncs.com`) を表示し、[アクセスエントリ] のステータスが [有効] であることを確認します。

   2. 許可された IP 範囲内のデバイスからドメインに ping を実行します。正常な応答があれば、接続が確認できます。

      C:\Users\xxx>ping gw-cxxx.cn-beijing.pai-eas.aliyuncs.com
      
      Pinging nlb-w0ncxxx.cn-beijing.nlb.aliyuncs.com [xxx] with 32 bytes of data:
      Reply from xxx: bytes=32 time=24ms TTL=89
      Reply from xxx: bytes=32 time=29ms TTL=89
      Reply from xxx: bytes=32 time=24ms TTL=89
      Reply from xxx: bytes=32 time=24ms TTL=89
      
      Ping statistics for xxx:
          Packets: Sent = 4, Received = 4, Lost = 0 (0% loss),
      Approximate round trip times in milli-seconds:
          Minimum = 24ms, Maximum = 29ms, Average = 25ms

5. パブリックネットワークアクセスを無効にするには、Internet タブで Access Portal スイッチをオフにします。

   `ping` コマンドでは IP が解決される場合がありますが、サービスポートへの `telnet` 接続は失敗します。これにより、パブリックアクセスが無効化されたことを確認できます。

   C:\Users\xxx> ping gw-ccqv77ddlxxx-xxx.cn-beijing.pai-eas.aliyuncs.com
   
   Pinging gw-ccq xxx cn-beijing.pai-eas.aliyuncs.com [47.xxx.xxx.xxx] with 32 bytes of data:
   Reply from xxx: bytes=32 time=26ms TTL=89
   Reply from xxx: bytes=32 time=26ms TTL=89
   Reply from xxx: bytes=32 time=27ms TTL=89
   Reply from xxx: bytes=32 time=26ms TTL=89
   
   Ping statistics for 47.xxx.xxx.xxx:
       Packets: Sent = 4, Received = 4, Lost = 0 (0% loss),
   Approximate round trip times in milli-seconds:
       Minimum = 26ms, Maximum = 27ms, Average = 26ms

   (base) niki@xxx ~ % telnet gw-ccqxxx.cn-beijing.pai-eas.aliyuncs.com 80
   Trying 47.xx.xx.xxx...
   telnet: connect to address 47.xx.xx.xxx: Bad file descriptor
   telnet: Unable to connect to remote host

3.2 VPC アクセスの設定

1. Inference Gateway タブで、対象のフルマネージド専用ゲートウェイの名前をクリックして、詳細ページに移動します。

2. Gateway Access Control セクションの VPC タブで、Add VPC をクリックします。接続したい VPC と vSwitch を選択します。

   • クロスアカウント VPC アクセス：同一リージョン内の別のアカウントから VPC を追加します。これにより、その VPC 内のサーバーは、ゲートウェイの VPC エンドポイントを介して EAS サービスにアクセスできます。対象のアカウントでは、PAI-EAS、PrivateLink、および PrivateZone が有効になっている必要があります。

     説明

     この機能は許可リストによる承認が必要です。有効にするには、チケットを起票してください。

     [VPC の追加] ダイアログボックスで、[アカウント ID] (クロスアカウントアクセスの場合は対象アカウントの UID)、[VPC (ID)]、および [vSwitch ID] を入力します。vSwitch は、ゲートウェイがサポートするアベイラビリティゾーン (例：cn-hangzhou-j、cn-hangzhou-k、または cn-hangzhou-i) にある必要があります。必要に応じて [権威 DNS 解決] を有効にし、[OK] をクリックします。

   • ゲートウェイドメインの権威 DNS 解決：既存の Alibaba Cloud ネットワーク接続を介して、他のクラウドやオンプレミスデータセンターから EAS にアクセスする場合に使用します。権威 DNS 解決を有効にできる VPC 設定は、一度に 1 つだけです。

3. デフォルトでは、新しい VPC エントリはすべての VPC IP (0.0.0.0/0) を許可します。アクセスを制限するには、Modify Whitelist をクリックします。

4. ゲートウェイのプライベートネットワーク接続を確認します。

   1. VPC タブで、Endpoint を見つけます。[アクセス制御] ページで、[VPC] タブを選択し、[ドメイン名アドレス] 列からゲートウェイのドメイン名 (例：gw-xxx.eas.aliyuncs.com) を取得します。

   2. VPC 内のターミナルからドメインに ping を実行します。正常な応答があれば、接続が確認できます。

      説明

      許可リストの構成後、ゲートウェイ vSwitch があるゾーンに限定されず、VPC 内の任意のアベイラビリティーゾーンにある端末がゲートウェイにアクセスできます。

      [root@iZ2xxx ~]# ping gw-567lydxxx-vpc.cn-beijing.pai-eas.aliyuncs.com
      PING ep-2zeixxx.epsrv-2zemwo87lxxx.cn-beijing.privatelink.aliyuncs.com (192.xxx.xxx.xxx) 56(84) bytes of data.
      64 bytes from 192.xxx.xxx.11: icmp_seq=1 ttl=102 time=1.11 ms
      64 bytes from 192.xxx.xxx.11: icmp_seq=2 ttl=102 time=1.05 ms
      64 bytes from 192.xxx.xxx.11: icmp_seq=3 ttl=102 time=0.572 ms
      64 bytes from 192.xxx.xxx.11: icmp_seq=4 ttl=102 time=0.515 ms
      64 bytes from 192.xxx.xxx.11: icmp_seq=5 ttl=102 time=0.519 ms
      64 bytes from 192.xxx.xxx.11: icmp_seq=6 ttl=102 time=0.514 ms
      64 bytes from 192.xxx.xxx.11: icmp_seq=7 ttl=102 time=0.508 ms
      ^C
      --- ep-2zeixxx.epsrv-2zemwo87lxxx.cn-beijing.privatelink.aliyuncs.com ping statistics ---
      7 packets transmitted, 7 received, 0% packet loss, time 6111ms
      rtt min/avg/max/mdev = 0.508/0.682/1.107/0.252 ms

5. プライベートネットワークアクセスを無効にするには、リスト内の vSwitch を見つけ、Configure vSwitch 列の Delete をクリックします。

   VPC ターミナルからドメインにアクセスします。以下の出力は、プライベートアクセスが無効になっていることを示します。

   [root@iZ2zef8xxx ~]# ping gw-xxx-vpc.cn-beijing.pai-eas.aliyuncs.com
   PING ep-2zei6xxxlcb.epsrv-2zeute2zixxx.cn-beijing.privatelink.aliyuncs.com (1xxx) 56(84) bytes of data.

   [root@iZ2zcr0StvqwCommduccSU ~]# telnet gw-ccqvxxx-vpc.cn-beijing.pai-eas.aliyuncs.com 80
   Trying 1xxx...

手順

1. ログ、モニタリング、アラートの有効化：ゲートウェイの詳細ページで、Logs、Monitoring、Alert タブに移動し、画面の指示に従って各機能を有効にします。

2. アラートポリシーの作成：アラートを有効にした後、[EAS 専用ゲートウェイのアラートポリシーを作成] をクリックしてアラー​​トルールを設定します。詳細については、「アラー​​トルールの管理」をご参照ください。

   重要

   変数 {{$labels.envoy_clusterid}} は、ゲートウェイのカスタム名ではなく、内部 ID を表示します。アラートの可読性を向上させるには、[アラート内容] テンプレートに認識可能なゲートウェイ名を追加します。例：PAI-EAS 専用ゲートウェイ {{$labels.envoy_clusterid}} ノード ({{$labels.pod_name}}) の CPU 使用率が {{ $labels.metrics_params_value }}% を超えました。現在の値：{{ printf "%.2f" $value }}%。

アラートメトリクス

Q: VPC を追加する際に「Vswitch vsw-2zeqwh8hv0gb96zcd**** in zone cn-beijing-g is not supported, supported zones: [cn-beijing-i cn-beijing-l cn-beijing-k]」というエラーが表示されるのはなぜですか？

選択した vSwitch がサポートされていないアベイラビリティゾーンにあるためです。サポートされているゾーンの vSwitch を選択してください。