Alibaba Cloud Model Studio:エンドポイントを使用してプライベートネットワーク経由でモデルまたはアプリケーション API にアクセスする

仕組み

VPC にインターフェイスエンドポイントを作成すると、PrivateLink は VPC と Alibaba Cloud Model Studio の間にプライベートな単方向接続を確立します。この接続では、VPC 内のリソースから Model Studio へのアクセスのみが許可されます。Model Studio は VPC 内のリソースにアクセスできません。

VPC 内の計算リソースがエンドポイントにアクセスすると、トラフィックは PrivateLink を介して Model Studio サービスに転送され、インターネットを経由しません。

エンドポイントは、Model Studio サービスと同じリージョンにある必要があります。別のリージョンの VPC を使用するには、「リージョン間のプライベートアクセス」をご参照ください。

Model Studio サービスリージョン:

• パブリッククラウド: シンガポールおよび中国 (北京)。

PrivateLink エンドポイント経由での API アクセス

# 元のドメイン名を、前のステップで取得したドメイン名に置き換えます。
curl -X POST http://ep-***.dashscope.ap-southeast-1.privatelink.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "qwen-flash",
    "messages": [
        {
            "role": "system",
            "content": "You are a helpful assistant."
        },
        {
            "role": "user", 
            "content": "Who are you?"
        }
    ]
}'

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # 元のドメイン名を、前のステップで取得したドメイン名に置き換えます。
    base_url="http://ep-***.dashscope.ap-southeast-1.privatelink.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(
    model="qwen-flash",
    messages=[
        {'role': 'system', 'content': 'You are a helpful assistant.'},
        {'role': 'user', 'content': 'Who are you?'}],
)
print(completion.model_dump_json())

import os
from http import HTTPStatus
# DashScope SDK V1.14.0 以降の使用を推奨します。
import dashscope
from dashscope import Generation

# 元のドメイン名を、前のステップで取得したドメイン名に置き換えます。
dashscope.base_http_api_url = "http://ep-***.dashscope.ap-southeast-1.privatelink.aliyuncs.com/api/v1"
dashscope.api_key = os.getenv("DASHSCOPE_API_KEY")
messages = [{
    'role': 'user', 'content': 'Who are you?'
}]
response = Generation.call(
    model="qwen-flash",
    messages=messages,
    result_format='message'
)
if response.status_code == HTTPStatus.OK:
    print(response)
else:
    print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
        response.request_id, response.status_code,
        response.code, response.message
    ))

// DashScope SDK V2.12.0 以降の使用を推奨します。
import java.util.Arrays;

import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import com.alibaba.dashscope.protocol.Protocol;
import com.alibaba.dashscope.utils.JsonUtils;

public class Main {
    public static GenerationResult callWithMessage() throws ApiException, NoApiKeyException, InputRequiredException {
        // 元のドメイン名を、前のステップで取得したドメイン名に置き換えます。
        Generation gen = new Generation(Protocol.HTTP.getValue(), "http://ep-***.dashscope.ap-southeast-1.privatelink.aliyuncs.com/api/v1");
        Message systemMsg = Message.builder()
                .role(Role.SYSTEM.getValue())
                .content("You are a helpful assistant.")
                .build();
        Message userMsg = Message.builder()
                .role(Role.USER.getValue())
                .content("Who are you?")
                .build();
        GenerationParam param = GenerationParam.builder()
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                .model("qwen-flash")
                .messages(Arrays.asList(systemMsg, userMsg))
                .resultFormat(GenerationParam.ResultFormat.MESSAGE)
                .build();
        return gen.call(param);
    }
    public static void main(String[] args) {
        try {
            GenerationResult result = callWithMessage();
            System.out.println(JsonUtils.toJson(result));
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            // エラーメッセージを出力します。
            System.err.println("An error occurred while calling the generation service: " + e.getMessage());
        }
    }
}

リージョン間のプライベートアクセス

上記の手順では、同じリージョン内のエンドポイントから Model Studio にアクセスしました。しかし、VPC が別のリージョンにある場合は、次の手順を実行してください。

1. 前のセクションに従って、PrivateLink エンドポイントを作成します。

2. Cloud Enterprise Network (CEN) を使用して、異なるリージョンの VPC を接続します。次の点に注意してください。

   • CIDR ブロックの競合による障害を防ぐために、CIDR ブロックが重複しない VPC を選択してください。

   • 中国本土と海外リージョン間で VPC を接続するには、アカウントが企業 ID 検証に合格する必要があります。

3. PrivateLink エンドポイントに関連付けられているセキュリティグループで、リクエスト元 VPC からのポート 80 および 443 でのトラフィックを許可するインバウンドルールを追加します。

設定が完了すると、リクエスト元 VPC からエンドポイントのデフォルトサービスドメイン名にアクセスしたときに、トランジットルーター (TR) がトラフィックを Model Studio サービスリージョン内のエンドポイントにルーティングします。

デフォルトでは、デフォルトドメイン名はリージョンをまたいで相互接続された VPC から直接アクセスできます。ただし、カスタムサービスドメイン名は同じリージョン内の VPC でのみ有効です。カスタムドメイン名を使用するには、カスタムドメイン名と同じ権威ゾーンを作成し、CNAME レコードを使用してデフォルトドメイン名に解決します。

1. カスタムドメイン名と同じ権威ゾーンを追加します (例: vpc-ap-southeast-1.dashscope.aliyuncs.com)。[有効範囲] セクションで、リクエスト元 VPC を選択します。

2. DNS レコードを追加するには、[レコードタイプ] を [CNAME] に、[ホスト名] を @ に、[レコード値] をデフォルトドメイン名に設定します。例: <u>ep-***.dashscope.ap-southeast-1.privatelink.aliyuncs.com</u>。

設定が完了すると、カスタムドメイン名を使用してリクエスト元 VPC から Model Studio API にアクセスできます。

課金

PrivateLink、CEN、および Private Zone を使用すると、追加料金が発生する場合があります。

• PrivateLink の課金

• CEN の課金

• Private Zone の課金

よくある質問

1. ECS インスタンスが PrivateLink を使用して Model Studio API にアクセスできないのはなぜですか？

   次の手順に従ってトラブルシューティングを行ってください。

   1. ECS インスタンスとエンドポイントが同じ VPC 内にあることを確認します。

      ECS インスタンスとエンドポイントが異なる VPC にある場合は、まずVPC を接続します。

   2. エンドポイントに関連付けられているセキュリティグループを確認します。ソース ECS インスタンスの CIDR ブロックからのポート 80 (HTTP) または 443 (HTTPS) でのトラフィックを許可するインバウンドルールが追加されていることを確認します。

   3. ドメイン名を確認します。

      デフォルトのドメイン名は HTTP のみをサポートします。

2. エンドポイントはインターネットからアクセスできますか？

   いいえ。PrivateLink は、Alibaba Cloud 内部ネットワーク内にプライベート接続を確立するためにのみ使用されます。エンドポイントはインターネットにアクセスできず、エンドポイント ENI を Elastic IP アドレス (EIP) に関連付けることはできません。