Platform For AI:デプロイメント構成

サービスデプロイ構成

新しいモデルを登録する際、モデルサービスデプロイ構成セクションで、サービスデプロイ構成をカスタマイズできます。

カスタム構成を選択し、テキストボックスにデプロイ構成を入力します。

• カスタムイメージを使用してデプロイされるモデルのサービスデプロイ構成のサンプルは次のとおりです。

  {
    "containers": [
      {
        "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz",
        "env": [
          {
            "name": "var_name",
            "value": "var_value"
          }
        ],
        "command": "/data/eas/ENV/bin/python /data/eas/app.py",
        "port": 8000
      }
    ],
    "storage": [
      {
        "oss": {
          "readOnly": false
        },
        "properties": {
          "resource_type": "model"
        }
      }
    ]
  }

  パラメータ設定の詳細については、「カスタムイメージ」をご参照ください。Elastic Algorithm Service (EAS) の完全な構成およびデプロイ方法の詳細については、「サービスデプロイ」をご参照ください。

• プリセットプロセッサを使用するモデルのサービスデプロイ構成のサンプルは次のとおりです。

  {
    "processor": "tensorflow_gpu_1.12"
  }

• カスタムプロセッサを使用するモデルのサービスデプロイ構成のサンプルは次のとおりです。

  {
    "processor_entry": "./service.py",
    "processor_type": "python",
    "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py",
    "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest"
  }

ワンクリックサービスデプロイ

登録済みのモデルを EAS に直接デプロイできます。デプロイ時に、モデルサービスデプロイ構成が EAS デプロイ構成にそのまま渡されます。手順は次のとおりです。

1. モデル管理ページで、対象モデルの 操作 列にある EAS にデプロイ をクリックします。その後、画面の指示に従って操作してください。自動的に EAS サービスデプロイページにリダイレクトされます。

   説明

   現在、ワンクリックデプロイをサポートしているのは、モデルギャラリーからのモデルのみです。

   OSS またはカスタムトレーニングから登録したモデルについては、代わりにカスタムデプロイを使用してください。カスタムデプロイワークフローでは、OSS 上のモデルパスをコンテナにマウントし、サービスを手動で構成します。

2. サービスデプロイページでは、モデルサービス情報エリアの主要なパラメーターが、モデルサービスデプロイ構成に基づいてプレフィルされます。その他の必須パラメーターを設定して、デプロイを開始します。構成の詳細については、「カスタムデプロイ」をご参照ください。