Elastic Container Instance:ECI を使用した TensorFlow タスクの実行

イメージキャッシュの作成

イメージキャッシュ機能は、コンテナイメージのプルを高速化するために、Kubernetes CRD として ACK Serverless クラスターに統合されています。

1. イメージキャッシュ用の YAML ファイルを作成します。

   次のコードは、imagecache.yaml ファイルのサンプルです。

   説明

   クラスターが中国 (杭州) にある場合は、内部イメージアドレスを使用してください。それ以外の場合は、パブリックアドレスを使用してください。

   apiVersion: eci.alibabacloud.com/v1
   kind: ImageCache
   metadata:
     name: tensorflow
   spec:
     images:
     - registry.cn-hangzhou.aliyuncs.com/eci_open/tensorflow:1.0

2. イメージキャッシュを作成します。

   kubectl create -f imagecache.yaml

   イメージキャッシュの作成にはイメージのプルが含まれ、そのサイズとネットワークの状態によっては時間がかかる場合があります。次のコマンドを実行して、イメージキャッシュの作成の進捗状況を確認できます。

   kubectl get imagecache tensorflow

   次のような出力が返されると、イメージキャッシュが作成されます。

   :~$ kubectl get imagecache tensorflow
   NAME          AGE   CACHEID                    PHASE   PROGRESS
   tensorflow    13m   imc-2zei4b7k43lxxxbvoz     Ready   100%

トレーニングジョブの作成

1. NAS ファイルシステム用に PV と PVC を作成します。

   1. YAML ファイルを準備します。

      次のコードは、nas.yaml ファイルのサンプルです。

      apiVersion: v1
      kind: PersistentVolume
      metadata:
        name: pv-nas
        labels:
          alicloud-pvname: pv-nas
      spec:
        capacity:
          storage: 100Gi
        accessModes:
          - ReadWriteMany
        csi:
          driver: nasplugin.csi.alibabacloud.com
          volumeHandle: pv-nas
          volumeAttributes:
            server: 15e1d4****-gt***.cn-beijing.nas.aliyuncs.com    # NAS ファイルシステムのマウントポイント。
            path: /
        mountOptions:
          - nolock,tcp,noresvport
          - vers=3
      ---
      kind: PersistentVolumeClaim
      apiVersion: v1
      metadata:
        name: pvc-nas
      spec:
        accessModes:
          - ReadWriteMany
        resources:
          requests:
            storage: 100Gi
        selector:
          matchLabels:
            alicloud-pvname: pv-nas

   2. PV と PVC を作成します。

      kubectl create -f nas.yaml

2. ECI Pod を作成してトレーニングジョブを実行します。

   1. YAML ファイルを準備します。

      次のコードは、tensorflow.yaml ファイルのサンプルです。

      apiVersion: v1
      kind: Pod
      metadata:
        name: tensorflow
        labels:
          app: tensorflow
          alibabacloud.com/eci: "true"
        annotations:
          k8s.aliyun.com/eci-use-specs: "ecs.gn6i-c4g1.xlarge"   # GPU インスタンスタイプを指定します。
          k8s.aliyun.com/eci-auto-imc: "true"                    # 自動イメージキャッシュマッチングを有効にします。
      spec:
        restartPolicy: OnFailure
        containers:
          - name: tensorflow
            image: registry.cn-hangzhou.aliyuncs.com/eci_open/tensorflow:1.0  # イメージキャッシュに対応するイメージアドレスを使用します。
            command:
              - python
            args:
              - /home/classify_image/classify_image.py      # コンテナ起動後に実行するトレーニングスクリプト。
            resources:
              limits:
                nvidia.com/gpu: "1"   # コンテナが必要とする GPU の数。
            volumeMounts:             # NAS ファイルシステムをマウントしてトレーニング結果を永続化します。
              - name: pvc-nas
                mountPath: /tmp/classify_image_model
        volumes:
          - name: pvc-nas
            persistentVolumeClaim:
              claimName: pvc-nas

   2. Pod を作成します。

      kubectl create -f tensorflow.yaml

3. トレーニングジョブのステータスを確認します。

   kubectl get pod

   Pod のステータスが 'Completed' に変わると、トレーニングジョブは完了です。

   kubectl get pod
   NAME            READY   STATUS      RESTARTS   AGE
   tensorflow      0/1     Completed   0          118s

   説明

   kubectl describe pod <pod name> を実行して Pod の詳細を表示したり、kubectl logs <pod name> を実行してログを表示したりすることもできます。

結果の表示

トレーニングジョブの結果を表示できます。

• File Storage NAS コンソールでは、トレーニング結果が NAS ファイルシステムに保存されていることを確認できます。ファイルシステムを再マウントすると、対応するパスで結果データを表示できます。

  ファイルシステムリストの [使用容量] 列には、使用されているストレージ容量 (例：45.71 MiB) が表示され、ファイルシステムのステータスは [実行中] です。

• Elastic Container Instance コンソールでは、Pod に対応する ECI インスタンスを確認できます。

  'Succeeded' ステータスは、インスタンス内のコンテナの実行が停止したことを示します。その後、システムは基盤となるコンピューティングリソースを回収し、Pod に対する課金を停止します。