FlexVolume プラグインは非推奨です。新しい Container Service for Kubernetes (ACK) クラスタは、FlexVolume をサポートしなくなりました。既存のクラスタについては、FlexVolume から Container Storage Interface (CSI) に移行することをお勧めします。このトピックでは、CSI を使用して、FlexVolume によって管理されている静的にプロビジョニングされた Object Storage Service (OSS) ボリュームを引き継ぐ方法について説明します。
FlexVolume と CSI の違い
次の表は、CSI と FlexVolume の違いを示しています。
プラグイン | コンポーネント | kubelet パラメーター | 参照 |
CSI |
| CSI プラグインに必要な kubelet パラメーターは、FlexVolume プラグインに必要なものとは異なります。 CSI プラグインを実行するには、各ノードで kubelet パラメーター | |
FlexVolume |
| FlexVolume プラグインに必要な kubelet パラメーターは、CSI プラグインに必要なものとは異なります。 FlexVolume プラグインを実行するには、各ノードで kubelet パラメーター |
シナリオ
FlexVolume がクラスタにインストールされており、静的にプロビジョニングされた OSS ボリュームのマウントに使用されています。クラスタ内に FlexVolume によって管理されているディスク ボリュームもある場合は、「csi-compatible-controller を使用して FlexVolume から CSI に移行する」をご参照ください。
注意事項
FlexVolume から CSI に移行すると、永続ボリューム要求 (PVC) が再作成されます。その結果、ポッドが再作成され、ビジネスが中断されます。オフピーク時に CSI への移行、PVC の再作成、アプリケーションの変更、またはポッドの再起動を伴うその他の操作を実行することをお勧めします。
準備
移行前に、クラスタに CSI を手動でインストールします。
csi-plugin.yaml と csi-provisioner.yaml という名前のファイルを作成します。
次のコマンドを実行して、クラスタに csi-plugin と csi-provisioner をデプロイします。
kubectl apply -f csi-plugin.yaml -f csi-provisioner.yaml次のコマンドを実行して、CSI が正常に動作しているかどうかを確認します。
kubectl get pods -n kube-system | grep csi予想される出力:
csi-plugin-577mm 4/4 Running 0 3d20h csi-plugin-k9mzt 4/4 Running 0 41d csi-provisioner-6b58f46989-8wwl5 9/9 Running 0 41d csi-provisioner-68f46989-qzh8l 9/9 Running 0 6d20h上記の出力値が返された場合、CSI は正常に動作しています。
手順
この例では、StatefulSet ワークロードを使用して、静的にプロビジョニングされた NAS ボリュームを FlexVolume から CSI に移行する方法を示します。次の図はワークフローを示しています。
ステップ 1: クラスタ内のボリュームの状態を確認する
次のコマンドを実行して、ポッドの状態をクエリします。
kubectl get pod予想される出力:
NAME READY STATUS RESTARTS AGE oss-sts-1 1/1 Running 0 11m次のコマンドを実行して、ポッドで使用されている PVC をクエリします。
kubectl describe pod oss-sts-1 |grep ClaimName予想される出力:
ClaimName: oss-pvc次のコマンドを実行して、PVC の現在の状態をクエリします。
kubectl get pvc予想される出力:
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE oss-pvc Bound oss-pv 5Gi RWX 7m23s
ステップ 2: CSI によって管理される静的にプロビジョニングされた NAS ボリュームの PVC と PV を作成する
方法 1: Flexvolume2CSI CLI による自動変換Flexvolume2CSI CLI を使用した移行
FlexVolume によって管理される PV と PVC を、CSI によって管理される PV と PVC に変換します。
次のコマンドを実行して、OSS ボリュームの PVC と永続ボリューム (PV) を作成します。
oss-pv-pvc-csi.yamlは、Flexvolume2CSI CLI を使用して元の PVC と PV を変換した後に、CSI によって管理される PVC と PV を定義する YAML ファイルです。kubectl apply -f oss-pv-pvc-csi.yaml次のコマンドを実行して、PVC の現在の状態をクエリします。
kubectl get pvc予想される出力:
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE oss-pvc-csi Bound oss-pv-csi 5Gi RWO 7m15s oss-pvc Bound oss-pv 5Gi RWX 52m
方法 2: PVC/PV 構成のボリューム プラグインを変更して手動で変換する
FlexVolume によって管理されている PV オブジェクトと PVC オブジェクトを保存します。
次のコマンドを実行して、FlexVolume でサポートされている PVC オブジェクトを保存します。
kubectl get pvc oss-pvc -oyaml > oss-pvc-flexvolume.yaml cat oss-pvc-flexvolume.yaml予想される出力:
apiVersion: v1 kind: PersistentVolumeClaim metadata: name: oss-pvc namespace: default spec: accessModes: - ReadWriteMany resources: requests: storage: 5Gi volumeMode: Filesystem volumeName: oss-pv次のコマンドを実行して、FlexVolume でサポートされている PV オブジェクトを保存します。
kubectl get pv oss-pv -oyaml > oss-pv-flexvolume.yaml cat oss-pv-flexvolume.yaml予想される出力:
apiVersion: v1 kind: PersistentVolume metadata: name: oss-pv spec: accessModes: - ReadWriteMany capacity: storage: 5Gi claimRef: apiVersion: v1 kind: PersistentVolumeClaim name: oss-pvc namespace: default flexVolume: driver: alicloud/oss nodePublishSecretRef: name: oss-secret namespace: default options: bucket: xxx otherOpts: -o max_stat_cache_size=0 -o allow_other url: xxx.aliyuncs.com persistentVolumeReclaimPolicy: Retain volumeMode: Filesystem
PVC と PV を定義して、CSI によって管理される静的にプロビジョニングされた NAS ボリュームを作成します。
oss-pv-pvc-csi.yaml という名前のファイルを作成し、次の YAML コンテンツをファイルに追加して、CSI によって管理される静的にプロビジョニングされた OSS ボリュームを作成します。
apiVersion: v1 kind: PersistentVolumeClaim metadata: name: oss-pvc-csi spec: accessModes: - ReadWriteMany resources: requests: storage: 5Gi selector: matchLabels: alicloud-pvname: oss-pv-csi --- apiVersion: v1 kind: PersistentVolume metadata: name: oss-pv-csi labels: alicloud-pvname: oss-pv-csi spec: capacity: storage: 5Gi accessModes: - ReadWriteMany persistentVolumeReclaimPolicy: Retain csi: driver: ossplugin.csi.alibabacloud.com volumeHandle: oss-pv-csi nodePublishSecretRef: name: oss-secret namespace: default volumeAttributes: bucket: "***" url: "***.aliyuncs.com" otherOpts: "-o max_stat_cache_size=0 -o allow_other"次のコマンドを実行して、OSS ボリュームの PVC と PV を作成します。
kubectl apply -f oss-pv-pvc-csi.yaml次のコマンドを実行して、PVC の現在の状態をクエリします。
kubectl get pvc予想される出力:
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE oss-pvc-csi Bound oss-pv-csi 5Gi RWO 7m15s oss-pvc Bound oss-pv 5Gi RWX 52m
ステップ 3: アプリケーションに関連付けられている PVC を変更する
次のコマンドを実行して、アプリケーションの構成ファイルを変更します。
kubectl edit sts oss-stsPVC を CSI でサポートされているものに変更します。
volumes: - name: oss persistentVolumeClaim: claimName: oss-pvc-csi次のコマンドを実行して、ポッドが再起動されているかどうかを確認します。
kubectl get pod予想される出力:
NAME READY STATUS RESTARTS AGE oss-sts-1 1/1 Running 0 70s次のコマンドを実行して、マウント情報をクエリします。
kubectl exec oss-sts-1 -- mount |grep ossfs予想される出力:
# マウント情報を表示します。 ***:/ on /var/lib/kubelet/pods/ac02ea3f-125f-4b38-9bcf-9b117f62eaf0/volumes/kubernetes.io~csi/oss-pv-csi/mount type ossfs (rw,relatime,max_stat_cache_size=0,allow_other)上記の出力値が返された場合、ポッドは移行されています。
ステップ 4: FlexVolume をアンインストールする
OpenAPI Explorer コンソール にログインし、[UnInstallClusterAddons] 操作を呼び出して、FlexVolume プラグインをアンインストールします。
[ClusterId]: クラスタの ID に設定します。クラスタ ID は、クラスタの詳細ページの [基本情報] タブで確認できます。
[name]: 値を Flexvolume に設定します。
詳細については、「クラスタからコンポーネントをアンインストールする」をご参照ください。
次のコマンドを実行して、[alicloud-disk-controller] コンポーネントと [alicloud-nas-controller] コンポーネントを削除します。
kubectl delete deploy -n kube-system alicloud-disk-controller alicloud-nas-controller次のコマンドを実行して、FlexVolume プラグインがクラスタからアンインストールされているかどうかを確認します。
kubectl get pods -n kube-system | grep 'flexvolume\|alicloud-disk-controller\|alicloud-nas-controller'出力が表示されない場合、FlexVolume プラグインはクラスタからアンインストールされています。
次のコマンドを実行して、FlexVolume を使用する StorageClass をクラスタから削除します。FlexVolume を使用する StorageClass のプロビジョナーは alicloud/disk です。
kubectl delete storageclass alicloud-disk-available alicloud-disk-efficiency alicloud-disk-essd alicloud-disk-ssd予想される出力:
storageclass.storage.k8s.io "alicloud-disk-available" deleted storageclass.storage.k8s.io "alicloud-disk-efficiency" deleted storageclass.storage.k8s.io "alicloud-disk-essd" deleted storageclass.storage.k8s.io "alicloud-disk-ssd" deleted上記の出力値が表示された場合、StorageClass はクラスタから削除されています。
ステップ 5: API を呼び出して CSI をインストールする
OpenAPI Explorer コンソール にログインし、[InstallClusterAddons] を呼び出して、CSI プラグインをインストールします。
[ClusterId]: クラスタの ID に設定します。
[name]: 値を csi-provisioner に設定します。
[version]: 最新バージョンが自動的に指定されます。CSI バージョンの詳細については、「Csi-provisioner」をご参照ください。
CSI プラグインのインストール方法の詳細については、「ACK クラスタにコンポーネントをインストールする」をご参照ください。
次のコマンドを実行して、CSI プラグインがクラスタ内で想定どおりに動作しているかどうかを確認します。
kubectl get pods -n kube-system | grep csi予想される出力:
csi-plugin-577mm 4/4 Running 0 3d20h csi-plugin-k9mzt 4/4 Running 0 41d csi-provisioner-6b58f46989-8wwl5 9/9 Running 0 41d csi-provisioner-6b58f46989-qzh8l 9/9 Running 0 6d20h上記の出力値が表示された場合、CSI プラグインはクラスタ内で想定どおりに動作しています。
ステップ 6: 既存のノードの構成を変更する
次の YAML テンプレートを使用して、CSI プラグインの互換性のために Kubelet パラメーターを変更します。この DaemonSet は、既存のノードの kubelet パラメーター --enable-controller-attach-detach の値を true に変更できます。このステップが完了したら、DaemonSet を削除できます。
YAML ファイルをデプロイすると、kubelet が再起動されます。YAML ファイルをデプロイする前に、アプリケーションへの影響を評価することをお勧めします。
kind: DaemonSet
apiVersion: apps/v1
metadata:
name: kubelet-set
spec:
selector:
matchLabels:
app: kubelet-set
template:
metadata:
labels:
app: kubelet-set
spec:
tolerations:
- operator: "Exists"
hostNetwork: true
hostPID: true
containers:
- name: kubelet-set
securityContext:
privileged: true
capabilities:
add: ["SYS_ADMIN"]
allowPrivilegeEscalation: true
image: registry.cn-hangzhou.aliyuncs.com/acs/csi-plugin:v1.26.5-56d1e30-aliyun
imagePullPolicy: "Always"
env:
- name: enableADController
value: "true"
command: ["sh", "-c"]
args:
- echo "Starting kubelet flag set to $enableADController";
ifFlagTrueNum=`cat /host/etc/systemd/system/kubelet.service.d/10-kubeadm.conf | grep enable-controller-attach-detach=$enableADController | grep -v grep | wc -l`;
echo "ifFlagTrueNum is $ifFlagTrueNum";
if [ "$ifFlagTrueNum" = "0" ]; then
curValue="true";
if [ "$enableADController" = "true" ]; then
curValue="false";
fi;
sed -i "s/enable-controller-attach-detach=$curValue/enable-controller-attach-detach=$enableADController/" /host/etc/systemd/system/kubelet.service.d/10-kubeadm.conf;
restartKubelet="true";
echo "current value is $curValue, change to expect "$enableADController;
fi;
if [ "$restartKubelet" = "true" ]; then
/nsenter --mount=/proc/1/ns/mnt systemctl daemon-reload;
/nsenter --mount=/proc/1/ns/mnt service kubelet restart;
echo "restart kubelet";
fi;
while true;
do
sleep 5;
done;
volumeMounts:
- name: etc
mountPath: /host/etc
volumes:
- name: etc
hostPath:
path: /etc