Cloud-native AI suite dapat diinstal pada kluster ACK Pro, ACK Serverless Pro, dan ACK Edge Pro yang menjalankan Kubernetes 1.18 atau versi lebih baru. Topik ini menjelaskan cara menginstal suite tersebut serta mengonfigurasi konsol operasi AI dan konsol pengembang cloud-native.
Prasyarat
Pastikan Anda telah:
-
Membuat kluster ACK Pro, ACK Serverless Pro, atau ACK Edge Pro yang menjalankan Kubernetes 1.18 atau versi lebih baru.
-
(Untuk konsol operasi AI) Memilih Container Monitoring dan Log Service pada halaman Component Configurations saat pembuatan kluster, atau menginstal ack-arms-prometheus dan loongcollector pada halaman Add-ons. Lihat Use Alibaba Cloud Prometheus for monitoring dan Collect container logs from an ACK cluster.
Deploy the suite
-
Login ke ACK console. Di panel navigasi kiri, klik Clusters.
-
Pada halaman Clusters, klik nama kluster Anda. Di panel sisi kiri, pilih Applications > Cloud-native AI Suite.
-
Pada halaman Cloud-native AI Suite, klik Deploy.
-
Pada halaman deployment, pilih komponen yang akan diinstal. Lihat Component reference untuk detail dan kompatibilitasnya.
Jika Anda memilih Kube Queue, Console, dan Kubeflow Pipelines secara bersamaan, Arena wajib dipilih.
-
Klik Deploy Cloud-native AI Suite. Sistem akan menjalankan pemeriksaan lingkungan dan dependensi, lalu menerapkan komponen yang dipilih.
Component reference
Tabel berikut mencantumkan semua komponen, namespace-nya, serta jenis kluster yang didukung.
| Configuration | Component | Namespace | ACK Pro | ACK Serverless Pro | ACK Edge Pro |
|---|---|---|---|---|---|
| Elasticity | ack-alibaba-cloud-metrics-adapter | kube-system | Yes | No | Yes |
| Acceleration (Fluid data acceleration) | ack-fluid | fluid-system | Yes | Yes | Yes |
| Scheduling (batch task scheduling, GPU sharing, topology-aware GPU scheduling, and NPU scheduling) | ack-ai-installer | kube-system | Yes | No | Yes |
| Kube Queue | ack-kube-queue | kube-queue | Yes | Yes | Yes |
| Arena (CLI) | ack-arena | kube-system | Yes | Yes | Yes |
| Console (Platform for AI) | ack-pai | pai-system | Yes | No | Yes |
| Console (AI Dashboard) | ack-ai-dashboard | kube-ai | Yes | No | Yes |
| Console (AI Developer Console) | ack-ai-dev-console | kube-ai | Yes | No | Yes |
| Console Data Storage | ack-mysql | kube-ai | Yes | No | Yes |
| Workflow (Kubeflow Pipelines) | ack-ai-pipeline | kube-ai | Yes | No | Yes |
| Monitoring | ack-arena-exporter | kube-ai | Yes | No | Yes |
ack-pai mengintegrasikan algoritma dan engine yang dioptimalkan oleh Platform for AI (PAI), termasuk Data Science Workshop (DSW), Deep Learning Containers (DLC), dan Elastic Algorithm Service (EAS), untuk meningkatkan elastisitas dan efisiensi dalam pengembangan, pelatihan, dan inferensi AI.
Untuk mengonfigurasi parameter kustom untuk komponen Scheduling, klik Advanced pada halaman deployment.
Jika Anda memilih Arena, konfigurasikan client Arena secara terpisah setelah instalasi.
Lihat Fluid data acceleration, ack-ai-installer, ack-kube-queue, dan ack-ai-pipeline.
Configure the AI console
Mulai 22 Januari 2025, konsol AI (AI Dashboard dan AI Developer Console) hanya tersedia untuk pengguna yang masuk daftar putih. Deployment yang sudah ada tidak terpengaruh. Pengguna yang tidak masuk daftar putih dapat menginstal dan mengonfigurasi konsol AI melalui komunitas open-source. Lihat data-on-ack.
Authorize the AI console
-
Pada bagian Ecosystem Tools, pilih Console. Kotak dialog Note akan muncul.
-
Jika status otorisasi menampilkan Authorized, lewati ke Select an access method.
-
Jika status menampilkan Unauthorized dalam warna merah dan tombol OK tidak tersedia, selesaikan otorisasi seperti di bawah ini.
-
-
Buat kebijakan kustom di Resource Access Management (RAM).
-
Login ke RAM console. Di panel navigasi kiri, pilih Permissions > Policies.
-
Klik Create Policy.
-
Pada tab JSON, masukkan kebijakan berikut lalu klik OK. Beri nama kebijakan tersebut
k8sWorkerRolePolicy-{ClusterID}.{ "Version": "1", "Statement": [ { "Effect": "Allow", "Action": [ "cs:*", "log:GetProject", "log:GetLogStore", "log:GetConfig", "log:GetMachineGroup", "log:GetAppliedMachineGroups", "log:GetAppliedConfigs", "log:GetIndex", "log:GetSavedSearch", "log:GetDashboard", "log:GetJob", "ecs:DescribeInstances", "ecs:DescribeSpotPriceHistory", "ecs:DescribePrice", "eci:DescribeContainerGroups", "eci:DescribeContainerGroupPrice", "log:GetLogStoreLogs", "ims:CreateApplication", "ims:UpdateApplication", "ims:GetApplication", "ims:ListApplications", "ims:DeleteApplication", "ims:CreateAppSecret", "ims:GetAppSecret", "ims:ListAppSecretIds", "ims:ListUsers" ], "Resource": "*" } ] }
-
-
Lampirkan kebijakan kustom tersebut ke peran RAM kluster.
-
Di RAM console, di panel navigasi kiri, pilih Identities > Roles.
-
Cari
KubernetesWorkerRole-{ClusterID}lalu klik Grant Permission di kolom Actions. -
Di panel Grant Permission, cari
k8sWorkerRolePolicy-{ClusterID}. -
Pilih kebijakan tersebut lalu klik Grant permissions.
-
-
Kembali ke kotak dialog Note lalu klik Authorization Check. Status akan berubah menjadi Authorized dan tombol OK menjadi tersedia.
Select an access method
Di kotak dialog Note, pilih metode akses lalu klik OK.
| Access method | Recommended use | Notes |
|---|---|---|
| Private IP | Production | Mengakses konsol melalui jaringan internal |
| Internal Domain | Production | Menggunakan nama domain pribadi |
| Public Domain | Testing only | Petakan domain publik ke IP publik SLB NGINX Ingress di file hosts lokal Anda |
Lihat Mengakses konsol operasi AI.
Configure console data storage
Setelah Anda memilih Console di bawah Interaction Mode, opsi Console Data Storage akan muncul. Pilih metode penyimpanan.
Pre-installed MySQL (testing only)
Jika Anda tidak memilih ApsaraDB RDS, kluster akan menggunakan database MySQL bawaan secara default.
Opsi ini direkomendasikan hanya untuk pengujian. Jika kluster gagal atau penyimpanan hilang, data mungkin ikut hilang.
Deployment membuat disk berukuran 120 GB sebagai PersistentVolumeClaim (PVC) menggunakan StorageClass. ACK tidak mengelola siklus hidup disk tersebut. Hapus disk secara manual jika sudah tidak diperlukan.
ApsaraDB RDS (production)
Gunakan ApsaraDB RDS untuk beban kerja produksi.
Jika terjadi error koneksi, lihat Troubleshoot instance connection failures.
Untuk mengubah metode penyimpanan, uninstall lalu instal ulang suite tersebut. Hapus Secretkubeai-rdsdi namespacekube-aisebelum instalasi ulang, jika ada.
-
Beli instans ApsaraDB RDS dan buat database beserta akunnya. Lihat Quick start for ApsaraDB RDS dan Billing overview.
-
Klik Deploy Cloud-native AI Suite di bagian bawah halaman deployment.
-
Di ACK console, klik nama kluster. Di panel navigasi kiri, pilih Configurations > Secrets.
-
Dari daftar drop-down Namespace, pilih
kube-ai. -
Klik Create from YAML.
-
Masukkan templat YAML berikut untuk membuat Secret bernama
kubeai-rds, lalu klik Create.Parameter Description MYSQL_HOSTTitik akhir koneksi ApsaraDB RDS MYSQL_DB_NAMENama database MYSQL_USERUsername akun database MYSQL_PASSWORDPassword akun database apiVersion: v1 kind: Secret metadata: name: kubeai-rds namespace: kube-ai type: Opaque stringData: MYSQL_HOST: "Your RDS endpoint" MYSQL_DB_NAME: "Database name" MYSQL_USER: "Database username" MYSQL_PASSWORD: "Database password"
Configure workflow data storage
Jika Anda memilih Kubeflow Pipelines sebagai engine workflow, opsi Workflow Data Storage akan muncul. Pilih metode penyimpanan.
Pre-installed MinIO (testing only)
Jika Anda tidak memilih OSS, kluster akan menggunakan instans MinIO bawaan secara default.
Opsi ini direkomendasikan hanya untuk pengujian. Jika kluster gagal atau penyimpanan hilang, data mungkin ikut hilang.
Deployment membuat disk berukuran 20 GB sebagai PVC menggunakan StorageClass. ACK tidak mengelola siklus hidup disk tersebut. Hapus disk secara manual jika sudah tidak diperlukan.
Object Storage Service (testing and production)
Gunakan Object Storage Service (OSS) untuk penyimpanan data workflow yang persisten dan skalabel.
-
Jika namespace
kube-aibelum ada, buatlah:Namespace
kube-aidibuat otomatis selama deployment suite. Verifikasi keberadaannya sebelum membuat.kubectl create ns kube-ai -
Di ACK console, klik nama kluster. Di panel navigasi kiri, pilih Configurations > Secrets.
-
Dari daftar drop-down Namespace, pilih
kube-ai. -
Klik Create from YAML.
-
Masukkan YAML berikut untuk membuat Secret bernama
kubeai-oss, lalu klik Create.Parameter Description ENDPOINTTitik akhir OSS untuk wilayah Anda. Lihat OSS regions and endpoints ACCESS_KEY_IDID AccessKey dari RAM user dengan izin AliyunOSSFullAccess. Lihat Create an AccessKey pairACCESS_KEY_SECRETRahasia AccessKey dari RAM user tersebut apiVersion: v1 kind: Secret metadata: name: kubeai-oss namespace: kube-ai type: Opaque stringData: ENDPOINT: "https://oss-cn-beijing.aliyuncs.com" ACCESS_KEY_ID: "****" ACCESS_KEY_SECRET: "****" -
Setelah membuat Secret, verifikasi bahwa bucket bernama
mlpipeline-<clusterid>muncul di OSS console. Lihat Billing overview untuk informasi penagihan OSS. -
Kembali ke halaman deployment lalu instal Kubeflow Pipelines.
Verify the deployment
Setelah deployment, verifikasi bahwa komponen-komponen tersebut sedang berjalan:
-
Di ACK console, klik nama kluster. Di panel sisi kiri, pilih Applications > Cloud-native AI Suite. Daftar komponen menampilkan semua komponen yang diinstal beserta versinya.
-
Pastikan setiap komponen menunjukkan status deployment yang berhasil. Anda dapat Deploy atau Uninstall komponen individual. Jika tersedia versi yang lebih baru, Anda juga dapat Upgrade.
-
Jika Anda menginstal konsol AI, klik AI Dashboard atau AI Developer Console di pojok kiri atas halaman Cloud-native AI Suite untuk memverifikasi akses.