Ilmuwan data dapat menggunakan suite AI cloud-native untuk membuat Jupyter dan Visual Studio (VS) Code notebook. Ini memungkinkan pengembangan serta debugging algoritma pembelajaran mesin dan mengirimkan algoritma tersebut ke kluster Container Service for Kubernetes (ACK) untuk pelatihan model. Suite AI cloud-native menyediakan lingkungan pengembangan AI dengan menerapkan JupyterLab sumber terbuka, gambar notebook Jupyter kustom, atau gambar notebook VS Code kustom di kluster ACK Anda. Selain itu, suite ini secara otomatis mengonfigurasi parameter-parameternya dan berintegrasi dengan sistem manajemen izin ACK. Topik ini menjelaskan cara membuat dan menggunakan notebook dengan suite AI cloud-native.
Prasyarat
Sebuah kluster ACK Pro telah dibuat dengan versi Kubernetes 1.18 atau lebih baru.
Komponen AI Developer Console dan scheduling component telah diinstal di kluster ACK Pro, dengan versi komponen ack-ai-dev-console yang terbaru.
Pengguna Resource Access Management (RAM) telah dibuat oleh administrator kluster. Grup kuota yang diperlukan telah ditambahkan dan dikaitkan dengan pengguna RAM. Untuk informasi lebih lanjut, lihat Buat Pengguna RAM dan Langkah 1: Buat Grup Kuota untuk Pengguna RAM.
Siapkan data pelatihan. Untuk informasi lebih lanjut, lihat Konfigurasikan Dataset dan Repositori Kode Sumber untuk Pekerjaan Pelatihan.
Buat persistent volume claim (PVC). Untuk informasi lebih lanjut, lihat Pasang Volume NAS yang Disediakan Secara Statis di Konsol dan Gunakan Konsol untuk Memasang Volume OSS yang Disediakan Secara Statis.
CatatanDalam banyak kasus, data yang digunakan untuk melatih model disimpan dalam volume Object Storage Service (OSS) atau File Storage NAS (NAS).
Pengenalan notebook
Menyediakan lingkungan eksperimen pembelajaran mesin yang terintegrasi mendalam ke dalam platform cloud. Lingkungan ini memungkinkan Anda mengembangkan, menguji, dan melakukan pra-pemrosesan model pembelajaran mesin pada mesin lokal Anda.
Menyediakan alat pemrosesan dataset bawaan yang dapat Anda gunakan untuk menyalin, membersihkan, dan memproses data. Ini memungkinkan Anda mengirimkan data yang telah diproses ke penyimpanan persisten. Anda juga dapat memproses dataset menggunakan alat data besar.
Menyediakan lingkungan untuk proses pembelajaran mesin seperti pengujian model dan pra-pemrosesan data. Di dalam lingkungan ini, Anda dapat menulis dan men-debug kode pekerjaan pembelajaran mesin, mengemas kode menjadi
Docker images, dan mendorong gambar-gambar tersebut ke kluster Anda atau repositori Container Registry jarak jauh untuk penyebaran dan penggunaan selanjutnya.
Langkah 1: Buat notebook
Masuk ke Konsol Pengembang AI. Untuk informasi lebih lanjut, lihat Masuk ke Konsol Pengembang AI.
Di panel navigasi sisi kiri Konsol Pengembang AI, klik Notebook.
Di halaman Notebook, klik Create notebook.
Di bagian Notebook message, Notebook configure, dan Advanced Configuration, atur parameter-parameter dan klik Create notebook.

Di bagian Notebook message:
Atur Notebook Name, Notebook Image, dan Namespace. Namespace yang dipilih haruslah yang dibuat oleh administrator kluster untuk pengembangan AI. Anda dapat memilih gambar notebook default atau gambar notebook kustom. Konfigurasikan parameter lainnya sesuai kebutuhan Anda.
CatatanSaat menentukan Notebook Image, pilih gambar notebook yang memenuhi kebutuhan Anda. Anda perlu memilih gambar notebook Jupyter untuk notebook Jupyter dan memilih gambar notebook VS Code untuk notebook VS Code. Jika tidak, notebook Anda tidak akan berfungsi dengan normal.
Gambar notebook kustom hanya tersedia di kluster saat ini. Anda tidak dapat berbagi gambar notebook kustom ke kluster atau pengguna lain.
Aktifkan Workspace PVC. Pilih persistent volume claim (PVC) yang terkait dengan workspace dari daftar drop-down Target PVC.
Aktifkan saklar Token untuk menyuntikkan token kustom ke dalam notebook guna meningkatkan keamanannya. Hanya notebook Jupyter yang mendukung fitur ini.
Tentukan Notebook Type untuk memilih metode peluncuran gambar. Jenis notebook yang berbeda memerlukan lingkungan yang berbeda. Misalnya, jika Notebook Type diatur ke Jupyter, sebuah notebook Jupyter akan dibuat.
Di bagian Notebook configure, atur CPU (Cores), Memory (GB), dan GPU (Card Numbers).
Di bagian Advance Configuration, Anda dapat mengonfigurasi Label, Annotation, NodeSelector, dan Toleration untuk notebook Anda.
Setelah notebook dibuat, buka halaman Notebook dan klik notebook yang telah dibuat untuk melihat informasi detailnya.
Langkah 2: Gunakan notebook Jupyter
Buat dan gunakan notebook Jupyter
Di halaman Notebook, klik notebook Jupyter yang berada dalam Running state.
Di halaman yang muncul, klik Python 3 di bagian Notebook.
CatatanDi halaman buat notebook, gambar notebook yang disediakan oleh ACK hanya mendukung Python. Jika Anda ingin menggunakan bahasa lain, Anda dapat membangun gambar notebook kustom dari file Docker. Untuk informasi lebih lanjut, lihat Buat Gambar Notebook Kustom.

Gunakan Arena untuk mengirimkan pekerjaan di notebook.
Metode 1: Gunakan CLI Arena untuk mengirimkan pekerjaan

Metode 2: Gunakan SDK Arena untuk Python untuk mengirimkan pekerjaan

Gunakan notebook VS Code
Di halaman Notebook, pilih notebook dalam Running state dan klik namanya.
Halaman VSCode memberikan pengalaman pengembangan mirip VS Code sama seperti di lingkungan lokal. File kubeconfig kluster Anda disuntikkan ke dalam notebook dan variabel lingkungan tersedia untuk penyesuaian.

Buat gambar notebook kustom
Sebelum Anda membuat gambar notebook kustom, Anda perlu menginstal versi komponen Arena terbaru di notebook Jupyter atau VS Code notebook Anda. Ini memungkinkan Anda menjalankan demo kami di notebook. Untuk informasi lebih lanjut tentang cara menginstal komponen Arena, lihat Konfigurasikan Klien Arena.
Gambar notebook kustom hanya tersedia di kluster saat ini. Anda tidak dapat berbagi gambar notebook kustom ke kluster atau pengguna lain.
Buat gambar notebook Jupyter kustom
Untuk memenuhi berbagai kebutuhan, Anda dapat membuat gambar notebook Jupyter kustom di halaman Notebook dari Jupyter Notebook, seperti yang ditunjukkan pada gambar berikut.

Anda dapat melakukan langkah-langkah berikut untuk membuat file Docker dan membangun gambar:
Versi JupyterLab yang diinstal dalam gambar harus 3.0.0 atau lebih baru.
FROM tensorflow/tensorflow:1.15.5-gpu
USER root
RUN pip install jupyter && \
pip install ipywidgets && \
jupyter nbextension enable --py widgetsnbextension && \
pip install jupyterlab && jupyter serverextension enable --py jupyterlab
# Unduh dan instal SDK Arena untuk Python.
RUN pip install arenasdk
# Jika Anda menggunakan metode lain untuk menginstal JupyterLab, Anda perlu mengekspos Layanan melalui port 8888.
EXPOSE 8888
USER jovyanBuat gambar notebook VS Code kustom
Anda dapat membuat gambar notebook VS Code kustom di halaman Notebook dari VS Code Notebook, seperti yang ditunjukkan pada gambar berikut.

Anda dapat melakukan langkah-langkah berikut untuk membuat file Docker kustom dan membangun gambar:
FROM ubuntu:18.04
USER root
RUN apt update && \
apt install -y curl
RUN cd /opt && \
wget https://aliacs-k8s-cn-hongkong.oss-cn-hongkong.aliyuncs.com/arena/install.sh && \
/opt/install.sh
Anda perlu memodifikasi isi file Docker berdasarkan gambar dasar yang Anda pilih untuk memastikan bahwa gambar dapat dibangun.
Simpan notebook sebagai gambar
Komponen ack-ai-dev-console versi 1.0.22 atau lebih baru memungkinkan Anda menyimpan notebook sebagai gambar. Ini memungkinkan Anda menyimpan lingkungan pengembangan notebook.
Fitur ini hanya mendukung instance notebook yang dibuat menggunakan komponen ack-ai-dev-console versi 1.0.22 dan lebih baru. Anda tidak dapat melakukan operasi ini pada instance notebook yang sudah ada.
Untuk menyimpan notebook sebagai gambar, lakukan langkah-langkah berikut:
Unduh alat biner klien untuk komponen ack-commit-agent di Notebook. Klik di sini untuk mengunduh alat tersebut.
Jalankan perintah berikut di Notebook untuk membuat klien dapat dieksekusi secara global:
chmod +x ack-commit-ctl mv ack-commit-ctl /usr/bin/Gunakan alat ini untuk mengirimkan dan menyimpan notebook sebagai gambar. Contoh berikut menunjukkan cara mengirimkan gambar.
ack-commit-ctl commit image-commit-sample:v0.1.0-test INFO[0000] container id: xxx INFO[0002] Container save success, image: image-commit-sample:v0.1.0-testJika keluaran sebelumnya muncul setelah notebook dikirimkan, notebook disimpan sebagai gambar.
Jalankan perintah berikut untuk menentukan nama pengguna dan kata sandi repositori gambar dan dorong gambar ke repositori gambar:
ack-commit-ctl push image-commit-sample:v0.1.0-test --username=username --password=password INFO[0000] Start pushing the image: image-commit-sample:v0.1.0-test INFO[0000] Waiting... INFO[0003] Image pushed successfully: image-commit-sample:v0.1.0-testJika keluaran sebelumnya muncul, gambar didorong ke repositori gambar.
Gunakan gambar yang disimpan
Pastikan komponen ack-ai-dev-console diperbarui ke versi 1.0.21 atau lebih baru.
Masuk ke konsol ACK. Di panel navigasi sisi kiri, klik Clusters.
Di halaman Clusters, temukan kluster yang Anda inginkan dan klik namanya. Di panel sisi kiri, pilih .
Di halaman Pods, temukan pod dari notebook yang disimpan sebagai gambar, dan klik nama pod tersebut. Di halaman detail pod, Anda dapat memperoleh nama node tempat pod diterapkan.
Buat notebook di halaman Notebook.
Di bagian Image Pull Secrets, pilih gambar notebook yang telah dibuat. Di bagian Advance Configuration di sisi kanan, atur NodeSelector. Atur kunci NodeSelector ke
kubernetes.io/hostnamedan nilainya ke nama pod yang diperoleh di Langkah 4.Klik Create notebook. Jika notebook dapat dibuat, gambar yang disimpan digunakan.