TensorBoard memungkinkan Anda memvisualisasikan metrik pelatihan, bobot model, dan output sampel dari pekerjaan Deep Learning Containers (DLC). Anda dapat membuat instans TensorBoard untuk menjelajahi dan membandingkan hasil pelatihan secara interaktif.
Prasyarat
Sebelum memulai, pastikan persyaratan berikut terpenuhi:
-
Pekerjaan pelatihan DLC dengan setidaknya satu dataset yang dimount (verifikasi pada tab Overview). Jenis penyimpanan yang didukung: Object Storage Service (OSS) dan Apsara File Storage NAS.
-
SummaryWriterTensorFlow telah diintegrasikan ke dalam skrip pelatihan untuk menulis log ke direktori dalam dataset yang dimount.
Tulis log pelatihan
Tambahkan SummaryWriter ke skrip pelatihan Anda untuk menulis log ke path di dalam dataset yang dimount. Tutup writer setelah pelatihan selesai agar seluruh data log tersimpan.
Contoh:
-
Titik akhir dataset OSS:
oss://your-bucket-name.oss-region-internal.aliyuncs.com/dlc-training-data/ -
Path mount dataset di dalam kontainer:
/mnt/data/ -
Direktori output log:
/mnt/data/output/runs
import tensorflow as tf
# Inisialisasi SummaryWriter dengan direktori logging
log_dir = "/mnt/data/output/runs"
writer = tf.summary.create_file_writer(log_dir)
# Loop pelatihan dengan pencatatan metrik
for epoch in range(num_epochs):
train_loss = calculate_loss()
train_accuracy = calculate_accuracy()
with writer.as_default():
# Catat metrik skalar
tf.summary.scalar("train_loss", train_loss, step=epoch)
tf.summary.scalar("train_accuracy", train_accuracy, step=epoch)
# Catat histogram dan gambar setiap 10 epoch
if epoch % 10 == 0:
tf.summary.histogram("model_weights", model.weights, step=epoch)
tf.summary.image("prediction_samples", sample_predictions, step=epoch)
# Tutup writer agar semua log tersimpan
writer.close()
print(f'Pelatihan berhasil diselesaikan. Log disimpan ke: {log_dir}')
Path SummaryWriter (/mnt/data/output/runs) adalah Summary Path yang ditentukan saat membuat instans TensorBoard.
Buat instans TensorBoard
-
Masuk ke Konsol PAI. Pilih Wilayah di bilah navigasi atas, lalu pilih ruang kerja. Klik Enter Deep Learning Containers (DLC).
-
Pada kolom Actions pekerjaan target, klik TensorBoard. Di panel tersebut, klik Create TensorBoard.
-
Pada halaman Create TensorBoard, konfigurasikan parameter, lalu klik OK.
Informasi dasar
| Parameter | Deskripsi |
|---|---|
| Name | Nama instans TensorBoard. |
| Datasets | Pilih Configuration Type dan tentukan Summary Path (direktori yang berisi log ringkasan TensorBoard yang didefinisikan di SummaryWriter pada kode pelatihan). |
Tabel berikut menjelaskan opsi Configuration Type.
| Opsi | Deskripsi |
|---|---|
| Mount Dataset | Pilih dataset dan masukkan path relatif direktori ringkasan di dalam dataset. |
| Mount OSS | Pilih path penyimpanan OSS dan masukkan path relatif direktori ringkasan di OSS. |
| By Task | Pilih pekerjaan DLC dan masukkan path lengkap file log di dalam kontainer. |
Konfigurasi resource
| Jenis resource | Deskripsi |
|---|---|
| Free Quota | Resource gratis yang disediakan sistem. Setiap instans dapat menggunakan hingga 2 vCPU dan 4 GiB memori. Untuk membebaskan kuota, nonaktifkan instans yang berjalan menggunakan resource gratis, lalu gunakan kuota yang dilepas untuk instans baru. |
| General Computing | Pilih Public Resources atau Resource Quota. Lihat tabel berikut untuk detailnya. |
Tabel berikut menjelaskan opsi General Computing.
| Opsi | Deskripsi |
|---|---|
| Public Resources | Penagihan pay-as-you-go. Hanya komputasi umum yang menggunakan sumber daya publik. Pilih tipe instans berdasarkan kebutuhan beban kerja. |
| Resource Quota | Penagihan berlangganan. Sebelum memilih opsi ini, beli resource komputasi dan buat kuota. Opsi ini hanya tersedia untuk pengguna daftar putih. Hubungi manajer akun untuk mengaktifkannya. |
Saat menggunakan Resource Quota, konfigurasikan parameter berikut:
| Parameter | Deskripsi |
|---|---|
| Priority | Prioritas instans TensorBoard. Nilai valid: 1 hingga 9. Nilai 1 menunjukkan prioritas terendah. |
| Job Resource | Resource yang dialokasikan untuk instans TensorBoard: vCPUs dan Memory (GiB). |
Konfigurasi VPC
Parameter VPC hanya berlaku saat Anda menggunakan Public Resources. Tanpa VPC, sistem terhubung melalui Internet, yang dapat menyebabkan startup TensorBoard lebih lambat atau laporan dimuat lebih lama karena bandwidth terbatas.
Jika instans TensorBoard menggunakan dataset yang memerlukan VPC, seperti Cloud Parallel File Storage (CPFS) atau NAS dengan titik pemasangan VPC, konfigurasikan VPC.
Pilih VPC, vSwitch, dan security group di wilayah saat ini. Setelah dikonfigurasi, kluster yang menjalankan instans TensorBoard dapat mengakses layanan di VPC yang dipilih dan menggunakan security group yang ditentukan untuk kontrol akses.
Lihat laporan TensorBoard
-
Di panel navigasi kiri halaman ruang kerja, pilih .
-
Pada tab TensorBoard, periksa kolom Status. Saat statusnya Running, klik View TensorBoard di kolom Actions.
Halaman TensorBoard menampilkan metrik pelatihan dan data yang dicatat, seperti tren skalar, histogram, dan gambar.
Manage instans TensorBoard
-
Masuk ke Konsol PAI. Pilih wilayah di bilah navigasi atas dan pilih ruang kerja. Klik Enter Jobs.
-
Pada tab TensorBoard, lakukan salah satu operasi berikut:
| Operasi | Langkah |
|---|---|
| Mulai instans | Klik Start di kolom Actions untuk restart instans yang telah dihentikan |
| Lihat detail instans | Klik nama instans untuk membuka halaman detail yang menampilkan Basic Information dan Configuration Information |
| Lihat Pekerjaan DLC terkait | Di kolom Associated Task, arahkan kursor ke ikon untuk melihat ID pekerjaan. Klik ID tersebut untuk membuka halaman detail pekerjaan |
| Lihat set data terkait | Di kolom Associated Dataset, arahkan kursor ke ikon untuk melihat ID set data. Klik ID tersebut untuk membuka halaman detail set data |
| Lihat durasi berjalan | Kolom Running Duration menunjukkan berapa lama instans telah berjalan sejak terakhir dimulai. Durasi akan direset ketika instans dihentikan |
| Hentikan instans | Klik Stop di kolom Actions. Untuk menjadwalkan waktu penghentian otomatis, klik Auto-stop Settings di kolom Actions |
Pemecahan masalah
| Masalah | Solusi |
|---|---|
| TensorBoard gagal dimulai | Verifikasi pemasangan dataset pada tab Overview. Pastikan path log ada di dalam penyimpanan yang dimount. Periksa izin Resource Access Management (RAM) untuk akses dataset |
| Laporan dimuat lambat | Kurangi frekuensi pencatatan log untuk eksperimen ber-volume tinggi. Pertimbangkan penggunaan pemrosesan log inkremental atau mengorganisasi log ke subdirektori yang lebih kecil |
| Akses ditolak atau error konektivitas | Validasi konektivitas jaringan dan izin RAM. Periksa konfigurasi security group. Jika menggunakan dataset yang bergantung pada VPC, pastikan instans TensorBoard dikonfigurasi dengan VPC yang sama |
| Penggunaan CPU atau memori tinggi | Pantau pemanfaatan resource. Jika menggunakan Free Quota, pertimbangkan beralih ke General Computing dengan resource lebih banyak |
Praktik terbaik
-
Mulai dengan 2 hingga 4 vCPU dan 4 hingga 8 GiB memori untuk beban kerja umum.
-
Atur log berdasarkan jenis eksperimen dan stempel waktu (misalnya,
/mnt/data/output/runs/experiment_type/date_time/). -
Bersihkan log pelatihan usang secara berkala untuk mengurangi biaya penyimpanan dan meningkatkan performa.
-
Gunakan penugasan peran RAM untuk membatasi akses instans TensorBoard hanya kepada anggota tim yang berwenang.
Referensi
-
Buat dan kelola instans TensorBoard: Buat instans TensorBoard dari halaman .