Untuk mengakses dan menyimpan set data secara efisien di Object Storage Service (OSS) selama pelatihan PyTorch, Anda dapat menginstal OSS Connector untuk AI/ML.
Lingkungan penyebaran
Sistem operasi: Linux 64-bit x86
glibc: 2.17 atau versi lebih baru
Python: 3.8 hingga 3.12
PyTorch: 2.0 atau versi lebih baru
Untuk menggunakan fitur checkpoint Object Storage Service (OSS), kernel Linux harus mendukung userfaultfd.
CatatanDalam contoh ini, Ubuntu digunakan. Jalankan perintah
sudo grep CONFIG_USERFAULTFD /boot/config-$(uname -r)untuk memeriksa apakah kernel Linux mendukung userfaultfd. Jika hasilnya adalahCONFIG_USERFAULTFD=y, kernel Linux mendukung userfaultfd. Jika hasilnya adalahCONFIG_USERFAULTFD=n, kernel Linux tidak mendukung userfaultfd. Dalam hal ini, Anda tidak dapat menggunakan fitur checkpoint OSS.
Prosedur
Contoh berikut menjelaskan cara menginstal OSS Connector untuk AI/ML untuk Python 3.12.
Jalankan perintah
pip3.12 install osstorchconnectoruntuk menginstal OSS Connector untuk AI/ML di dalam kontainer yang dibuat menggunakan Linux atau image berbasis Linux.pip3.12 install osstorchconnectorJalankan perintah
pip3.12 show osstorchconnectoruntuk memeriksa apakah OSS Connector untuk AI/ML telah terinstal.pip3.12 show osstorchconnectorJika informasi versi osstorchconnector ditampilkan, OSS Connector untuk AI/ML telah terinstal.

Langkah selanjutnya
Untuk memastikan bahwa OSS Connector untuk AI/ML dapat berkomunikasi dengan OSS dan menginisialisasi item konfigurasi dengan benar, Anda perlu mengonfigurasi kredensial akses serta menyelesaikan pengaturan konektor OSS. Untuk informasi lebih lanjut, lihat Konfigurasi OSS Connector untuk AI/ML.