Fitur Model Service di DataWorks memungkinkan Anda menerapkan model besar pra-latih secara cepat melalui antarmuka panduan yang sederhana. Topik ini menjelaskan cara menerapkan layanan model menggunakan kelompok sumber daya Serverless DataWorks.
Billing
Fitur ini mengonsumsi sumber daya DataWorks dan sumber daya dari layanan cloud lainnya. Biaya yang dikenakan adalah sebagai berikut:
|
Jenis biaya |
Deskripsi |
|
Biaya DataWorks |
Layanan model yang berjalan di DataWorks mengonsumsi sumber daya dari kelompok sumber daya Serverless. Untuk layanan yang diterapkan dalam kelompok sumber daya pay-as-you-go, Anda dikenai biaya berdasarkan Jam-CU. Untuk informasi lebih lanjut mengenai harga, lihat Billing of Serverless resource groups. |
|
Biaya Non-DataWorks |
|
Catatan penggunaan
Untuk akses jaringan pribadi yang aman, Anda harus mengaktifkan layanan terkait selama penerapan. Sistem secara otomatis mengonfigurasi PrivateLink dan Private Hosted Zone karena alasan berikut:
-
PrivateLink memungkinkan akses lintas-VPC, sehingga Anda dapat mengakses layanan model yang dikelola sepenuhnya yang diterapkan di DataWorks dari VPC dalam akun Anda yang dapat berkomunikasi dengan kelompok sumber daya DataWorks.
-
Private Hosted Zone menyediakan resolusi nama domain kustom dalam akun Anda, sehingga Anda dapat mengakses Layanan Model DataWorks tertentu menggunakan nama domain dalam VPC Anda.
Saat Anda memanggil layanan model melalui nama domain-nya, lalu lintas mengalir dari VPC Anda melalui saluran PrivateLink ke VPC kelompok sumber daya DataWorks, lalu mencapai instans model untuk menyelesaikan pemanggilan. Anda dapat melihat detail layanan di PrivateLink console dan konsol Alibaba Cloud DNS - Private Hosted Zone.
Prasyarat
-
Aktifkan layanan PrivateLink.
Untuk mengaksesnya dari VPC Anda, gunakan PrivateLink untuk membuat koneksi lintas-VPC yang aman.
-
Aktifkan layanan Private Hosted Zone.
Private Hosted Zone menyediakan resolusi nama domain kustom dalam VPC Anda. Layanan ini meneruskan permintaan yang ditujukan ke nama domain layanan ke layanan model DataWorks.
-
Buat ruang kerja DataWorks dan kaitkan dengan kelompok sumber daya Serverless.
Pastikan layanan tersebut diaktifkan di wilayah yang sama dengan ruang kerja DataWorks Anda. Jika tidak, layanan mungkin tidak berfungsi dengan benar.
Batasan
-
Fitur Model Service hanya tersedia di wilayah berikut: Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Ulanqab), Tiongkok (Shenzhen), Tiongkok (Hong Kong), Jepang (Tokyo), Singapura, Malaysia (Kuala Lumpur), Indonesia (Jakarta), Jerman (Frankfurt), AS (Silicon Valley), dan AS (Virginia).
-
Hanya penerapan model yang didukung. Pelatihan model tidak didukung.
-
Dalam satu wilayah, setiap Akun Alibaba Cloud dapat menerapkan maksimal 50 layanan model.
-
Fitur ini hanya mendukung kelompok sumber daya Serverless, dan satu kelompok sumber daya dapat menghosting maksimal 5 layanan model.
-
Setiap layanan model dapat dikaitkan dengan maksimal 3 VPC.
Titik masuk
-
Login ke DataWorks console. Di bilah navigasi atas, beralihlah ke wilayah target.
-
Di panel navigasi kiri, klik Model Service untuk membuka halaman Model Service.
Terapkan model
Di halaman Model Service, klik Deploy Model untuk membuka halaman Model List. Pilih model yang ingin Anda terapkan lalu klik Deploy. Halaman konfigurasi Model Deployment akan terbuka. Ikuti petunjuk di layar untuk menyelesaikan penerapan.
Konfigurasikan informasi dasar
-
Model: Konfirmasi jenis model yang akan diterapkan ke kelompok sumber daya DataWorks. Untuk informasi lebih lanjut, lihat Supported models.
-
Nama Layanan: Tentukan nama kustom untuk layanan model. Nama ini digunakan untuk mengidentifikasi layanan model yang telah diterapkan di DataWorks.
-
Deskripsi: (Opsional) Deskripsi untuk membantu mengelola dan mengidentifikasi layanan.
Konfigurasikan informasi sumber daya
Konfigurasikan lingkungan penerapan model berdasarkan parameter berikut.
|
Parameter |
Deskripsi |
|
Resource Group |
Tentukan lokasi penerapan layanan model. Pilih kelompok sumber daya Serverless yang telah Anda buat. Setelah penerapan selesai, masuk ke DataWorks console, alihkan ke wilayah target, lalu klik Resource Group di panel navigasi kiri untuk membuka halaman daftar kelompok sumber daya. Klik nama Resource Group Name yang dituju. Pada halaman Details kelompok sumber daya, lihat penggunaan kelompok sumber daya Serverless untuk Model Service. |
|
vSwitch |
Tentukan vSwitch untuk penerapan layanan model. Berdasarkan petunjuk di layar, pilih vSwitch yang dikaitkan dengan kelompok sumber daya Serverless di zona ketersediaan yang sesuai. |
|
Deployment Specification |
Pilih spesifikasi sumber daya untuk satu instans yang digunakan untuk menerapkan layanan model. |
|
Number of Instances |
Konfigurasikan jumlah instans untuk penerapan layanan model. Menerapkan beberapa instans meningkatkan ketersediaan tinggi untuk layanan model. |
|
Total Occupancy |
Total CU yang dibutuhkan untuk penerapan layanan model ini, dihitung sebagai Deployment Specification × Instances. Pastikan CU yang tersedia untuk Model Service dalam kelompok sumber daya mencukupi untuk menerapkan layanan model saat ini. Anda dapat membuka halaman manajemen kuota kelompok sumber daya untuk menyesuaikan batas CU yang dialokasikan untuk Model Service. Untuk informasi lebih lanjut, lihat Allocate CU quotas for tasks.
|
Setelah menyelesaikan konfigurasi, klik Deployment.
Saat membuat layanan model, platform secara otomatis menghasilkan sumber daya PrivateLink, Alibaba Cloud DNS Private Hosted Zone, dan security group. Jangan menghapus atau mengedit sumber daya ini secara manual. Platform secara otomatis membersihkan sumber daya ini saat Anda menghapus layanan model.
Setelah penerapan selesai, sistem melakukan tindakan berikut di akun Anda:
-
Sebuah titik akhir PrivateLink dibuat di VPC default yang dikaitkan dengan kelompok sumber daya DataWorks dan membuat saluran komunikasi terenkripsi dengan layanan titik akhir PrivateLink di VPC kelompok sumber daya DataWorks.
-
Sebuah catatan resolusi secara otomatis ditambahkan ke layanan Private Hosted Zone akun Anda, mengaitkan nama domain internal dengan lingkungan VPC kelompok sumber daya DataWorks.
Kelola model
Setelah layanan model dibuat, Anda dapat mengelola statusnya, melihat informasi layanan, mengelola pengaturan jaringan dan kunci API, serta menyesuaikan sumber daya sesuai kebutuhan dari daftar Model Service.
Kelola status model
Layanan model secara default mulai berjalan setelah berhasil dibuat. Anda dapat mengelola status model sesuai kebutuhan bisnis di kolom Operation pada daftar Model Service.
|
Aksi |
Status layanan |
Konsumsi sumber daya |
|
Start |
Running |
Mengonsumsi sumber daya dari kelompok sumber daya Serverless. |
|
Stop |
Stopped |
Tidak mengonsumsi sumber daya dari kelompok sumber daya Serverless. |
|
Restart |
Restarting → Running |
Layanan model tidak tersedia sementara selama proses restart. Setelah restart selesai, layanan kembali mengonsumsi sumber daya dari kelompok sumber daya Serverless. |
|
Delete |
— |
Melepaskan sumber daya dari kelompok sumber daya Serverless secara permanen. |
Lihat layanan model
Tab Overview menampilkan informasi konfigurasi untuk layanan model saat ini. Di tab Overview, Anda dapat mengelola Basic Information, Resource Configurations, dan Invocation Information layanan model.
-
Di daftar Model Service, temukan layanan model target lalu klik Service Name-nya untuk membuka tab Overview.
-
Anda dapat melihat informasi dasar, sumber daya, dan informasi pemanggilan layanan model.
-
Basic Information: mencakup Service Name, Service ID, dan jenis Model layanan.
-
Resource Information: lihat informasi seperti Deployment Specification dan Instances.
-
Invocation Information: Jika Anda perlu menggunakan model besar dalam tugas node, klik ikon
di samping VPC Address Invocation Domain Name untuk menyalin nama domain.
-
Ubah sumber daya model
Anda dapat mengubah nama layanan model yang sudah ada, spesifikasi sumber daya penerapan, dan jumlah instans.
-
Di daftar Model Service, temukan layanan model target lalu klik Service Name-nya untuk membuka tab Overview.
-
Klik Modify di sebelah kanan Resource Configurations untuk membuka halaman Modify Resources dan konfigurasikan pengaturannya.
PentingModifikasi sumber daya akan merestart layanan, sehingga menyebabkan gangguan sementara.
Kelola jaringan model
Tab Network Configuration menampilkan lingkungan VPC yang saat ini dapat mengakses layanan model ini melalui jaringan internal. Di tab Network Configuration, Anda dapat menambahkan atau mengelola VPC yang digunakan untuk mengakses Model Service.
-
Di daftar Model Service, temukan layanan model target lalu klik Service Name-nya untuk membuka tab Overview.
-
Klik tab Network Configuration untuk melihat lingkungan VPC yang dapat mengakses layanan model melalui jaringan pribadi.
-
Untuk memperluas cakupan akses, Anda dapat Add Network agar lebih banyak lingkungan VPC dapat mengakses Model Service yang diterapkan di DataWorks melalui jaringan pribadi.
Saat menambahkan jaringan, Anda harus menentukan VPC dan vSwitch. Setelah Status VPC berubah menjadi Enabled, Anda dapat mengakses layanan model dari VPC tersebut.
Catatan-
Billing: Saat Anda menambahkan VPC ke Model Service, sistem membuat titik akhir PrivateLink di VPC yang dipilih untuk membuat koneksi jaringan dengan kelompok sumber daya DataWorks. Secara bersamaan, catatan resolusi domain pribadi baru ditambahkan ke Private Hosted Zone. Proses ini menghasilkan biaya instans, biaya pemrosesan data, dan biaya resolusi nama domain. Untuk informasi lebih lanjut, lihat Billing of PrivateLink dan Billing of Private Hosted Zone.
-
Batasan: Anda dapat menambahkan maksimal tiga VPC untuk satu layanan model.
-
-
Jika Anda tidak lagi ingin VPC tertentu mengakses layanan model, Anda dapat mengklik Delete untuk lingkungan VPC target di halaman detail layanan model.
Saat Anda menghapus VPC dari layanan model, titik akhir PrivateLink yang dibuat di VPC tersebut juga dihapus.
Kelola kunci API
Kunci API adalah kredensial untuk mengotentikasi pemanggil dan memverifikasi izin mereka. Anda dapat mengelola semua kunci API untuk layanan di tab API KEY.
-
Di daftar Model Service, temukan layanan model target lalu klik Service Name-nya untuk membuka tab Overview.
-
Beralih ke tab API KEY untuk membuat, mengelola, dan menggunakan kunci API:
-
Add API key: Setelah layanan model diterapkan, platform menyertakan kunci API bawaan untuk panggilan dari modul DataWorks lainnya. Untuk memanggil model layanan dari lingkungan lain menggunakan
endpointlayanan, klik Add API Key untuk membuat kunci API baru.Kami menyarankan Anda membuat kunci API terpisah untuk skenario aplikasi yang berbeda.
-
View API key: Di kolom Operation untuk kunci API target, klik View, lalu klik Copy untuk mendapatkan kunci API.
-
Delete API key: Kunci API DataWorks mendukung fitur Disable dan Delete.
PentingSebelum Anda Disable atau Delete kunci API yang diaktifkan, evaluasi dampak potensialnya. Setelah kunci API Disable atau Delete, semua tugas yang menggunakan kunci API tersebut untuk memanggil model akan gagal.
Operasi Disable atau Delete berlaku setelah sekitar
5min.
-
Lihat log
Di halaman detail layanan model, beralihlah ke tab Logs untuk melihat log operasional layanan model. Hal ini membantu Anda memecahkan masalah error pemanggilan layanan atau isu performa.
Langkah selanjutnya
Setelah model diterapkan, Anda dapat menggunakannya untuk mengembangkan tugas terkait.
Cara kerja
Diagram dan deskripsi berikut menjelaskan cara layanan model dipanggil:
Saat Anda menerapkan layanan model di kelompok sumber daya DataWorks atau mengonfigurasi VPC untuknya, sistem secara otomatis melakukan tindakan berikut:
-
Untuk membuat koneksi lintas-VPC, sistem secara otomatis membuat titik akhir PrivateLink di VPC Anda (VPC dalam akun Anda yang dapat terhubung ke kelompok sumber daya DataWorks) dan membuat saluran komunikasi terenkripsi dengan layanan titik akhir PrivateLink di VPC kelompok sumber daya DataWorks.
Operasi ini secara otomatis membuat titik akhir PrivateLink di akun Anda dan mengharuskan layanan tersebut diaktifkan untuk akun Anda.
-
Untuk mengonfigurasi resolusi nama domain, aturan resolusi DNS secara otomatis dikonfigurasi di VPC yang dikaitkan dengan layanan model untuk meneruskan permintaan DNS dalam VPC ke layanan model DataWorks.
Operasi ini secara otomatis menerapkan layanan Private Hosted Zone di akun Anda dan mengharuskan layanan tersebut diaktifkan untuk akun Anda.