:Kelola ruang kerja

Jika Anda memiliki beberapa bisnis atau skenario yang menggunakan Alibaba Cloud Model Studio, buat ruang kerja terpisah untuk mengelolanya secara independen. Hal ini memungkinkan Anda mengontrol model yang dapat dipanggil oleh setiap ruang kerja, menerapkan alokasi biaya, serta mengisolasi data pengguna masing-masing.

Jenis ruang kerja

Model Studio menyediakan dua jenis ruang kerja: ruang kerja default dan sub-ruang kerja.

Item	Ruang kerja default	Sub-ruang kerja
Metode pembuatan	Dibuat secara otomatis saat Anda mengaktifkan Model Studio.	Dibuat secara manual oleh Akun Alibaba Cloud atau Pengguna RAM dengan izin manajemen.
Keunikan	Bersifat unik secara global di bawah satu Akun Alibaba Cloud.	Beberapa sub-ruang kerja dapat ada di bawah satu Akun Alibaba Cloud.
Izin model dalam ruang kerja	Dapat memanggil semua model tanpa otorisasi.	Memerlukan otorisasi untuk memanggil model tertentu.
Identifikasi khusus	Pada halaman Ruang Kerja (Singapura atau Beijing), ruang kerja ini ditandai sebagai Default.	Di halaman Ruang Kerja, ruang kerja ini tidak memiliki tanda Default.

Mulai

Buat ruang kerja baru

Anda dapat membuat ruang kerja terpisah, juga dikenal sebagai sub-ruang kerja, untuk layanan atau skenario baru. Model, biaya sumber daya, dan data pengguna dalam suatu ruang kerja sepenuhnya terisolasi dari ruang kerja lainnya.

Prosedur:

1. Masuk ke halaman Workspaces (Singapore atau Beijing).
2. Di pojok kanan atas, klik Add Workspace. Di kotak dialog yang muncul, masukkan nama untuk ruang kerja tersebut.
3. Klik OK.

Langkah berikutnya: Kelola anggota dan izin ruang kerja

Dapatkan ID ruang kerja

ID ruang kerja adalah pengenal unik untuk suatu ruang kerja yang tidak berubah setelah dibuat. Contohnya: llm-7c72iiw36kd8****.

• Untuk mendapatkan ID semua ruang kerja di Akun Alibaba Cloud: Buka halaman Workspaces (Singapore atau Beijing).

  Anda harus menggunakan Akun Alibaba Cloud atau Pengguna RAM dengan izin manajemen. Jika tidak, error akan muncul saat Anda mencoba mengakses halaman tersebut.

• Untuk mendapatkan ID ruang kerja saat ini: Di halaman utama Model Studio (Singapore atau Beijing), klik di sudut kiri bawah, lalu klik Workspace Details.

  Pengguna RAM tanpa izin administratif hanya dapat melihat ID sub-ruang kerja yang telah mereka ikuti.

Beralih antar ruang kerja

Ruang kerja bersifat independen satu sama lain. Anda tidak dapat melihat konten semua ruang kerja sekaligus. Sebagai gantinya, Anda harus beralih ke ruang kerja tertentu untuk melihat model, informasi biaya, dan data penggunanya.

Cara beralih: Di halaman utama Model Studio (Singapore atau Beijing), klik di sudut kiri bawah. Anda kemudian dapat melihat dan beralih ke ruang kerja yang berbeda pada daftar.

Otorisasi sub-ruang kerja untuk memanggilmodel

Sub-ruang kerja dapat memanggil model tertentu, seperti qwen-plus, hanya setelah diberikan izin yang diperlukan untuk model tersebut.

Prosedur:

1. Buka halaman Ruang Kerja (Singapore atau Beijing). Temukan sub-ruang kerja yang ingin Anda otorisasi, lalu klik Authorization & Throttling Settings.

   

2. Temukan model yang diinginkan dan klik Edit di sebelah kanan.

   

3. Aktifkan izin yang diperlukan dan klik Save.

   Jika ruang kerja tersebut telah diotorisasi sebelumnya, Anda tidak perlu mengotorisasi ulang.

   

Konfigurasikan pembatasan laju untuk pemanggilan model

Untuk memastikan keadilan pemanggilan model di berbagai layanan atau skenario, Anda dapat menetapkan batas laju pemanggilan independen untuk sub-ruang kerja yang berbeda.

• Titik masuk: Pada halaman Workspaces (Singapore atau Beijing), temukan sub-ruang kerja yang diinginkan, lalu klik Authorization & Throttling Settings di sebelah kanannya.

• Cara kerja:

  • Dalam satu ruang kerja, pembatasan laju dikendalikan pada tingkat model. Misalnya, untuk model qwen-plus, sistem menghitung jumlah total permintaan ke qwen-plus dari seluruh Kunci API dalam ruang kerja tersebut dan menerapkan pembatasan berdasarkan jumlah tersebut.

  • Batas pemanggilan model diukur dengan dua cara independen: Request Number Limit dan Token Limit. Pembatasan dipicu segera setelah salah satu batas tercapai.

    Sebagai contoh, asumsikan batas laju permintaan adalah 20 permintaan per menit (RPM) dan batas laju token adalah 100.000 token per menit (TPM). Jika Anda mengirim 20 permintaan ke model dalam satu menit dan hanya mengonsumsi 1.000 token (di bawah batas 100.000 TPM), pembatasan tetap dipicu karena jumlah permintaan telah mencapai batas RPM.

• Batasan utama:
  • Ruang kerja default tidak mendukung pengaturan pembatasan. Batas untuk semua model dalam ruang kerja ini sama dengan batas Akun Alibaba Cloud.
  • Jumlah total pemanggilan ke suatu model di semua ruang kerja tidak boleh melebihi batas laju Akun Alibaba Cloud untuk model tersebut.
  • Pembatasan pemanggilan model berlaku untuk pemanggilan real-time, tetapi tidak berlaku untuk tugas inferensi batch.
  • Anda tidak dapat mengonfigurasi pembatasan untuk anggota tertentu dalam satu ruang kerja.

Tayang

• Strategi perencanaan ruang kerja

  • Berdasarkan lingkungan (direkomendasikan): Buat ruang kerja terpisah untuk lingkungan pengembangan, pengujian, pra-produksi, dan produksi untuk mencapai pemagaran lingkungan yang ketat.

    • project-dev-workspace
    • project-test-workspace
    • project-prod-workspace

  • Berdasarkan lini bisnis: Buat ruang kerja terpisah untuk departemen bisnis berbeda di perusahaan Anda, seperti pemasaran, purna jual, dan desain. Hal ini menyederhanakan manajemen izin dan biaya.

    • marketing-team-workspace
    • customer-team-workspace
• Strategi pembatasan laju

  • Alokasikan kuota total Akun Alibaba Cloud Anda ke setiap ruang kerja secara proporsional. Sisihkan sebagian sebagai buffer untuk menangani lonjakan trafik.

    Contoh: Kuota total akun adalah 1.000 RPM. Rencana alokasinya sebagai berikut:

    • project-prod-workspace: 600 RPM (60%)
    • project-test-workspace: 200 RPM (20%)
    • project-dev-workspace: 100 RPM (10%)
    • Buffer cadangan: 100 RPM (10%)

Keamanan dan izin

Rekomendasi:

• Hindari menggunakan ruang kerja default untuk layanan produksi.
• Gunakan ruang kerja default hanya untuk pengujian awal atau operasi administrator.
• Buat dan kelola sub-ruang kerja terpisah untuk semua layanan resmi, seperti pengembangan, pengujian, dan produksi.

Kuota dan batasan

• Jumlah maksimum ruang kerja per Akun Alibaba Cloud: 10 di wilayah Singapura dan 20 di wilayah Beijing. Kedua batas tersebut termasuk satu ruang kerja default.
• Penghapusan tidak didukung: Ruang kerja tidak dapat dihapus setelah dibuat.

Penagihan

• Pembuatan dan pengelolaan ruang kerja tidak dikenai biaya.
• Biaya dikenakan berdasarkan konsumsi sumber daya dalam setiap ruang kerja, seperti pemanggilan model.