All Products
Search

This Product

    Alibaba Cloud Model Studio:Pemantauan model

    Document Center

    Alibaba Cloud Model Studio:Pemantauan model

    Last Updated:Jul 09, 2026

    Pemantauan model memungkinkan Anda:

    • Menampilkan catatan panggilan.

    • Memantau metrik dan menetapkan peringatan untuk waktu hingga token pertama, durasi panggilan, permintaan per menit (RPM), token per menit (TPM), serta laju kegagalan.

    • Melacak konsumsi token.

    Model yang didukung

    • Basic monitoring: Mendukung semua model dalam daftar model, sedangkan Advanced monitoring mendukung semua model di wilayah China (Beijing), Singapura, dan AS (Virginia).

    • Fitur alerting: Mendukung semua model di wilayah China (Beijing) dan Singapura.

    Pantau eksekusi model

    Sistem secara otomatis mengumpulkan data panggilan model dari semua ruang kerja dalam Akun Alibaba Cloud Anda. Ketika terjadi panggilan model langsung atau tidak langsung, sistem menyinkronkan data ini ke daftar Monitoring di ruang kerja target.

    Catatan dibuat untuk setiap model dan ruang kerja. Model baru muncul dalam daftar setelah sinkronisasi data pertamanya. Basic monitoring memiliki latensi data per jam. Untuk wawasan data tingkat menit, gunakan advanced monitoring.

    Di bagian atas daftar, dasbor ikhtisar merangkum metrik utama pada kartu, termasuk Total Models, Total Calls, Total Failures, Average call duration, dan Average time to first token.

    Tabel Monitoring mencantumkan Model Code, Workspace, Total Calls, Total Failures, failure rate, Average call duration, dan Average time to first token untuk setiap model. Semua kolom kecuali Model Code dan Workspace dapat diurutkan. Kolom Actions menyediakan akses ke halaman Monitor dan Log.

    Anggota ruang kerja default dapat melihat panggilan model di seluruh ruang kerja. Anggota sub-ruang kerja hanya dapat melihat data untuk ruang kerja mereka saat ini dan tidak dapat beralih ke ruang kerja lain.

    Temukan model target dalam daftar dan klik Monitor di kolom Actions untuk melihat empat kategori metrik berikut:

    • Security: Mengidentifikasi pelanggaran kebijakan dalam percakapan, seperti Content Moderation Error Count.

    • Cost: Mengevaluasi efektivitas biaya model, dengan metrik seperti Average Usage per Request.

    • Performance: Mengamati perubahan kinerja model, dengan metrik seperti call duration dan time to first token.

    • Error: Menilai stabilitas model, dengan metrik seperti Failures dan failure rate.

    Anda dapat membuat peringatan berdasarkan metrik ini untuk mendeteksi dan menangani anomali secara cepat.

    Mengklik Monitor di kolom Actions membuka halaman detail model, yang berisi tab Monitoring dan Log. Tab Monitoring dibagi menjadi dua bagian: call statistics dan performance metrics.

    Tab ini menampilkan metrik terkait Security, Cost, dan Error, seperti jumlah panggilan dan jumlah kegagalan. Anda dapat memfilter data berdasarkan API key, inference type, rentang waktu, dan granularitas waktu (per menit atau per jam).

    • Rate Limiting Error Count: Menunjukkan kegagalan panggilan yang disebabkan oleh kode status 429.

    • Content Moderation Error Count: Menunjukkan bahwa input atau output diblokir oleh Content Moderation Service karena mengandung konten sensitif atau berisiko tinggi yang dicurigai, seperti kata kasar, konten politik, atau iklan.

    Pada grafik Failures di tab call statistics, klik Failure details untuk melihat rincian kegagalan dan mendiagnosis akar penyebabnya.

    Performance metrics

    Tab ini menampilkan metrik terkait Performance, seperti permintaan per menit (RPM), token per menit (TPM), durasi panggilan, waktu hingga token pertama, dan latensi token berikutnya.

    Lihat konsumsi token

    Penyesuaian parameter model dan prompt sistem memengaruhi konsumsi token model. Untuk membantu Anda melacak dan mengelola biaya, pemantauan model menyediakan fitur berikut:

    • Summary: Menggabungkan konsumsi token historis berdasarkan ruang kerja. Anda dapat lebih lanjut memfilter data berdasarkan rentang waktu dan API key.

    • Tracking: Mencatat konsumsi token untuk setiap panggilan model.

    • Alerting: Menetapkan ambang batas konsumsi token dan mengirim peringatan ketika konsumsi model tidak normal.

    Lihat konsumsi token model historis

    • Untuk melihat konsumsi token selama 30 hari terakhir:

      1. Pada halaman Monitoring untuk ruang kerja target Anda, temukan model tersebut dan klik Monitor di kolom Actions.

      2. Pada tab Call Statistics, lihat data konsumsi token di bagian Calls.

    • Untuk melihat penggunaan sebelumnya, buka halaman Expenses and Costs.

    Lihat konsumsi token untuk panggilan tertentu

    Fitur ini saat ini hanya tersedia untuk beberapa model di wilayah China (Beijing).

    1. Login ke Akun Alibaba Cloud Anda (atau sebagai RAM user dengan izin yang cukup). Di ruang kerja target Anda, buka halaman Monitoring (Beijing) dan klik Monitoring Configuration di pojok kanan atas. Ikuti petunjuk untuk mengaktifkan log audit dan log inferensi.

      Setelah diaktifkan, sistem mencatat input dan output setiap panggilan model di ruang kerja tersebut. Log dapat memerlukan beberapa menit untuk muncul setelah panggilan.

    2. Temukan model target dalam daftar pemantauan model dan klik Logs di kolom Actions.

    3. Tab Logs menampilkan catatan panggilan real-time inference untuk model tersebut. Bidang Usage menunjukkan konsumsi token untuk panggilan tersebut.

    Buat peringatan untuk konsumsi tidak normal

    Riwayat percakapan (log model)

    Penting

    Fitur ini saat ini terbatas pada beberapa model di wilayah China (Beijing).

    Pemantauan model mencatat input, output, dan latensi untuk setiap panggilan model, menyediakan data penting untuk troubleshooting dan auditing konten.

    Langkah 1: Aktifkan pencatatan log

    Login dengan Akun Alibaba Cloud (atau RAM user dengan izin yang cukup). Pada halaman model monitoring ruang kerja target, klik Monitoring Configuration di pojok kanan atas, dan ikuti petunjuk untuk mengaktifkan log audit dan log inferensi.

    Setelah Anda mengaktifkan fitur ini, sistem mulai mencatat input dan output setiap panggilan model dalam ruang kerja tersebut. Log mungkin memerlukan beberapa menit untuk muncul setelah panggilan.
    Untuk menghentikan pencatatan, cukup nonaktifkan log inferensi di Monitoring Configuration.

    Langkah 2: Lihat riwayat percakapan

    1. Dalam daftar pemantauan model, temukan model target dan klik Logs di kolom Actions.

    2. Tab Logs menampilkan catatan panggilan real-time inference untuk model tersebut. Bidang Request and Response menunjukkan input dan output untuk setiap panggilan.

    Model yang mendukung request dan response

    • Qwen Max

      • qwen3-max, qwen3-max-preview, qwen3-max-2025-09-23 dan versi snapshot berikutnya

      • qwen-max

    • Qwen Plus

      • qwen3.7-plus, qwen3.7-plus-2026-05-26 dan versi snapshot berikutnya

      • qwen3.6-plus, qwen3.6-plus-2026-04-02 dan versi snapshot berikutnya

      • qwen3.5-plus, qwen3.5-plus-2026-02-15 dan versi snapshot berikutnya

      • qwen-plus, qwen-plus-latest, qwen-plus-2025-12-01 dan versi snapshot berikutnya

    • Qwen Flash

      • qwen3.5-flash, qwen3.5-flash-2026-02-23

      • qwen-flash, qwen-flash-2025-07-28

    • Qwen Turbo: qwen-turbo

    • Qwen Coder: qwen3-coder-flash, qwen3-coder-flash-2025-07-28, qwen3-coder-plus, qwen3-coder-plus-2025-07-22, qwen3-coder-plus-2025-09-23

    • Model open-source: qwen3-235b-a22b, qwen3-235b-a22b-instruct-2507, qwen3-235b-a22b-thinking-2507, qwen3-30b-a3b, qwen3-30b-a3b-instruct-2507, qwen3-30b-a3b-thinking-2507, qwen3-next-80b-a3b-instruct, qwen3-next-80b-a3b-thinking, qwen3-coder-480b-a35b-instruct

    • Model pihak ketiga: deepseek-v3.1, deepseek-v3.2, deepseek-v3.2-exp

    Set up proactive alerts

    Penting

    Pemantauan model tersedia di wilayah Singapura dan China (Beijing), tetapi aturan peringatan saat ini hanya dapat dibuat di wilayah China (Beijing).

    Kegagalan diam, seperti timeout atau lonjakan tiba-tiba dalam konsumsi token, sering kali sulit dideteksi dengan log aplikasi tradisional. Pemantauan model memungkinkan Anda menyiapkan peringatan untuk metrik utama seperti biaya, laju kegagalan, dan latensi respons. Ketika metrik menjadi tidak normal, sistem segera mengirim peringatan.

    Langkah 1: Aktifkan pemantauan lanjutan

    1. Login dengan Akun Alibaba Cloud Anda (atau RAM user dengan izin yang cukup). Di ruang kerja target Anda, buka halaman Model Monitoring (Singapura atau China (Beijing)) dan klik Monitoring Configuration di pojok kanan atas.

    2. Di bagian advanced monitoring, aktifkan Performance and usage metrics monitoring.

    Langkah 2: Buat aturan peringatan

    1. Pada halaman Model Alerts (Singapura atau China (Beijing)), klik Create Alert Rule di pojok kanan atas.

    2. Dalam kotak dialog, pilih model dan templat pemantauan, lalu setelah mengonfirmasi pengaturan, klik Create. Ketika metrik pemantauan yang ditentukan (seperti statistik panggilan atau metrik kinerja) menjadi tidak normal, sistem akan memberi tahu tim Anda.

      • Metode notifikasi: SMS, email, panggilan telepon, robot grup DingTalk, robot WeCom, dan webhook.

      • Tingkat peringatan: Ada empat tingkat peringatan yang telah ditentukan dan tidak dapat diubah: General, Warning, Error, dan Urgent. Setiap tingkat menggunakan saluran notifikasi tertentu:

        • Urgent (CRITICAL): Panggilan telepon, SMS, dan email

        • Error (ERROR): SMS dan email

        • Warning (WARNING): SMS dan email

        • General (INFO): Email

    Integrasi dengan Grafana dan aplikasi kustom

    Metrik pemantauan model disimpan dalam instans Prometheus pribadi Anda, yang mendukung API HTTP Prometheus standar untuk menghubungkan ke Grafana atau aplikasi kustom Anda guna melakukan analisis visual.

    Langkah 1: Dapatkan alamat HTTP API

    1. Pastikan bahwa advanced monitoring diaktifkan.

    2. Pada halaman Model Monitoring (Asia Pacific SE 1 (Singapore)), Model Monitoring (US East 1 (Virginia)), atau Model Monitoring (China (Beijing)), klik Monitoring Configuration di pojok kanan atas. Di sebelah kanan instans CloudMonitor Prometheus, klik View Details.

    3. Pada halaman Settings, salin alamat HTTP API untuk lingkungan jaringan klien Anda (akses jaringan publik atau VPC).

      1

    Langkah 2: Hubungkan ke Grafana atau aplikasi kustom

    Hubungkan ke aplikasi kustom

    Contoh berikut menunjukkan cara mengambil data metrik menggunakan API HTTP Prometheus. Untuk detail penggunaan lengkap, lihat dokumentasi API HTTP Prometheus.

    • Contoh 1: Kueri konsumsi token untuk semua model di seluruh ruang kerja dalam Akun Alibaba Cloud pada 20 November 2025 (UTC), menggunakan metrik model_usage dengan ukuran langkah 60s.

      Contoh

      Deskripsi

      		 
      GET {HTTP API}/api/v1/query_range?query=model_usage&start=2025-11-20T00:00:00Z&end=2025-11-20T23:59:59Z&step=60s

Accept: application/json
Content-Type: application/json
Authorization: Basic base64Encode(AccessKey:AccessKeySecret)

      • query: Anda dapat mengatur query ke metrik apa pun dari tabel Metrics di bawah ini.

        Metrics

        Type

        Metric name

        Description

        Call count

        model_call_count

        Total number of model calls.

        Call duration

        model_call_duration_total

        Total model call duration.

        model_call_duration

        Average model call duration.

        model_call_duration_p50

        p50 model call duration.

        model_call_duration_p99

        p99 model call duration.

        model_first_token_duration_total

        Total time to first token.

        model_first_token_duration

        Average time to first token.

        model_first_token_duration_p50

        p50 time to first token.

        model_first_token_duration_p99

        p99 time to first token.

        Generation time per token

        model_generation_duration_per_token_total

        Total generation time per token.

        model_generation_duration_per_token

        Average generation time per token.

        model_generation_duration_per_token_p50

        p50 generation time per token.

        model_generation_duration_per_token_p99

        p99 generation time per token.

        Usage

        model_usage

        Total model usage.

      • HTTP API: Ganti {HTTP API} dengan alamat HTTP API dari Langkah 1.

      • Authorization: Gabungkan AccessKey dan AccessKey Secret Akun Alibaba Cloud Anda dalam format AccessKey:AccessKeySecret, encode string yang dihasilkan dalam Base64, dan berikan dalam format Basic encoded_string.

        Contoh nilai: Basic TFRBSTV3OWlid0U4XXXXU0xb1dZMFVodmRsNw==
        Penting: AccessKey dan AccessKey Secret harus dimiliki oleh Akun Alibaba Cloud yang sama dengan instans Prometheus dari Langkah 1.

    • Contoh 2: Berdasarkan Contoh 1, contoh ini menambahkan filter untuk mengambil konsumsi token untuk model tertentu (model=qwen-plus) di ruang kerja tertentu (workspace_id=llm-nymssti2mzww****).

      Contoh

      Deskripsi

      		 
      GET {HTTP API}/api/v1/query_range?query=model_usage{workspace_id="llm-nymssti2mzww****",model="qwen-plus"}&start=2025-11-20T00:00:00Z&end=2025-11-20T23:59:59Z&step=60s

Accept: application/json
Content-Type: application/json
Authorization: Basic base64Encode(AccessKey:AccessKeySecret)

      • query: Sertakan beberapa kondisi filter dalam tanda kurung kurawal ({}) dan pisahkan dengan koma. Contoh: {workspace_id="value1",model="value2"}. Tabel berikut mencantumkan kondisi filter yang didukung (LabelKey).

        Kondisi filter yang didukung

        Label key

        Description

        user_id

        ID akun Alibaba Cloud.

        Untuk pengguna RAM, ini adalah ID pengguna (UID). Cara mendapatkan

        apikey_id

        ID kunci API, yang berbeda dari kunci API. Anda dapat memperolehnya di halaman Key Management di(Singapura| US (Virginia) | China (Beijing)) console.

        56

        Catatan

        Nilai -1 untuk apikey_id menunjukkan bahwa panggilan berasal dari konsol Alibaba Cloud Model Studio, bukan dari panggilan API.

        workspace_id

        ID ruang kerja. Cara mendapatkan

        model

        Model.

        protocol

        Jenis protokol. Nilai yang valid:

        • HTTP: HTTP non-streaming

        • SSE: HTTP streaming

        • WS: Protokol WebSocket

        sub_protocol

        Sub-protokol. Nilai yang valid:

        status_code

        Kode status HTTP.

        LabelKey ini hanya berlaku untuk metrik model_call_count.

        error_code

        Kode kesalahan.

        LabelKey ini hanya berlaku untuk metrik model_call_count.

        usage_type

        Jenis penggunaan.

        LabelKey ini hanya berlaku untuk metrik model_usage.

        Nilai yang valid:

        • total_tokens

        • input_tokens

        • output_tokens

        • cache_tokens

        • image_tokens

        • audio_tokens

        • video_tokens

        • image_count

        • audio_count

        • video_count

        • duration

        • characters

        • audio_tts

        • times

    Hubungkan ke Grafana

    Tambahkan sumber data pemantauan model ke lingkungan Grafana Anda (baik yang dikelola sendiri maupun layanan Grafana Alibaba Cloud). Panduan ini menggunakan versi bahasa Inggris Grafana 10.x untuk demonstrasi; prosedurnya serupa untuk versi lainnya. Untuk detailnya, lihat dokumentasi resmi Grafana.

    1. Tambahkan sumber data:

      1. Login ke Grafana dengan akun administrator. Di pojok kiri atas halaman, klik ikon image dan pilih Administration > Data sources. Klik + Add new data source dan pilih Prometheus sebagai jenis sumber data.

      2. Pada tab Settings, konfigurasikan sumber data:

        • Name: Masukkan nama kustom.

        • Prometheus server URL: Tempel alamat HTTP API yang Anda peroleh di Langkah 1.

        • Auth: Aktifkan Basic auth. Untuk User, masukkan AccessKey untuk Akun Alibaba Cloud Anda. Untuk Password, masukkan AccessKey secret untuk Akun Alibaba Cloud Anda.

          Pastikan AccessKey dan AccessKey secret dimiliki oleh Akun Alibaba Cloud yang sama dengan instans Prometheus dari Langkah 1.

        image

      3. Di bagian bawah tab, klik Save & Test.

    2. Kueri metrik:

      1. Di pojok kiri atas halaman Grafana, klik ikon image. Di panel navigasi kiri, klik Dashboards.

      2. Pada halaman Dashboards, klik New > New dashboard di pojok kanan atas.

      3. Klik + Add visualization dan pilih sumber data yang baru saja Anda buat.

      4. Pada halaman Edit Panel, klik tab Query. Di bagian A, pilih _name_ dan nama metrik di bidang Label filters. Misalnya, untuk mengkueri konsumsi token model, gunakan metrik model_usage:

        Contoh

        Deskripsi

        image

        Dalam contoh ini, nilai untuk _name_ adalah model_usage. Anda dapat menggantinya dengan nama metrik apa pun dari daftar metrik pemantauan berikut.

        Metrics

        Type

        Metric name

        Description

        Call count

        model_call_count

        Total number of model calls.

        Call duration

        model_call_duration_total

        Total model call duration.

        model_call_duration

        Average model call duration.

        model_call_duration_p50

        p50 model call duration.

        model_call_duration_p99

        p99 model call duration.

        model_first_token_duration_total

        Total time to first token.

        model_first_token_duration

        Average time to first token.

        model_first_token_duration_p50

        p50 time to first token.

        model_first_token_duration_p99

        p99 time to first token.

        Generation time per token

        model_generation_duration_per_token_total

        Total generation time per token.

        model_generation_duration_per_token

        Average generation time per token.

        model_generation_duration_per_token_p50

        p50 generation time per token.

        model_generation_duration_per_token_p99

        p99 generation time per token.

        Usage

        model_usage

        Total model usage.

        Gunakan label berikut untuk mempersempit kueri Anda lebih lanjut:

        Kondisi filter yang didukung

        Label key

        Description

        user_id

        ID akun Alibaba Cloud.

        Untuk pengguna RAM, ini adalah ID pengguna (UID). Cara mendapatkan

        apikey_id

        ID kunci API, yang berbeda dari kunci API. Anda dapat memperolehnya di halaman Key Management di(Singapura| US (Virginia) | China (Beijing)) console.

        56

        Catatan

        Nilai -1 untuk apikey_id menunjukkan bahwa panggilan berasal dari konsol Alibaba Cloud Model Studio, bukan dari panggilan API.

        workspace_id

        ID ruang kerja. Cara mendapatkan

        model

        Model.

        protocol

        Jenis protokol. Nilai yang valid:

        • HTTP: HTTP non-streaming

        • SSE: HTTP streaming

        • WS: Protokol WebSocket

        sub_protocol

        Sub-protokol. Nilai yang valid:

        status_code

        Kode status HTTP.

        LabelKey ini hanya berlaku untuk metrik model_call_count.

        error_code

        Kode kesalahan.

        LabelKey ini hanya berlaku untuk metrik model_call_count.

        usage_type

        Jenis penggunaan.

        LabelKey ini hanya berlaku untuk metrik model_usage.

        Nilai yang valid:

        • total_tokens

        • input_tokens

        • output_tokens

        • cache_tokens

        • image_tokens

        • audio_tokens

        • video_tokens

        • image_count

        • audio_count

        • video_count

        • duration

        • characters

        • audio_tts

        • times

      5. Klik Run queries.

        Jika data muncul di grafik, konfigurasi berhasil. Jika tidak ada data yang muncul, verifikasi hal berikut: 1. Pastikan alamat HTTP API, AccessKey, dan AccessKey secret benar. 2. Pastikan instans Prometheus dari Langkah 1 berisi data pemantauan.

    Perbandingan mode pemantauan

    Pemantauan model menyediakan dua mode pemantauan: Basic Monitoring dan Advanced Monitoring.

    Basic Monitoring
    Advanced Monitoring: Layanan ini harus diaktifkan secara manual oleh Akun Alibaba Cloud (atau Pengguna RAM dengan izin yang memadai) di halaman Model Monitoring (Asia Pacific SE 1 (Singapore)), Model Monitoring (US East 1 (Virginia)), atau Model Monitoring (China (Beijing)) pada ruang kerja target. Anda dapat menonaktifkan layanan ini kapan saja. Layanan ini hanya merekam data panggilan setelah diaktifkan.

    Item

    Basic Monitoring

    Advanced Monitoring

    Data latency

    Per jam

    Tingkat menit

    Call statistics

    Didukung

    Didukung

    Failed call details

    Tidak didukung

    Didukung

    Performance metrics

    Didukung

    Didukung

    Applicable scope

    Semua ruang kerja di bawah Akun Alibaba Cloud

    Hanya berlaku untuk ruang kerja tempat fitur ini diaktifkan

    Billing

    Gratis

    Berbayar

    Kuota dan batasan

    • Periode retensi data: Data pemantauan dasar dan lanjutan disimpan selama 30 hari secara default. Untuk mengkueri informasi penggunaan dari periode sebelumnya, gunakan halaman Expenses and Costs.

    • Batas templat peringatan: Anda dapat membuat hingga 100 templat peringatan untuk setiap ruang kerja.

    • Batas API: Anda dapat mengkueri metrik pemantauan menggunakan API HTTP Prometheus.

      • Alternatif: Anda dapat memperoleh konsumsi token untuk satu panggilan dari bidang usage dalam tanggapan. Bidang ini memiliki struktur berikut. Untuk informasi lebih lanjut, lihat referensi API Qwen.

        {
  "prompt_tokens": 3019,
  "completion_tokens": 104,
  "total_tokens": 3123,
  "prompt_tokens_details": {
    "cached_tokens": 2048
  }
}

    Penagihan

    FAQ

    Mengapa saya tidak dapat melihat jumlah panggilan dan konsumsi token di Model Monitoring setelah memanggil model?

    Untuk troubleshooting, periksa hal berikut:

    1. Latensi data: Tunggu data disinkronkan. Data basic monitoring tertunda satu jam, sedangkan advanced monitoring tertunda beberapa menit.

    2. Ruang kerja: Jika Anda berada di sub-ruang kerja, Anda hanya dapat melihat data untuk ruang kerja tersebut. Beralihlah ke default workspace untuk melihat semua data.

    Apa yang dapat menyebabkan timeout saat memanggil model besar?

    Penyebab umum meliputi:

    • Output terlalu panjang: Jika model menghasilkan volume konten yang besar, waktu respons mungkin melebihi pengaturan timeout klien Anda. Kami merekomendasikan menggunakan streaming output untuk menerima token pertama lebih cepat.

    • Masalah jaringan: Pastikan klien Anda memiliki koneksi jaringan yang stabil ke layanan Alibaba Cloud.

    Bagaimana cara mengonfigurasi izin untuk RAM user agar dapat mengaktifkan advanced monitoring?

    Prosedur:

    1. Berikan izin AliyunBailianFullAccess manajemen global untuk Model Studio kepada RAM user.

    2. Berikan izin Model Monitoring - Operations (atau Administrator) izin halaman kepada RAM user. Ini memberikan akses tulis RAM user ke halaman Model Monitoring.

    3. Lampirkan kebijakan sistem AliyunCloudMonitorFullAccess ke RAM user.

    4. Buat dan lampirkan kebijakan kustom yang memberikan izin untuk membuat service-linked role untuk RAM user.

      1. Login ke Konsol RAM. Di panel navigasi kiri, pilih Permissions > Policies, lalu klik Create Policy.

      2. Klik tab JSON. Tempel dokumen kebijakan berikut ke editor dan klik OK.

        {
    "Version": "1",
    "Statement": [
        {
            "Action": "ram:CreateServiceLinkedRole",
            "Resource": "*",
            "Effect": "Allow"
        }
    ]
}

      3. Masukkan CreateServiceLinkedRole sebagai nama kebijakan dan klik OK.

      4. Di panel navigasi kiri, pilih Identities > Users. Temukan RAM user target dalam daftar, dan klik Add Permission di kolom Actions.

      5. Dalam daftar Policies, pilih kebijakan CreateServiceLinkedRole yang telah Anda buat dan klik Grant permissions. RAM user kini dapat membuat service-linked role.

    5. Setelah mengonfigurasi izin yang diperlukan, kembali ke halaman Model Monitoring (Asia Pacific SE 1 (Singapore)), Model Monitoring (US (Virginia)), atau Model Monitoring (China (Beijing)) dan coba lagi mengaktifkan Advanced Monitoring sebagai RAM user.

    Bagaimana cara mengonfigurasi izin untuk RAM user agar dapat mengaktifkan Inference Logs?

    Prosedur:

    1. Berikan izin AliyunBailianFullAccess manajemen global untuk Model Studio kepada RAM user.

    2. Berikan izin Model Monitoring - Operations (atau Administrator) izin halaman kepada RAM user. Ini memberikan akses tulis RAM user ke halaman Model Monitoring.

    3. Lampirkan kebijakan sistem AliyunLogFullAccess ke RAM user.

    4. Buat dan lampirkan kebijakan kustom yang memberikan izin untuk membuat service-linked role untuk RAM user.

      1. Login ke Konsol RAM. Di panel navigasi kiri, pilih Permissions > Policy, lalu klik Create Policy.

      2. Klik tab JSON. Tempel dokumen kebijakan berikut ke editor dan klik OK.

        {
    "Version": "1",
    "Statement": [
        {
            "Action": "ram:CreateServiceLinkedRole",
            "Resource": "*",
            "Effect": "Allow"
        }
    ]
}

      3. Masukkan CreateServiceLinkedRole sebagai nama kebijakan dan klik OK.

      4. Di panel navigasi kiri, pilih Identities > Users. Temukan RAM user target dalam daftar, dan klik Add Permission di kolom Actions.

      5. Dalam daftar Policies, pilih kebijakan CreateServiceLinkedRole yang telah Anda buat dan klik Grant permissions. RAM user kini dapat membuat service-linked role.

    5. Setelah mengonfigurasi izin yang diperlukan, kembali ke halaman Model Monitoring (China (Beijing)) dan coba lagi mengaktifkan Inference Logs sebagai RAM user.

    Lampiran

    Glosarium

    Term

    Description

    Mengacu pada semua panggilan langsung dan tidak langsung ke model, termasuk:

    • Panggilan API melalui SDK DashScope atau antarmuka kompatibel OpenAI

    • Playground

    • Status uji dan publikasi aplikasi Model Studio (seperti agen, alur kerja, dan aplikasi orkestrasi agen) serta node pemanggil modelnya (seperti node LLM, node klasifikasi intent, dan node grup agen)

    • Panggilan ke Assistant API (Deprecated)

    • Panggilan aplikasi

    Batches

    Pemrosesan data offline skala besar menggunakan API OpenAI-compatible Batch (file input) untuk kasus penggunaan yang tidak memerlukan respons real-time.