：Penagihan untuk model

Biaya pemanggilan model dipotong secara otomatis. Tagihan dihasilkan setiap jam. Untuk informasi lebih lanjut, lihat Pengantar metode pembayaran.

Metode langganan:

Inferensi model (pemanggilan): Klik di sini untuk membeli rencana penghematan inferensi LLM.

Setelah 15 Maret 2024, Model Studio meningkatkan layanan komersialnya. Semua layanan langganan diubah menjadi layanan bayar sesuai pemakaian. Oleh karena itu, Anda tidak perlu memperpanjang layanan secara manual. Metode penagihan bayar sesuai pemakaian digunakan secara otomatis.

• Inferensi model dan pelatihan model

  Anda tidak akan lagi dikenakan biaya setelah Anda berhenti menggunakan fitur terkait. Untuk inferensi model, Anda dapat menghapus Kunci API (Singapore atau Beijing) untuk mencegah tagihan lebih lanjut dari panggilan yang tidak disengaja.

  

Anda dapat mengatur peringatan pengeluaran bulanan. Atur ambang batas peringatan ke nilai rendah. Alibaba Cloud akan memberi tahu Anda saat terjadi biaya tak terduga untuk membantu Anda menghindari kerugian lebih lanjut.

Anda dapat melihat jumlah panggilan dan konsumsi token untuk model tertentu di halaman Model Observation (Singapore atau Beijing).

Token adalah unit dasar yang digunakan model untuk merepresentasikan teks. Anda dapat menganggapnya sebagai karakter atau kata.

• Dalam bahasa Mandarin, satu token biasanya satu karakter atau kata. Misalnya, teks "你好，我是通义千问" (Halo, saya Qwen) dikonversi menjadi ['你好', '，', '我是', '通', '义', '千', '问'].

• Untuk teks bahasa Inggris, satu token biasanya sesuai dengan tiga hingga empat huruf atau satu kata. Misalnya, "Nice to meet you." dikonversi menjadi ['Nice', ' to', ' meet', ' you', '.'].

Model bahasa besar (LLM) yang berbeda mungkin menggunakan metode berbeda untuk membagi token. Anda dapat menggunakan SDK untuk melihat data token yang dibagi oleh model Qwen di mesin lokal Anda.

Lihat data token yang dibagi oleh model Qwen:

# Pastikan SDK Python DashScope telah diinstal.
from dashscope import get_tokenizer

# Dapatkan objek tokenizer. Saat ini, hanya model seri Qwen yang didukung.
tokenizer = get_tokenizer('qwen-turbo')

input_str = 'Qwen memiliki kemampuan yang kuat.'

# Bagi string menjadi token dan konversi menjadi ID token.
tokens = tokenizer.encode(input_str)
print(f"ID token setelah pembagian adalah: {tokens}.")
print(f"Terdapat {len(tokens)} token setelah pembagian.")

# Konversi ID token menjadi string dan cetak.
for i in range(len(tokens)):
    print(f"String yang sesuai dengan ID token {tokens[i]} adalah: {tokenizer.decode(tokens[i])}")

// Hak Cipta (c) Alibaba, Inc. dan afiliasinya.
// versi SDK dashscope >= 2.13.0
import java.util.List;
import com.alibaba.dashscope.exception.NoSpecialTokenExists;
import com.alibaba.dashscope.exception.UnSupportedSpecialTokenMode;
import com.alibaba.dashscope.tokenizers.Tokenizer;
import com.alibaba.dashscope.tokenizers.TokenizerFactory;

public class Main {
  public static void testEncodeOrdinary(){
    Tokenizer tokenizer = TokenizerFactory.qwen();
    String prompt ="Jika Anda harus berjalan jarak yang sangat jauh, berapa lama waktu yang dibutuhkan untuk tiba? ";
    // encode string tanpa token khusus
    List<Integer> ids = tokenizer.encodeOrdinary(prompt);
    System.out.println(ids);
    String decodedString = tokenizer.decode(ids);
    assert decodedString == prompt;
  }

  public static void testEncode() throws NoSpecialTokenExists, UnSupportedSpecialTokenMode{
    Tokenizer tokenizer = TokenizerFactory.qwen();
    String prompt = "<|im_start|>system\nAnda adalah asisten yang membantu.<|im_end|>\n<|im_start|>user\nSan Francisco adalah<|im_end|>\n<|im_start|>assistant\n";
    // encode string dengan token khusus <|im_start|> dan <|im_end|>
    List<Integer> ids = tokenizer.encode(prompt, "all");
    // 24 token [151644, 8948, 198, 7771, 525, 264, 10950, 17847, 13, 151645, 198, 151644, 872, 198, 23729, 80328, 9464, 374, 264, 151645, 198, 151644, 77091, 198]
    String decodedString = tokenizer.decode(ids);
    System.out.println(ids);
    assert decodedString == prompt;

  }

  public static void main(String[] args) {
      try {
        testEncodeOrdinary();
        testEncode();
      } catch (NoSpecialTokenExists | UnSupportedSpecialTokenMode e) {
        e.printStackTrace();
      }
  }
}

Tokenizer lokal membantu memperkirakan jumlah token dalam teks Anda. Namun, hasilnya hanya sebagai referensi dan mungkin tidak sesuai persis dengan hitungan di sisi server. Untuk informasi lebih lanjut tentang tokenizer Qwen, lihat referensi tokenizer.

Lihat dokumen Pesan kesalahan untuk solusi yang sesuai.

Data kuota gratis diperbarui setiap jam. Selama jam sibuk, mungkin terjadi keterlambatan hingga satu jam. Oleh karena itu, Anda perlu melihat kuota tersisa satu jam setelah pemanggilan model selesai.

Dalam percakapan multi-putaran, input dan output dari percakapan historis ditagih sebagai token input untuk putaran baru.

Anda tidak dikenai biaya untuk membuat aplikasi. Namun, jika Anda memanggil aplikasi untuk pasangan tanya jawab, Anda dikenai biaya pemanggilan model berdasarkan model yang dipanggil.

Jika kuota gratis belum habis, tidak ada tagihan yang dihasilkan dan tidak ada biaya yang dikenakan. Dalam kasus ini, rencana penghematan tidak digunakan untuk pemotongan. Rencana penghematan digunakan untuk pemotongan setelah kuota gratis habis dan tagihan dihasilkan.

Jika akun Anda memiliki pembayaran tertunda, Anda tidak dapat melakukan pemanggilan model meskipun memiliki kuota gratis (hanya Singapura) atau paket sumber daya. Anda dapat membuka halaman Isi Ulang untuk mengisi ulang akun Anda.

1. Layanan belum diaktifkan

Gunakan akun Alibaba Cloud Anda untuk membuka Konsol Model Studio (Singapura atau Beijing) dan aktifkan layanan model Model Studio.

2. Saldo akun tidak mencukupi

• Periksa saldo: Masuk ke halaman Biaya dan Pengeluaran untuk memeriksa apakah saldo Anda mencukupi.

• Isi ulang: Klik Top-up & Remittance, masukkan jumlah yang diperlukan, dan selesaikan pembayaran.

3. Atur peringatan pengeluaran untuk mencegah kesalahan berulang

• Konfigurasi peringatan: Untuk informasi lebih lanjut, lihat Cara mengatur peringatan pengeluaran tinggi? untuk menetapkan ambang batas pengeluaran. Sistem mengirimkan pengingat saat jumlah mencapai ambang batas.

Kemungkinan alasannya adalah:

• Sistem penagihan diperbarui setiap jam. Selama jam sibuk, mungkin terjadi keterlambatan hingga satu jam. Misalnya, biaya yang dikeluarkan antara pukul 16.00 dan 17.00 mungkin tidak ditagih hingga pukul 19.30.00.

• Model gratis dan inferensi model dalam kuota gratis (hanya Singapura) tidak menghasilkan tagihan. Hanya penggunaan yang melebihi kuota gratis yang menghasilkan tagihan.

Di halaman Analisis Biaya, atur Cost Type ke Pretax Amount, atur Time Unit ke Month, pilih rentang waktu, dan atur Product Name ke Alibaba Cloud Model Studio. Anda kemudian dapat melihat biaya Model Studio dalam rentang waktu yang dipilih.

Di halaman Analisis Biaya, atur Cost Type ke Pretax Amount, atur Time Granularity ke Month, pilih rentang waktu, dan atur Product Detail ke Inferensi Model Dasar Model Studio. Anda kemudian dapat melihat total biaya inferensi model dalam rentang waktu yang dipilih.

Ambil qwen-max sebagai contoh. Di halaman Detail Tagihan, pilih Bulan Penagihan. Atur Commodity Name ke Model Studio Foundation Model Inference dan klik Search.

Di kolom ID Instans, temukan semua instans yang terkait dengan qwen-max. Jumlahkan jumlah sebelum pajak untuk instans-instans ini untuk mendapatkan total biaya inferensi untuk model qwen-max dalam siklus penagihan yang dipilih.

Tagihan untuk inferensi, penerapan, dan pelatihan model yang dihasilkan setelah 7 September 2024 dapat direkonsiliasi berdasarkan ApiKeyID, ID ruang kerja, nama model, jenis input/output, saluran pemanggilan, dan tag instans.

Di halaman Detail Tagihan, pilih Bulan Penagihan. Atur Commodity Name ke Model Studio Foundation Model Inference dan klik Search. Unduh hasil pencarian ke mesin lokal Anda dan rekonsiliasi tagihan berdasarkan konten di kolom ID Instans.

Asset/Resource Instance ID lengkap, seperti 12xxx;llm-xxx;qwen-max;output_token;app, masing-masing merepresentasikan ApiKeyID;ID Ruang Kerja;Nama Model;Jenis Input/Output;Saluran Pemanggilan. Jika Asset/Resource Instance ID Anda tidak mengandung ApiKeyID, item biaya tersebut dihasilkan oleh pemanggilan dari konsol.

Instance ID lengkap, seperti text_token;llm-xxx;qwen-max;output_token;app, masing-masing merepresentasikan Jenis Penagihan;ID Ruang Kerja;Nama Model;Jenis Input/Output;Saluran Pemanggilan.

Tag instans lengkap, seperti key:test value:test, masing-masing merepresentasikan Kunci Tag (key) dan Nilai Tag (value). Jika instans memiliki dua tag atau lebih, pasangan kunci-nilai tag dicantumkan secara berurutan dan dipisahkan dengan titik koma, seperti key:test1 value:test1; key:test2 value:test2.

Buka halaman Manajemen Kunci API Model Studio dan konfirmasi kunci API yang sesuai dengan ApiKeyID untuk merekonsiliasi tagihan berdasarkan kunci API.

Buka halaman Workspace Management (Singapore atau Beijing) dan konfirmasi ruang kerja yang sesuai dengan ID ruang kerja untuk merekonsiliasi tagihan berdasarkan ruang kerja.

Saluran panggilan termasuk app, bmp, dan assistant-api. app menunjukkan bahwa model dipanggil melalui aplikasi. bmp menunjukkan bahwa model dipanggil melalui Playground (Singapore atau Beijing). assistant-api menunjukkan bahwa model dipanggil melalui API Asisten.

Tagihan sumber daya cloud bayar sesuai pemakaian Not diselesaikan secara real-time. Instead, sistem terlebih dahulu membekukan jumlah yang dikonsumsi tetapi belum diselesaikan dari kredit yang tersedia akun. Pada awal bulan berikutnya, setelah tagihan bulanan akhir dikeluarkan, tagihan untuk bulan sebelumnya benar-benar dipotong.

Anda dapat mengatur peringatan pengeluaran bulanan di pusat Biaya dan Pengeluaran.

• Hentikan biaya setelah kuota gratis Anda habis

  Untuk menghindari biaya tambahan, Model Studio menyediakan fitur Hanya kuota gratis.

• Batasi jumlah pemanggilan model atau token yang dikonsumsi per satuan waktu

  Tetapkan batas laju untuk sub-ruang kerja. Buka halaman Ruang Kerja, temukan sub-ruang kerja yang dituju, dan klik Authorization & Throttling Settings. Sesuaikan Request Number Limit dan Token Limit untuk setiap model.

• Atur peringatan untuk konsumsi token

  Tetapkan aturan peringatan untuk biaya model. Untuk informasi lebih lanjut, lihat Pengamatan penggunaan dan kinerja.

  • Jika layanan Pemantauan lanjutan belum diaktifkan, akun Alibaba Cloud harus terlebih dahulu beralih ke ruang kerja yang dituju dan kemudian mengaktifkan atau menonaktifkannya secara manual di halaman Pengamatan Model. Untuk menggunakan pengguna RAM, akun Alibaba Cloud harus terlebih dahulu memberikan izin yang diperlukan kepada pengguna RAM.

  • Buka halaman Peringatan Model dan ikuti petunjuk untuk mengaktifkan layanan CloudMonitor.

  • Klik Create Alert Rule untuk mengonfigurasi aturan. Saat metrik tertentu menjadi tidak normal, sistem akan memberi tahu Anda atau tim O&M Anda.

  Peringatan model hanya memicu notifikasi dan tidak menghentikan pemanggilan model.