Aplikasi agen Alibaba Cloud Model Studio memungkinkan Anda menghubungkan model bahasa besar (LLM) ke alat eksternal dan basis pengetahuan tanpa kode, sehingga memperluas kemampuan model melebihi batas bawaannya.
-
Batasan akses Konsol: Hanya pengguna yang membuat aplikasi Alibaba Cloud Model Studio di Wilayah Singapura sebelum 21 April 2025 yang dapat mengakses tab Application Development.
Tab ini mencakup fitur-fitur berikut: Applications (agent application dan workflow application), Components (prompt engineering dan plug-in), serta Data (knowledge base dan application data). Semua fitur ini masih dalam tahap pratinjau. Gunakan dengan hati-hati di lingkungan produksi.
-
Batasan panggilan API: Hanya pengguna yang membuat aplikasi Alibaba Cloud Model Studio di Wilayah Singapura sebelum 21 April 2025 yang dapat memanggil API application data, knowledge base, dan prompt engineering.
Cara kerja
Agen menggunakan prompt untuk mengoordinasikan alat eksternal dan menyelesaikan tugas kompleks. Saat menerima permintaan, LLM mengidentifikasi maksud pengguna, merencanakan tugas, memanggil alat eksternal yang diperlukan, lalu mengintegrasikan hasilnya untuk menghasilkan respons akhir.
Gunakan agen ketika Anda ingin model secara otonom memutuskan alat mana yang harus digunakan untuk suatu tugas, bukan mengikuti alur kerja yang dirancang secara manual.
Agen Model Studio mendukung kemampuan inti berikut:
-
Basis pengetahuan (RAG): Menghubungkan agen ke basis pengetahuan eksternal untuk menjawab pertanyaan berdasarkan data pribadi Anda. Fitur ini berguna untuk skenario tanya-jawab di bidang khusus yang tidak tercakup dalam data pelatihan model.
-
Plugin: Memanggil alat platform yang telah dibuat sebelumnya untuk tugas seperti eksekusi kode, pembuatan gambar, atau kueri cuaca. Fitur ini berguna ketika agen perlu melakukan tindakan, bukan hanya berdialog.
Mulai cepat
Buat agen dasar
-
Buka halaman Application Management di Konsol Alibaba Cloud Model Studio. Klik + Create Application. Pada tab Agent Application, klik Create Now.
-
Pada halaman konfigurasi aplikasi, pilih model dari daftar drop-down model, misalnya
Qwen-Plus. Anda dapat mempertahankan pengaturan default untuk parameter lainnya. -
Setelah aplikasi dibuat, masukkan
Hellodi kotak percakapan sebelah kiri untuk mengujinya.
Kemampuan agen
Anda dapat memperluas kemampuan agen dengan memilih model, mengoptimalkan prompt sistem, menambahkan basis pengetahuan (RAG), dan memanggil plugin.
Model
Model adalah komponen inti yang menggerakkan penalaran dan pengambilan keputusan agen. Agen Model Studio mendukung model seri Qwen dan model yang dideploy secara kustom.
-
Pilih model
Dari daftar drop-down model, pilih model seperti
Qwen-Plus. Klik More Models untuk memilih dari model lain yang tersedia. -
Konfigurasikan parameter
Klik ikon pengaturan
di sebelah kanan daftar drop-down model untuk mengonfigurasi parameter berikut:-
Maximum response length: Panjang maksimum respons yang dihasilkan model, tidak termasuk prompt. Nilai maksimum bervariasi tergantung model.
-
Context turns: Jumlah maksimum putaran percakapan historis yang dimasukkan ke input model. Angka yang lebih tinggi membantu mempertahankan konteks percakapan yang lebih baik.
-
temperature: Mengontrol tingkat keacakan konten yang dihasilkan. Nilai yang lebih tinggi meningkatkan variasi, sedangkan nilai yang lebih rendah meningkatkan konsistensi. Nilainya harus berada dalam rentang [0, 2).
-
enable_thinking: Mengaktifkan atau menonaktifkan mode berpikir model. Parameter ini hanya tersedia untuk model yang mendukung.
Jika mode berpikir diaktifkan, model melakukan penalaran yang lebih mendalam sebelum menghasilkan respons, sehingga meningkatkan konsumsi token.
-
Prompt sistem
Prompt sistem menetapkan peran, perilaku, dan batasan agen agar responsnya konsisten dan berorientasi tugas. Untuk menulis prompt yang efektif, pertimbangkan poin-poin berikut:
-
Tentukan persona: Tentukan peran yang harus diambil model dan keahlian yang harus dimilikinya.
-
Tentukan format output: Jelaskan struktur, panjang, atau gaya respons yang diinginkan.
-
Tetapkan batasan: Beri instruksi kepada model tentang konten yang harus dihindari atau aturan yang harus diikuti.
-
Pandu penggunaan alat: Sebutkan nama alat secara eksplisit dan jelaskan kapan alat tersebut harus digunakan.
-
Konfigurasikan prompt
Atur prompt sistem menjadi
Please answer my questions in the style of 'One Hundred Years of Solitude'. Berikut perbandingan hasilnya:-
Tanpa prompt sistem: Ketika pengguna bertanya "Who are you?", model memberikan perkenalan bawaan: "I am Qwen, a large language model developed by the Tongyi Lab of Alibaba Group. I can help you answer questions, provide information, create content, write code, and perform logical reasoning."
-
Dengan prompt sistem: Di antarmuka text conversation, ketika pengguna bertanya "Who are you?", AI memperkenalkan dirinya dengan gaya sastra "One Hundred Years of Solitude", merujuk elemen-elemen novel seperti Macondo dan keluarga Buendía. Hal ini menunjukkan bahwa prompt sistem telah berlaku. Statistik interaksi menunjukkan 234 kata, 245 input token, dan 177 output token.
-
-
Basis pengetahuan (RAG)
Retrieval-augmented generation (RAG) memungkinkan agen mengkueri basis pengetahuan eksternal dan menggunakan konten yang diambil sebagai dasar jawaban. Untuk tanya-jawab bersifat privat atau spesifik domain, RAG dapat meningkatkan akurasi secara signifikan dan mengurangi halusinasi. Untuk informasi selengkapnya, lihat Create and use a knowledge base.
Catatan: Teks yang diambil dari basis pengetahuan mengonsumsi jendela konteks model. Anda mungkin perlu menyesuaikan strategi pengambilan dan panjang teks yang diambil agar jendela konteks digunakan secara efisien dan tidak melebihi batasnya.
Plugin
Agen memanggil plugin untuk menjalankan tugas tertentu, seperti eksekusi kode, pencarian web, dan generasi teks-ke-gambar. Plugin berguna ketika agen perlu melakukan operasi atau menghasilkan konten di luar kemampuan aslinya. Model Studio menyediakan berbagai plugin resmi dan juga mendukung plugin kustom. Untuk informasi selengkapnya, lihat Plugin overview.
Interaksi agen
Percakapan teks
Percakapan teks adalah metode utama untuk berinteraksi dengan agen dan mendukung percakapan multi-putaran.
Percakapan teks mendukung dua metode input:
-
Input teks: Masukkan teks untuk berdialog dengan agen.
-
Unggah file: Unggah file, seperti dokumen, gambar, video, atau klip audio, sebagai lampiran.
Publikasi dan pemanggilan
Setelah dipublikasikan, agen dapat dipanggil melalui API/SDK, dipublikasikan ke platform pihak ketiga seperti DingTalk dan WeChat Official Accounts, atau dipublikasikan sebagai komponen yang dapat digunakan ulang untuk integrasi ke dalam sistem bisnis Anda.
Publikasikan aplikasi
Anda harus mempublikasikan aplikasi sebelum dapat memanggil atau mengintegrasikannya.
Di pojok kanan atas halaman manajemen aplikasi agen, klik Publish lalu klik Confirm Publish.
Saat mempublikasikan ulang aplikasi, sebuah kotak dialog akan muncul dan menampilkan perubahan yang dilakukan sejak publikasi terakhir.
Jika aplikasi dibuat oleh Pengguna RAM, pastikan Anda memiliki izin ram:CreateServiceLinkedRole sebelum mempublikasikan. Untuk informasi selengkapnya, lihat service-linked role.
Panggilan API
Pada tab Publish Channel aplikasi agen Anda, klik View API di samping API Call untuk melihat metode API.
Ganti YOUR_API_KEY dengan Kunci API Model Studio Anda yang sebenarnya sebelum memanggil API.
Manajemen agen
Salin dan hapus
Di halaman My Applications, temukan kartu aplikasi. Dari menu , Anda dapat menyalin, menghapus, atau mengganti nama agen.
Skema umum untuk menyalin aplikasi meliputi:
-
Membuat versi uji yang menggunakan prompt atau model berbeda.
-
Menyesuaikan agen untuk audiens atau kasus penggunaan yang berbeda.
-
Membuat cadangan sebelum melakukan perubahan konfigurasi besar.
Manajemen versi
Manajemen versi memungkinkan Anda mengedit deskripsi versi historis atau kembali ke versi yang sebelumnya dipublikasikan.
-
Pada tab Configure aplikasi agen, klik Version Management di pojok kanan atas bilah navigasi atas.
-
Dalam daftar versi historis, pilih versi target. Panel Version History akan terbuka dan menampilkan garis waktu yang mencakup current draft, online version (ditandai dengan tag Latest), dan entri versi historis lainnya. Setiap entri mencantumkan ID versi, waktu publikasi, penerbit, dan informasi versi.
-
Untuk mengedit informasi versi, arahkan kursor ke ikon edit
lalu klik. Di kotak dialog Edit Version Description, lakukan perubahan lalu klik OK. -
Untuk menggunakan versi historis ini, klik Overwrite Current Draft, lalu klik Confirm di kotak dialog konfirmasi.
Tindakan ini akan menimpa draft saat ini dengan konten dari versi historis yang dipilih.
-
Penagihan
Penagihan agen mencakup hal-hal berikut:
-
Panggilan model
Agen dikenai biaya panggilan model, yang tergantung pada jenis model dan token usage.
Untuk detail penagihan, lihat Konsol Model Studio.
-
Basis pengetahuan
-
Fitur basis pengetahuan gratis untuk waktu terbatas.
-
Chunk teks yang diambil dari basis pengetahuan meningkatkan jumlah input token, yang dapat menaikkan biaya panggilan model.
-
-
MCPs
-
Beberapa Model Customization Platforms (MCPs) resmi dikenai biaya berdasarkan panggilan model, seperti MCP untuk teks-ke-gambar, teks-ke-video, dan sintesis suara.
-
Beberapa layanan MCP melibatkan panggilan API pihak ketiga, yang dapat dikenai biaya oleh penyedia layanan pihak ketiga tersebut. Model Studio tidak membebankan biaya tambahan untuk panggilan tersebut.
-
-
Memori jangka panjang
-
Penyimpanan data untuk memori jangka panjang gratis.
-
Selama sesi tanya-jawab, sistem menggabungkan konten dari memori ke dalam prompt dan meneruskannya ke model bahasa besar, sehingga meningkatkan konsumsi token. Token yang dikonsumsi oleh konten dari memori saat ini tidak dikenai biaya.
-
Model yang didukung
Daftar ini mungkin belum mutakhir. Untuk daftar terbaru model yang didukung, rujuk antarmuka aplikasi agen.
-
Qwen-Plus
-
Qwen-Max
-
QwenVL-Max
-
QwenVL-Plus
-
Qwen-Turbo