Ikhtisar fitur Assistant API - Alibaba Cloud Model Studio

Assistant API dirancang untuk membantu pengembang membangun aplikasi model seperti asisten pribadi, panduan belanja pintar, dan asisten rapat. Dibandingkan dengan API generasi teks, Assistant API memiliki kemampuan bawaan untuk manajemen dialog dan pemanggilan alat, sehingga mengurangi kesulitan dan biaya pengembangan.

Apa itu asisten

Asisten adalah jenis asisten percakapan AI yang ditandai dengan:

Dukungan untuk beberapa model: Asisten dapat dikonfigurasi dengan berbagai model dasar dan ditingkatkan melalui instruksi sistem untuk menyesuaikan kepribadian dan kemampuan model.
Pemanggilan alat: Asisten dapat menggunakan berbagai alat, termasuk alat resmi dari Model Studio seperti interpreter kode Python, serta alat kustom melalui pemanggilan fungsi.
Manajemen percakapan: Asisten dapat mengelola percakapan menggunakan objek thread, yang menyimpan riwayat pesan dan memotongnya ketika melebihi panjang konteks model. Objek thread dibuat sekali dan selanjutnya diperbarui dengan pesan saat pengguna merespons.

Untuk mencoba asisten, Anda cukup membuat aplikasi agen di konsol, tanpa memerlukan keterampilan pemrograman. Sebagai alternatif, Anda dapat mengunjungi Memulai dengan Assistant API untuk panduan langkah demi langkah dalam membuat asisten dengan Assistant API dan mengintegrasikannya dengan kode bisnis Anda yang ada.

Catatan

Aplikasi agen dan asisten sama-sama merupakan Aplikasi LLM, namun fitur dan metode manajemen (buat, baca, perbarui, dan hapus) mereka berbeda.

Aplikasi agen: Dirancang untuk tanpa kode atau kode rendah, dapat dikelola sepenuhnya melalui konsol.
Asisten: Dirancang untuk kode murni, dapat dikelola hanya melalui Assistant API.

Perbedaan dari API generasi teks

Elemen utama dari API generasi teks adalah pesan, yang dapat dihasilkan oleh model seperti Qwen-Plus dan Qwen-Max. API ringan ini memerlukan pengelolaan manual status percakapan, definisi alat, penelusuran basis pengetahuan, dan eksekusi kode untuk membangun aplikasi dasar.

Di atas API generasi teks, Assistant API memperkenalkan elemen inti berikut:

Objek Pesan: Membungkus peran dan konten informasi percakapan, mirip dengan pesan dalam API generasi teks.
Objek Asisten: Membungkus model dasar, instruksi default, dan alat.
Objek Thread: Mewakili status percakapan saat ini.
Objek Run: Menjalankan asisten pada thread, termasuk tanggapan teks dan penggunaan alat.

Berikut ini menjelaskan bagaimana elemen-elemen ini bekerja sama untuk menciptakan asisten.

Metode interaksi

Assistant API menggunakan mekanisme thread untuk memastikan pesan diproses secara berurutan, menjaga kontinuitas percakapan. Prosesnya adalah sebagai berikut:

Buat pesan: Pengguna membuat instance pesan dengan metode Message.create(), menetapkannya ke thread tertentu untuk mempertahankan asosiasi konteks.
Inisialisasi lingkungan runtime: Fungsi Run.create() menginisialisasi lingkungan runtime objek asisten, menyiapkan konfigurasi yang diperlukan untuk pemrosesan pesan.
Tunggu hasil: Fungsi wait() menghentikan eksekusi hingga objek asisten menyelesaikan pemrosesan dan mengembalikan hasil, memastikan sinkronisasi program dan urutan data.

Sebagai contoh, pertimbangkan asisten gambar sederhana:

Masukan pengguna: Pengguna memasukkan dua pesan:
- Masukan 1: "Anda adalah seorang pelukis"
- Masukan 2: "Gambar seekor kucing"
Pembuatan pesan: Setiap masukan pengguna dibungkus menjadi instance pesan dan dikirim ke thread menggunakan metode Message.create().
Pemrosesan thread: Objek thread membuat sesi, menerima pesan, dan meneruskannya ke objek asisten menggunakan metode Thread.create().
Pemrosesan asisten: Objek asisten memproses setiap pesan berdasarkan konteks yang diberikan:
- Pesan 1 ("Anda adalah seorang pelukis") diidentifikasi sebagai masukan pengguna.
- Pesan 2 ("Gambar seekor kucing") juga diidentifikasi sebagai masukan pengguna.
Tanggapan asisten: Objek asisten memproses pesan pengguna dan menghasilkan Pesan 3 dengan peran asisten, yang mencakup URL gambar kucing.
Eksekusi dan menunggu: Objek run dibuat dan dimulai menggunakan metode Run.create(), dan asisten menunggu tugas selesai selama fase Run.wait().

Dukungan model

Catatan

Untuk kompatibilitas model dengan Assistant API, lihat hasil eksekusi aktual. Untuk informasi lebih lanjut tentang model, lihat Model.

Dukungan alat

Catatan

Untuk kompatibilitas plug-in dengan Assistant API, lihat hasil eksekusi aktual. Untuk informasi lebih lanjut tentang plug-in, lihat Plug-in.

Alat	Pengenal	Deskripsi
Interpreter kode Python	code_interpreter	Memfasilitasi eksekusi kode Python, ideal untuk tugas pemrograman, matematika, dan analisis data.
Pembuatan gambar	text_to_image	Mentransformasikan deskripsi teks menjadi gambar visual, mendiversifikasi format respons.
Plug-in kustom	${plugin_id}	Memungkinkan integrasi dengan antarmuka bisnis kustom untuk memperluas fungsionalitas AI.
Pemanggilan fungsi	function	Menjalankan fungsi yang ditentukan pada perangkat lokal, independen dari layanan jaringan eksternal.

Memulai

Jika Anda ingin menguji LLM atau memulai dengan Assistant API:

Playground: Uji kemampuan inferensi LLM untuk menemukan yang paling cocok untuk asisten Anda.
Memulai: Panduan dasar dan contoh penggunaan Assistant API untuk membantu Anda memulai dengan asisten Anda.
Referensi API: Penjelasan rinci tentang parameter untuk membantu Anda menyelesaikan tantangan pengembangan.