Templat penyulingan pemanggilan alat Agen - Platform For AI

Templat penyulingan pemanggilan alat Agen membangun set data SFT pemanggilan alat multi-putaran secara massal. Dimulai dari persona peran, templat ini mensintesis tugas multi-langkah, mengaburkan persyaratan, memvalidasi definisi alat, menjalankan lintasan pemanggilan alat, dan memilih lintasan terbaik berdasarkan penilaian rubrik—menghasilkan data pelatihan yang mengajarkan model kecil cara melakukan pemanggilan alat multi-putaran dan dekomposisi tugas.

Ikhtisar templat

Templat ini mengajarkan model kecil cara melakukan pemanggilan alat multi-putaran dan dekomposisi tugas. Pipeline dimulai dari persona peran untuk mensintesis tugas multi-langkah serta mensimulasikan permintaan pengguna yang tidak jelas dan validasi definisi alat. Model guru kemudian menjalankan lintasan pemanggilan alat secara lengkap beberapa kali dan memilih lintasan terbaik berdasarkan penilaian rubrik guna menghasilkan set data SFT untuk pelatihan kemampuan Agen.

Penting

Templat ini hanya mendukung satu tahap: konstruksi data penyulingan. Templat ini tidak mencakup tahap pelatihan model siswa. Setelah penyulingan selesai, latih sendiri model siswa menggunakan set data SFT yang dihasilkan.

Pipeline penyulingan pemanggilan alat Agen terdiri atas langkah-langkah berikut:

Langkah	Nama	Deskripsi
1	Task synthesis	Sintesis tugas yang memerlukan operasi multi-langkah dan kolaborasi alat, dipandu oleh persona peran.
2	Requirement fuzzing	Menulis ulang tugas yang jelas menjadi ekspresi samar seperti yang biasanya dibuat pengguna nyata, untuk melatih model agar secara proaktif mengklarifikasi dan mengajukan pertanyaan lanjutan.
3	Tool validation	Memverifikasi bahwa definisi alat yang diperlukan oleh setiap tugas lengkap dan dapat digunakan. Buang tugas dengan deskripsi alat yang hilang atau bertentangan.
4	Trajectory rollout	Model guru bertindak sebagai asisten dan menyelesaikan setiap tugas, sambil mensimulasikan respons alat dan tanggapan lanjutan pengguna. Setiap tugas dijalankan beberapa kali untuk seleksi selanjutnya.
5	Rubric-based selection	Memberi skor setiap lintasan berdasarkan rubrik dan memilih lintasan dengan performa terbaik dari beberapa kali jalur eksekusi sebagai target pelatihan.
6	SFT dataset construction	Menggabungkan lintasan terpilih menjadi set data pelatihan SFT percakapan multi-putaran.

Prosedur

Masuk ke Konsol PAI. Di panel navigasi sebelah kiri, pilih Model Application > Model Distillation (ModelDistill).
Klik Create task untuk menuju tab Distillation Template, atau langsung navigasi ke tab Distillation Template.
Pilih Agent Tool Call Distillation, klik Use Template, lalu buka halaman Create Distillation Task. Konfigurasikan parameter utama yang dijelaskan di bawah ini dan biarkan nilai default untuk pengaturan lainnya.
Konfigurasikan Basic Configuration:
- Task name: Diisi otomatis oleh sistem.
- Output Path: Tentukan path OSS yang memiliki izin akses, misalnya oss://mybucket.oss-cn-hangzhou-internal.aliyuncs.com/agent-distill/.
  Catatan
  Buat direktori output terpisah untuk setiap tugas penyulingan agar file tidak tertimpa. Bucket OSS harus berada di Wilayah yang sama dengan layanan PAI.
Klik Next untuk menuju Build distillation data:
- Teacher model: Atur Teacher Model Source ke Token Service, lalu pilih model dengan kemampuan pemanggilan alat yang kuat dari daftar drop-down, seperti qwen3.8-max.
- Dataset: Pilih direktori atau file OSS yang memiliki izin akses. Anda dapat mengunduh dan menggunakan data sampel.
- Distillation Configuration: Nilai default telah diisi sebelumnya. Ubah sesuai kebutuhan.
  - agent.max_steps: Jumlah maksimum putaran interaksi per tugas. Default: 20.
  - agent.repeat_times: Jumlah iterasi rollout per tugas. Default: 2. Semakin banyak rollout, semakin tinggi kualitas data tetapi juga meningkatkan biaya.
  - Untuk parameter spesifik templat lainnya (seperti suhu peran dan rubrik), lihat bagian Configuration di bawah ini.
- Compute Resource: Atur Resource Type ke General Computing, atur Source ke Public Resources, lalu pilih Instance Type yang sesuai dari Job Resource, seperti ecs.c6.large.
Klik Create, lalu klik OK pada dialog konfirmasi penagihan. Halaman akan dialihkan ke halaman konfigurasi dasar detail tugas, tempat Anda dapat melacak status tugas.
Catatan
Templat penyulingan pemanggilan alat Agen hanya mendukung mode satu tahap (konstruksi data penyulingan). Pelatihan model siswa tidak didukung.

Configuration

Bagian ini menjelaskan parameter konfigurasi utama yang spesifik untuk templat penyulingan pemanggilan alat Agen. Konfigurasi dasar dan konfigurasi resource sama seperti penyulingan umum. Hanya perbedaan parameter spesifik templat yang tercantum di sini.

Basic configuration

Konfigurasi dasar mencakup nama tugas dan path output. Path output merupakan direktori root untuk semua artefak tugas, termasuk set data penyulingan. Anda tidak perlu menentukan path output terpisah untuk set data tersebut.

Distillation data construction

Teacher model

Templat penyulingan pemanggilan alat Agen hanya memerlukan satu model guru, yang menjalankan empat peran: pemecah masalah, simulator alat, simulator pengguna, dan pemberi skor. Pilih model dengan kemampuan pemanggilan alat yang kuat dan dukungan konteks panjang. Sumber model guru hanya mendukung PAI Token Service.

Dataset

Pilih direktori atau file input. Persyaratan format data adalah sebagai berikut:

Format: File seed JSONL yang berisi persona peran.
Tugas dan lintasan pemanggilan alat disintesis secara otomatis oleh pipeline. Tidak diperlukan penulisan manual.

Data sampel:

{"id": "agent_001", "background": "Seorang mahasiswa biologi kelautan sedang merencanakan kunjungan lapangan ke stasiun riset pesisir dan perlu membandingkan harga sewa peralatan, jendela cuaca, serta persyaratan izin."}
{"id": "agent_002", "background": "Pemilik usaha kecil ingin menyelenggarakan konser lokal dengan anggaran terbatas dan membutuhkan bantuan mencari lokasi, menghubungi artis, serta merencanakan promosi."}
{"id": "agent_003", "background": "Seorang developer sedang bersiap memigrasikan layanan ke wilayah cloud lain dan perlu menginventarisasi dependensi, memperkirakan jendela downtime, serta menyusun rencana rollback."}

Distillation configuration

Konfigurasi penyulingan disediakan dalam format YAML dengan nilai default yang direkomendasikan oleh tim algoritma. Sesuaikan parameter sesuai kebutuhan. Tabel berikut mencantumkan parameter utama beserta deskripsinya.

Bagian	Deskripsi
dataset	`output_path` (default: `distillation_dataset.jsonl`): Lintasan Agen dikirimkan apa adanya dalam format .jsonl, bukan diratakan menjadi pasangan Q&A satu putaran. Anda dapat mengubahnya ke path file .jsonl relatif yang berbeda.
backend	`timeout` (default: `1200.0`): Waktu tunggu maksimum per permintaan dalam detik. Harus mencakup respons yang mengisi `max_tokens` (16384). Dengan throughput teramati 38–58 token/detik, waktu ini memerlukan lebih dari 400 detik. `max_retries` (default: `3`): Jumlah retry tingkat jaringan per permintaan.
generation	`system_prompt` (default: "You are a helpful assistant that follows instructions precisely and uses XML tags for structured output."): Prompt sistem yang digunakan saat model guru menghasilkan lintasan. Mengharuskan model mengikuti instruksi secara tepat dan menggunakan tag XML untuk output terstruktur. `temperature` (default: `0.7`): Mengontrol keragaman generasi. Nilai 0.7 menyeimbangkan keragaman dan stabilitas. `max_tokens` (default: `16384`): Jumlah maksimum token per generasi. Lintasan pemanggilan alat multi-putaran panjang, sehingga diperlukan ruang yang cukup.
sft	`skip_empty` (default: `true`): Lewati sampel kosong. `min_length` (default: `10`): Saring sampel yang terlalu pendek. `max_length` (default: `131072`): Lintasan pemanggilan alat multi-putaran panjang. Batas atas lebih tinggi daripada penyulingan teks.
agent	`max_steps` (default: `20`): Jumlah maksimum langkah pemanggilan alat per lintasan. `repeat_times` (default: `2`): Jumlah iterasi rollout per tugas untuk seleksi berbasis rubrik. `max_tool_calls` (default: `20`): Jumlah maksimum pemanggilan alat per putaran. `use_rubrics` (default: `true`): Apakah akan mengaktifkan seleksi berbasis rubrik.
pipeline	`agent_trajectory`: Suhu pemecahan masalah adalah 0.7 (memerlukan keragaman). Suhu simulasi alat dan simulasi pengguna adalah 0.5 (memerlukan stabilitas). `agent_rubrics`: Suhu 0.0 (penilaian harus dapat direproduksi). `solution_top_k` default bernilai 3 (simpan lintasan dengan skor tertinggi per tugas). Parameter max_workers di setiap tahap mengontrol jumlah thread konkuren. Turunkan nilai ini jika Anda mengalami pembatasan laju 429.