Platform For AI:Instruction distillation

Ikhtisar templat

Templat instruction distillation dirancang untuk skenario di mana Anda memiliki set instruksi berkualitas tinggi yang terbatas dan ingin meningkatkan volume data pelatihan secara signifikan. Dimulai dari beberapa instruksi seed, templat ini memperluasnya menjadi lebih banyak instruksi dengan gaya yang sama, menyempurnakan setiap instruksi agar lebih sesuai dengan cara pengguna nyata mengajukan pertanyaan, menghasilkan respons menggunakan model guru, lalu memberi skor dan menyaring hasilnya berdasarkan empat dimensi — informativeness, helpfulness, generalization, dan correctness — untuk menghasilkan set data SFT yang siap digunakan dalam fine-tuning.

Pipeline instruction distillation terdiri dari langkah-langkah berikut:

1. Instruction expansion: menggunakan instruksi seed sebagai contoh untuk menghasilkan instruksi baru dalam skenario dan gaya yang sama, sehingga meningkatkan volume data.

   Contoh input:
   {"instruction": "Buat itinerary perjalanan dua hari untuk Hangzhou."}
   Contoh output:
   {"instruction": "Buat itinerary perjalanan tiga hari untuk Beijing."}
   {"instruction": "Saya ingin mengunjungi Shanghai. Rekomendasikan itinerary perjalanan."}

2. Instruction refinement: menulis ulang setiap instruksi untuk menghilangkan ambiguitas dan redundansi, sehingga lebih mirip dengan cara pengguna nyata mengajukan permintaan.

   Contoh input:
   {"instruction": "Buat itinerary perjalanan dua hari untuk Hangzhou."}
   Contoh output:
   {"instruction": "Tolong buat rencana perjalanan dua hari di Hangzhou yang mencakup itinerary, rekomendasi makanan, akomodasi, dan waktu terbaik untuk berkunjung."}

3. Teacher generation: memanggil model guru untuk menghasilkan respons terhadap setiap instruksi, yang akan menjadi target output bagi model siswa untuk dipelajari.

4. Quality scoring: memberi skor pada setiap pasangan Q&A berdasarkan empat dimensi — informativeness, helpfulness, generalization, dan correctness — sebagai dasar untuk penyaringan.

5. Quality filtering: menyaring sampel berkualitas rendah berdasarkan ambang batas skor per dimensi dan hanya menyimpan sampel dengan skor tertinggi.

6. Build SFT dataset: menghapus sampel kosong dan yang terlalu panjang, lalu menghasilkan set data pelatihan SFT dalam format standar.

Prosedur

1. Masuk ke PAI console. Di panel navigasi sebelah kiri, pilih Model Application > Model Distillation (ModelDistill).

2. Klik Create task untuk menuju tab Distillation Template, atau langsung buka tab Distillation Template.

3. Pilih Instruction Distillation, klik Use Template, lalu masuk ke halaman Create Distillation Task. Konfigurasikan parameter utama yang dijelaskan di bawah ini dan biarkan nilai default untuk pengaturan lainnya.

4. Lengkapi Basic Configuration:

   • Task name: diisi otomatis oleh sistem.

   • Output Path: tentukan path OSS yang dapat Anda akses, misalnya oss://mybucket.oss-cn-hangzhou-internal.aliyuncs.com/instruct-distill/.

     Catatan

     Buat direktori output terpisah untuk setiap tugas distillation agar file tidak saling menimpa. Bucket OSS harus berada di wilayah yang sama dengan layanan PAI.

5. Klik Next untuk menuju langkah Build distillation data:

   • Teacher model: Teacher Model Source — pilih Token Service dan pilih model dari daftar drop-down, seperti qwen3.8-max.

   • Dataset: pilih direktori atau file OSS yang dapat Anda akses. Anda dapat langsung mengunduh dan menggunakan dataset sampel.

   • Distillation Configuration: nilai default telah disediakan. Ubah sesuai kebutuhan.

     • dataset.input_path: jika Anda memilih file tertentu untuk dataset, nama file yang dikonfigurasi di sini akan diabaikan.

     • pipeline: pada tahap instruction expansion (stage: instruction_expansion), num_output_sample menentukan jumlah total item data distillation yang dihasilkan. Sesuaikan nilai ini sesuai kebutuhan.

     • Untuk parameter spesifik templat instruction distillation lainnya (seperti temperature, max_workers, dan ambang batas penilaian untuk setiap tahap), lihat Referensi konfigurasi di bawah.

   • Configure Computing Resource: atur Resource Type ke General Computing dan Source ke Public Resources. Lalu pilih Instance Type yang sesuai di Job Resource, seperti ecs.c6.large.

6. Klik Next: Student Model Training untuk melanjutkan konfigurasi (Anda juga dapat memilih Run Only Distillation Data Build):

   • Student model: pilih Public Model dan pilih model yang lebih kecil dari daftar drop-down, seperti Qwen3-4B.

   • Training Mode: pilih LoRA.

   • Compute Resource: atur Resource Type ke General Computing dan Source ke Public Resources. Lalu pilih Instance Type yang sesuai di Job Resource.

7. Klik Create, lalu klik OK pada prompt penagihan. Halaman akan dialihkan ke halaman detail tugas tempat Anda dapat melacak status tugas.

Referensi konfigurasi

Bagian ini menjelaskan parameter konfigurasi utama yang spesifik untuk templat instruction distillation. Konfigurasi dasar dan konfigurasi resource sama dengan distillation umum. Hanya perbedaan parameter spesifik templat yang tercantum di sini.

{"instruction": "Jelaskan apa itu pembelajaran mesin."}
{"instruction": "Bagaimana cara mencegah flu biasa?"}