Model Gallery menyediakan titik masuk untuk model distillation. Dari kartu model, Anda dapat membuat tugas distillation tujuan umum untuk mentransfer pengetahuan dari model guru (teacher model) yang besar ke model siswa (student model) yang lebih kecil serta mengurangi biaya inferensi.
Ikhtisar
Fitur distillation di Model Gallery dibangun di atas framework open-source PAI-EasyDistill dan menggunakan black-box distillation untuk menyelesaikan seluruh pipeline—mulai dari pembuatan data hingga pelatihan model siswa—tanpa perlu menulis kode.
Model Gallery hanya mendukung tugas general distillation. Untuk template skenario-spesifik (Rantai-pikiran, multimodal, Pemanggilan alat Agent, dan lainnya), kunjungi Model Distillation (ModelDistill).
Anda dapat melihat dan mengelola tugas distillation yang dibuat dari Model Gallery di salah satu lokasi berikut:
Model Gallery > Job Management > Distillation task
Model Distillation (ModelDistill) > Task List
Tugas yang dibuat dari halaman Model Distillation (ModelDistill) hanya muncul di daftar tugas distillation, bukan di manajemen tugas Model Gallery.
Buat tugas distillation
Masuk ke Konsol PAI. Di panel navigasi sebelah kiri, pilih QuickStart > Model Gallery.
Di halaman Model Gallery, pilih Distill dari filter Supported Operations. Semua model guru yang mendukung distillation akan ditampilkan.
Klik kartu model target untuk membuka halaman detail model. Di pojok kanan atas, klik Distill guna membuka halaman pembuatan tugas.
Untuk prosedur lengkap dan penjelasan parameter, lihat General distillation.