全部产品
Search
文档中心

Platform For AI:Mengembangkan dan menggunakan model DeepSeek

更新时间:Jul 06, 2025

Model Gallery merupakan komponen model-sebagai-layanan (MaaS) dari Platform for AI (PAI). Model Gallery menampilkan model-model state-of-the-art (SOTA) di berbagai bidang, termasuk large language model (LLM), konten yang dihasilkan oleh AI (AIGC), computer vision (CV), dan pemrosesan bahasa alami (NLP). Antarmuka low-code/no-code memfasilitasi seluruh siklus hidup model. Panduan ini menjelaskan cara menggunakan Model Gallery untuk menerapkan, menyuling, melatih, dan membangun aplikasi dengan model DeepSeek.

Sebelum Anda mulai

(Diperlukan) Aktifkan PAI dan buat ruang kerja

Ruang kerja PAI dirancang untuk manajemen terpusat sumber daya komputasi, izin, dan aset AI. Saat mengaktifkan PAI, ruang kerja default akan dibuat secara otomatis. Namun, jika belum memiliki ruang kerja, Anda perlu membuatnya secara manual. Layanan seperti Object Storage Service (OSS) diaktifkan secara default karena penyimpanan cloud diperlukan untuk menyimpan kode, model, dataset, dan file lainnya.

Klik untuk Melihat Prosedurnya

  1. Buka Konsol PAI untuk mengaktifkan PAI. Perhatikan bahwa setiap wilayah memerlukan aktivasi terpisah, jadi pilih wilayah Anda dengan cermat.

    image.png

  2. (Opsional) Jika OSS belum diaktifkan, buka halaman Konsol OSS untuk mengaktifkannya dan buat Bucket di wilayah yang sama dengan ruang kerja PAI.

    image.png

  3. Jika tidak memiliki ruang kerja, buka halaman PAI-Workspaces dan klik Create Workspace.

    image.png

  4. Selanjutnya, buka Model Gallery dan temukan model yang Anda inginkan.image.png

(Catatan) Wilayah dan spesifikasi sumber daya

  1. Sebagian besar layanan Alibaba Cloud, seperti ruang kerja PAI dan bucket OSS, bersifat spesifik wilayah. Beberapa wilayah mungkin tidak saling terhubung, sehingga penting untuk memperhatikan wilayah yang dipilih.

  2. Ketersediaan dan spesifikasi sumber daya komputasi dapat bervariasi signifikan antar wilayah. Jika wilayah tertentu kekurangan sumber daya, pertimbangkan untuk memeriksa wilayah lain.

    image.png

  3. PAI menawarkan dua opsi penagihan: bayar sesuai penggunaan dan langganan. Sumber daya bayar sesuai penggunaan dibagi oleh semua pengguna, sehingga Anda mungkin mengalami kehabisan stok. Dalam kasus seperti itu, pertimbangkan untuk memeriksa wilayah lain.

  4. PAI menyediakan berbagai spesifikasi sumber daya untuk skenario yang berbeda. Beberapa spesifikasi dibatasi untuk pengguna dalam daftar putih. Untuk saran yang disesuaikan dengan skenario Anda, konsultasikan dengan manajer penjualan Anda.

    Platform ini juga mendukung Sumber daya Lingjun, yang menggunakan jaringan berkecepatan tinggi untuk komunikasi dan penting untuk pelatihan terdistribusi atau penyebaran. Sumber daya Lingjun juga dibatasi untuk pengguna dalam daftar putih. Hubungi manajer penjualan Anda jika diperlukan.

    image.png

(Opsional) Buat VPC untuk pelatihan terdistribusi atau penyebaran

virtual private cloud (VPC) diperlukan untuk pelatihan terdistribusi atau penyebaran. Selain itu, untuk skenario yang membutuhkan akses Internet, port publik VPC diperlukan.

Saat membuat VPC, atur juga vSwitch dan grup keamanan.

  1. Buat VPC dan vSwitch.

  2. Buat grup keamanan di wilayah yang sama.

Setelah itu, Anda dapat mengatur VPC saat memulai pelatihan atau penyebaran di Model Gallery. image.png

Penyebaran model

Penyebaran Satu Klik DeepSeek-V3 dan DeepSeek-R1.

Kami merekomendasikan DeepSeek-R1-Distill-Qwen-7B, sebuah model yang telah disuling dengan ukuran lebih kecil, menjadikannya ideal untuk latihan cepat. Model ini memiliki persyaratan sumber daya komputasi yang rendah dan dapat diterapkan menggunakan sumber daya uji coba gratis.

Fine-tuning dan distilasi

Fine-tuning: Gunakan data pribadi Anda untuk melatih model, sehingga responsnya menjadi lebih akurat dalam skenario Anda.

Distilasi: Transfer pengetahuan dari model guru yang lebih besar ke model siswa yang lebih kecil. Ini mempertahankan kemampuan inferensi dan akurasi model guru sambil secara signifikan mengurangi biaya komputasi dan penyimpanan. Distilasi juga merupakan bentuk fine-tuning.

Catatan

Fine-tuning bukan tugas sederhana dan tidak dapat menyelesaikan semua masalah. Keberhasilannya bergantung pada berbagai faktor, seperti ukuran dan kualitas dataset, hyper-parameter pelatihan, serta banyak percobaan. Dalam banyak skenario praktis, fine-tuning mungkin bukan solusi terbaik, ketika aplikasi retrieval-augmented generation (RAG) yang lebih sederhana sudah cukup. Semua tergantung pada kebutuhan spesifik Anda.

Fine-tuning Satu Klik Model Distilasi DeepSeek-R1.

Bangun aplikasi AI

Kembangkan aplikasi dengan LangStudio

PAI menyediakan modul LangStudio, yang menyederhanakan pengembangan aplikasi LLM tingkat perusahaan. LangStudio memiliki template bawaan untuk jenis aplikasi AI paling populer, seperti RAG dan pencarian web. Anda dapat membuat aplikasi AI yang sesuai dengan konfigurasi sederhana.