All Products
Search

This Product

    Platform For AI:Penyebaran satu-klik DeepSeek-V3.2

    Document Center

    Platform For AI:Penyebaran satu-klik DeepSeek-V3.2

    Last Updated:Aug 25, 2026

    Ikhtisar model

    Pada 1 Desember 2025, DeepSeek merilis dua model open-source baru, yaitu DeepSeek-V3.2 dan DeepSeek-V3.2-Speciale, yang menawarkan kemampuan inferensi terdepan.

    Kedua model ini ditujukan untuk kasus penggunaan yang berbeda. DeepSeek-V3.2 dirancang untuk menyeimbangkan kemampuan inferensi dengan panjang output, sehingga cocok untuk kasus penggunaan umum seperti menjawab pertanyaan dan tugas agen umum. Model ini merupakan rilis resmi setelah versi eksperimental V3.2-Exp yang diluncurkan pada akhir September. Dalam benchmark inferensi publik, V3.2 mencapai performa yang sebanding dengan GPT-5 dan hanya sedikit di bawah Gemini3 Pro dari Google.

    DeepSeek-V3.2-Speciale bertujuan untuk “mendorong kemampuan inferensi model open-source ke batas ekstrem dan menjelajahi batasan kemampuan model.” Speciale merupakan versi peningkatan dari V3.2 dengan kemampuan long-thought, dikombinasikan dengan kemampuan pembuktian teorema dari DeepSeek-Math-V2. Model ini unggul dalam mengikuti instruksi, membuktikan matematika secara ketat, serta verifikasi logis. Menurut data yang dirilis oleh DeepSeek, Speciale melampaui Gemini3 Pro—versi paling canggih dari Google—pada beberapa benchmark inferensi.

    Dengan 671 miliar parameter, penyebaran model DeepSeek-V3.2 secara lokal sangat menantang, sehingga penyebaran berbasis cloud menjadi pilihan utama bagi pengguna perusahaan dan pengembang.

    Alibaba Cloud PAI-Model Gallery kini mendukung model DeepSeek-V3.2 dan DeepSeek-V3.2-Speciale serta menyediakan solusi penyebaran tingkat perusahaan.

    Prosedur

    1. Untuk memulai, temukan model DeepSeek-V3.2 di PAI-Model Gallery melalui halaman model DeepSeek-V3.2. Di Konsol PAI, buka halaman Model Gallery dan pilih tab Model Gallery. Cari model yang diinginkan, seperti DeepSeek-V3.2 atau DeepSeek-V3.2-Speciale, lalu klik kartunya untuk membuka halaman detail model.

    2. Di halaman detail model, klik Deploy di pojok kanan atas. Platform ini mendukung framework penyebaran SGLang dan vLLM. Platform menyediakan beberapa template penyebaran dengan konfigurasi default. Untuk penyebaran satu-klik, pilih template dan sumber daya komputasi yang diinginkan.

      Catatan

      Kebutuhan sumber daya untuk penyebaran adalah sebagai berikut:

      • Penyebaran dengan resource publik
        Saat menggunakan resource publik, Anda dibatasi pada spesifikasi yang tersedia. Dalam penyebaran terdistribusi Lingjun, layanan menggunakan sumber daya yang sama untuk menyebar beberapa node.



      • Penyebaran dengan kelompok sumber daya EAS atau kuota sumber daya

        Penyebaran standalone memerlukan sumber daya komputasi dengan delapan GPU, masing-masing menyediakan memori GPU sebesar 141 GB. Untuk penyebaran terdistribusi Lingjun, jumlah node yang diperlukan telah dikonfigurasi sebelumnya, dan setiap node harus dikonfigurasi dengan delapan GPU.

      Atur Inference Engine ke SGLang dan Deployment Template ke standalone. Biarkan Enable Dynamic Scheduling dinonaktifkan dan atur Enable PD Caching ke Do not enable. Setelah mengonfirmasi biaya sumber daya, klik Deploy.

    3. Setelah penyebaran berhasil, buka halaman layanan dan klik View Invocation Information untuk mendapatkan titik akhir layanan dan token. Untuk petunjuk pemanggilan layanan, klik tautan model pra-latih untuk kembali ke halaman detail model.

    4. Anda dapat memanggil layanan model dari lingkungan lokal atau klien lain, menggunakan fitur debugging online yang disediakan oleh PAI, atau berinteraksi dengan model melalui WebUI yang disediakan oleh PAI. Untuk informasi lebih lanjut, lihat Invoke Model.

    Dukungan untuk lebih banyak model

    PAI-Model Gallery memungkinkan penyebaran cepat, fine-tuning, penyulingan, dan evaluasi untuk model-model populer dari komunitas open-source. Model yang didukung mencakup model open-source populer seperti Qwen, Wan, DeepSeek, Kimi, MiniMax, dan GLM. Platform ini juga menawarkan versi model yang dioptimalkan oleh PAI, seperti Qwen3-235B-A22B-PAI-optimized, Qwen3-Next-80B-A3B-Instruct-FP8-PAI-optimized, dan DeepSeek-R1-0528-PAI-optimized. Versi-versi tersebut dilengkapi templat bawaan, seperti templat penyebaran EP+PD Caching yang dioptimalkan oleh PAI, untuk meningkatkan performa.