Layanan model besar DataWorks menyediakan kemampuan terpadu untuk penerapan yang efisien, komunikasi aman, dan pemanggilan yang mudah. Anda dapat dengan mudah menerapkan model pada kelompok sumber daya serverless DataWorks dan memanggilnya langsung dalam tugas pengembangan data. Seluruh lalu lintas ditransmisikan melalui saluran jaringan pribadi yang dibentuk oleh PrivateLink, memastikan data tidak pernah meninggalkan jaringan pribadi dan secara efektif menjaga keamanan data.
Model yang didukung
|
Kategori |
Model |
Deskripsi |
|
Large language model |
Qwen3-32B |
Qwen3 adalah generasi terbaru dari large language model dalam seri Qwen, menawarkan rangkaian lengkap model dense dan Mixture-of-Experts (MoE). Berdasarkan pelatihan ekstensif, Qwen3 mencapai kemampuan terobosan dalam penalaran, mengikuti instruksi, fungsi agen, serta dukungan multibahasa. Untuk informasi lebih lanjut tentang model ini, lihat Model yang direkomendasikan. Penting
|
|
Qwen3-14B |
||
|
Qwen3-8B |
||
|
Qwen3-4B |
||
|
Qwen3-1.7B |
||
|
Qwen3-0.6B |
||
|
Qwen3-Embedding-8B |
||
|
Qwen3-Embedding-4B |
||
|
Qwen3-Embedding-0.6B |
||
|
DeepSeek-R1-0528-Qwen3-8B |
DeepSeek secara ekstensif menggunakan reinforcement learning selama pelatihan, secara signifikan meningkatkan kemampuan penalaran model dengan data berlabel minimal. Untuk informasi lebih lanjut tentang model ini, lihat Model yang direkomendasikan. |
|
|
DeepSeek-R1-Distill-Qwen-1.5B |
||
|
DeepSeek-R1-Distill-Qwen-7B |
||
|
DeepSeek-R1-Distill-Qwen-14B |
||
|
Embedding model |
BGE-M3 |
BGE-M3 adalah embedding model serbaguna yang mendukung dense retrieval, multi-vector retrieval, dan sparse retrieval. Model ini dapat memproses input mulai dari teks pendek hingga maksimal 8.192 token dan mendukung lebih dari 100 bahasa alami. |
|
BGE-Large-zh-v1.5 |
BGE Embedding adalah embedding model serbaguna. Model ini menggunakan RetroMAE untuk pre-training, diikuti oleh contrastive learning pada data berpasangan berskala besar. |
Fitur layanan model besar
Penerapan cepat: Proses peluncuran yang disederhanakan
Dengan panduan antarmuka visual, Anda dapat menerapkan model pra-latih melalui operasi low-code tanpa perlu menulis kode infrastruktur. Cukup beberapa langkah konfigurasi sederhana untuk membuat dan menerbitkan layanan model, sehingga menurunkan hambatan penerapan.
Komunikasi jaringan pribadi yang aman: Menjamin isolasi layanan
Layanan model besar DataWorks diterapkan dalam mode fully managed pada kelompok sumber daya serverless DataWorks. Komunikasi jaringan pribadi lintas-VPC dibentuk berdasarkan PrivateLink dan Private Hosted Zone untuk mencapai isolasi jaringan. Anda dapat mengakses model yang sepenuhnya dikelola melalui jaringan pribadi VPC Anda guna menjamin keamanan layanan model.
-
Komunikasi terisolasi jaringan: PrivateLink membentuk saluran koneksi khusus antara VPC Anda dan VPC kelompok sumber daya DataWorks, memastikan lalu lintas tidak terpapar ke jaringan publik dan mencapai isolasi yang aman.
-
Resolusi nama domain pribadi: Private Hosted Zone menyediakan layanan resolusi DNS pribadi yang secara otomatis mengonfigurasi aturan pengalihan nama domain pribadi, memungkinkan Anda mengakses layanan model langsung melalui nama domain dalam VPC Anda.
Koneksi otomatis: Pemanggilan tanpa gangguan
Saat Anda menerapkan layanan model pada kelompok sumber daya serverless DataWorks atau mengonfigurasi VPC untuknya, sistem secara otomatis melakukan operasi berikut:
-
Membentuk koneksi lintas-VPC. Di VPC Anda (VPC di bawah akun Anda yang terhubung ke kelompok sumber daya DataWorks), sistem secara otomatis membuat endpoint PrivateLink dan membentuk saluran komunikasi terenkripsi dengan layanan PrivateLink di VPC kelompok sumber daya DataWorks.
-
Mengonfigurasi resolusi nama domain. Aturan resolusi nama domain dikonfigurasi secara otomatis di VPC yang ditentukan dalam konfigurasi layanan model, sehingga lalu lintas permintaan nama domain dalam VPC tersebut secara otomatis diteruskan ke layanan model DataWorks.
Proses pemanggilan model
Saat Anda memulai pemanggilan layanan model melalui nama domain:
-
Resolusi permintaan: Permintaan DNS dalam VPC Anda diselesaikan oleh Private Hosted Zone untuk menemukan Alamat IP pribadi VPC kelompok sumber daya DataWorks.
-
Pengalihan lalu lintas: Permintaan ditransmisikan secara aman dari VPC Anda ke VPC kelompok sumber daya DataWorks melalui saluran khusus yang dibentuk oleh PrivateLink.
-
Tanggapan layanan: Permintaan mencapai instans model di VPC kelompok sumber daya DataWorks, tempat komputasi inferensi diselesaikan dan hasil dikembalikan.
Seluruh proses pemanggilan berjalan dalam lingkungan jaringan pribadi tanpa mengekspos Alamat IP publik, sehingga menjamin keamanan dan kendali atas layanan model.
Penerapan dan penggunaan model
Di DataWorks, Anda dapat memilih dan menerapkan model untuk pengembangan tugas.
Model pihak ketiga
Selain menerapkan model pra-latih, layanan model besar DataWorks juga mendukung pendaftaran layanan model pihak ketiga. Anda dapat menghubungkan API dari penyedia model eksternal (seperti Bailian) ke DataWorks. Setelah pendaftaran dan aktivasi, Anda dapat memanggil model pihak ketiga secara terpadu dalam tugas DataWorks.
Di halaman Model Service, alihkan ke tab Third-party models. Anda dapat:
-
Daftarkan layanan model: Berikan informasi seperti penyedia model, nama model, nama layanan, dan Kunci API untuk menyelesaikan pendaftaran.
-
Kelola layanan model: Aktifkan, nonaktifkan, ubah, atau hapus layanan model pihak ketiga yang telah terdaftar.
Layanan model pihak ketiga tidak mengonsumsi sumber daya dari kelompok sumber daya serverless DataWorks. Biaya aktual dikenakan oleh penyedia model yang bersangkutan.