Terapkan Dify pada Container Service for Kubernetes (ACK) untuk membuat asisten AI Tanya & Jawab yang dapat diskalakan dan didukung oleh basis pengetahuan perusahaan Anda.
Ikhtisar solusi
|
Contoh aplikasi AI kustom Dify
|
Contoh aplikasi AI terintegrasi web
|
Siapkan asisten AI Tanya & Jawab khusus dalam tiga langkah:
-
Instal komponen ack-dify: Buat kluster ACK dan instal komponen ack-dify.
-
Tambahkan asisten AI Tanya & Jawab: Akses layanan Dify untuk menambahkan asisten AI Tanya & Jawab ke situs web Anda.
-
Kustomisasi asisten AI Tanya & Jawab: Tambahkan basis pengetahuan khusus untuk meningkatkan akurasi dalam menjawab pertanyaan spesifik domain.

Interaksi antara layanan Dify dan kluster ACK:
Pengenalan Dify
Dify adalah platform pengembangan aplikasi large language model (LLM) open-source yang menggabungkan Backend-as-a-Service (BaaS) dan LLMOps. Platform ini memungkinkan pengembang maupun pengguna non-teknis untuk membangun aplikasi AI generatif siap produksi tanpa harus membangun ulang komponen inti.
Komponen utama arsitektur Dify:
-
Komponen teknologi inti: Dify mengintegrasikan komponen esensial untuk membuat aplikasi LLM, termasuk kompatibilitas dengan berbagai model, antarmuka desain prompt yang ramah pengguna, sistem Retrieval-Augmented Generation (RAG) berkinerja tinggi, serta arsitektur Agent yang dapat dikustomisasi.
-
Orkestrasi visual dan operasional: Antarmuka intuitif Dify memungkinkan orkestrasi visual prompt, alur kerja operasional yang disederhanakan, serta manajemen set data yang efisien. Hal ini secara signifikan mempercepat proses pengembangan aplikasi AI, memungkinkan pengembang untuk segera menerapkan atau mengintegrasikan LLM ke dalam sistem yang sudah ada, serta mendukung optimalisasi operasional berkelanjutan.
-
Templat aplikasi dan kerangka orkestrasi: Dify menyediakan templat aplikasi siap pakai dan kerangka orkestrasi bagi pengembang, sehingga mereka dapat dengan cepat mengembangkan aplikasi AI generatif berbasis large language model. Platform ini juga mendukung penskalaan instan dan mulus untuk memenuhi kebutuhan bisnis yang berubah, mendorong pertumbuhan bisnis.
Bersama-sama, komponen-komponen ini menyediakan platform komprehensif untuk pengembangan dan penerapan aplikasi AI generatif secara cepat.
1. Instal komponen ack-dify
Penerapan satu klik
Jika Anda baru mengenal kluster ACK dan belum familiar dengan proses pembuatannya, klik penerapan satu klik untuk membuat lingkungan runtime Dify. Ini akan menerapkan aplikasi Dify single-instance melalui templat Helm ack-dify dari ACK App Marketplace, cocok untuk pengembangan dan pengujian.
Sebelum menggunakan penerapan satu klik, pastikan Container Service for Kubernetes (ACK) telah diaktifkan dan diotorisasi. Untuk informasi lebih lanjut, lihat Buat kluster ACK yang dikelola.
Solusi ini menggunakan sumber daya cloud berikut. Untuk informasi penagihan, lihat Penagihan.
|
Sumber daya cloud |
Deskripsi |
|
1 Virtual Private Cloud (VPC) |
Menyediakan jaringan pribadi untuk sumber daya cloud seperti instance Elastic Compute Service (ECS) dan kluster ACK. |
|
2 vSwitch |
Menghubungkan sumber daya seperti instance ECS dan kluster ACK untuk komunikasi dan isolasi jaringan. |
|
1 security group |
Menentukan aturan jaringan inbound dan outbound untuk instance ECS di VPC. |
|
1 instance Classic Load Balancer (CLB) |
Menyediakan akses internet ke platform Dify. |
|
1 sistem file NAS |
Menyimpan data untuk layanan internal Dify (api dan worker). |
|
1 kluster ACK yang dikelola |
Menyebarkan Dify. Pilih minimal satu node dengan 8 vCPU dan memori 16 GiB (misalnya ecs.u1-c1m2.2xlarge) untuk menghindari kekurangan sumber daya. |
Prosedur
-
Klik penerapan satu klik. Di ROS, pilih wilayah Anda, misalnya Tiongkok (Hangzhou). Ikuti templat ROS untuk mengonfigurasi ID zona vSwitch, tipe instans kelompok node, kata sandi, konfirmasi keamanan, dan pengaturan lainnya. Gunakan nilai default untuk sisanya, lalu klik Next: Check and Confirm.
-
Pembuatan kluster memerlukan waktu sekitar 10 menit. Setelah kluster dibuat, masuk ke Konsol Container Service for Kubernetes. Di panel navigasi sisi kiri, pilih Clusters. Klik kluster target Anda, lalu pilih Workloads > Pods, atur namespace ke dify-system, dan pastikan bahwa komponen ack-dify telah diinstal di kluster.
-
(Opsional) Jika sebuah pod berstatus Pending, kemungkinan kluster tidak memiliki dependensi PVC untuk ack-dify. Buat sistem file CNFS dan StorageClass NAS untuk kluster tersebut. Untuk informasi lebih lanjut, lihat Kelola sistem file NAS menggunakan CNFS. Untuk informasi troubleshooting eksepsi pod, lihat Troubleshoot pod exceptions.
Setelah komponen ack-dify terinstal, lanjutkan ke langkah berikutnya.
Jika Anda sebelumnya telah menggunakan ROS penerapan satu klik untuk menginstal komponen ack-dify, akses publik untuk layanan ack-dify sudah diaktifkan. Anda dapat melewati langkah-langkah di Akses layanan Dify.
Penerapan manual
Jika Anda sudah familiar dengan proses pembuatan kluster ACK, ikuti langkah-langkah berikut untuk membuat kluster sesuai kebutuhan Anda.
1.1 Prasyarat
-
Kluster ACK Pro, versi 1.22 atau lebih baru, telah dibuat. Untuk informasi lebih lanjut, lihat Buat kluster ACK yang dikelola dan Upgrade kluster.
Siapkan minimal 2 vCPU dan memori 4 GB. Pastikan plugin penyimpanan CSI dan sistem file CNFS telah dikonfigurasi.
-
kubectl telah terhubung ke kluster. Lihat Hubungkan ke kluster ACK menggunakan kubectl.
1.2 Terapkan komponen
Terapkan komponen ack-dify di kluster Anda untuk layanan Dify.
-
Login ke Konsol Container Service for Kubernetes. Di panel navigasi kiri, pilih Clusters. Klik kluster target Anda. Ikuti langkah-langkah bernomor pada gambar untuk menginstal komponen ack-dify.
Anda tidak perlu mengonfigurasi Application Name atau Namespace untuk komponen tersebut. Klik Next. Di kotak dialog Confirm yang muncul, klik Yes untuk menerima nilai default (ack-dify / dify-system). Kemudian, pilih Chart Version terbaru dan klik OK untuk menginstal komponen ack-dify.

-
Tunggu sekitar satu menit, lalu verifikasi bahwa semua pod di namespace
dify-systemberada dalam statusRunning.kubectl get pod -n dify-systemJika ada pod berstatus Pending, kemungkinan kluster tidak memiliki dependensi PVC untuk ack-dify. Buat sistem file CNFS dan StorageClass NAS. Untuk informasi lebih lanjut, lihat Kelola sistem file NAS menggunakan CNFS. Untuk informasi troubleshooting eksepsi pod, lihat Troubleshoot pod exceptions.
2. Tambahkan asisten AI Tanya & Jawab
2.1 Akses layanan Dify
-
Aktifkan akses publik untuk layanan ack-dify.
CatatanAkses publik hanya untuk tujuan demonstrasi. Untuk keamanan data di lingkungan produksi, aktifkan fitur Access Control.

-
Setelah dikonfigurasi, pilih Network > Services > ack-dify, atur namespace ke dify-system. Anda akan melihat External IP layanan ack-dify. Buka IP tersebut di browser Anda untuk mengakses Dify.

-
Daftarkan akun.
Akses External IP dan ikuti petunjuk untuk membuat akun administrator (email, username, password).

2.2 Buat asisten AI Tanya & Jawab
-
Masukkan External IP di browser Anda dan login ke platform Dify.
-
Tambahkan model AI (Qwen dalam contoh ini) dan atur kunci API dari Alibaba Cloud. Lihat gambar di bawah:
Setelah kuota gratis Qwen habis, biaya akan dihitung berdasarkan token usage. Hal ini mengurangi biaya di muka dibandingkan dengan self-hosting model.
-
Dapatkan kunci API: Pilih Username > Settings > Model Provider > Instal dan atur plugin Qwen > Get API Key From Alibaba Cloud.
-
Masukkan kunci API, lalu klik Save.

-
-
Buat asisten AI Tanya & Jawab tujuan umum.
Pilih Studio > Create from Blank, lalu masukkan Name dan Description untuk asisten tersebut. Gunakan nilai default untuk parameter lainnya.

2.3 Verifikasi asisten AI Tanya & Jawab
Uji asisten dengan mengajukan pertanyaan. Chatbot tujuan umum dapat menangani percakapan sederhana tetapi belum mampu menjawab pertanyaan spesifik tentang Dify.

3. Kustomisasi asisten AI
3.1 Buat basis pengetahuan
Untuk menjawab pertanyaan teknis terkait Dify secara akurat, konfigurasikan basis pengetahuan khusus untuk asisten tersebut.
Contoh ini menyediakan file korpus dify_doc.md. Buat dan unggah basis pengetahuan sebagai berikut.
-
Unggah file korpus yang telah disiapkan dify_doc.md ke basis pengetahuan.
Pilih Knowledge > Create Knowledge > Import from file > Select File > Next.

-
Klik Next. Lakukan segmentasi teks dan pembersihan, lalu simpan.
Gunakan nilai default. Basis pengetahuan secara otomatis membersihkan, membagi, dan mengindeks dokumen untuk pengambilan.
Untuk memahami bagaimana file korpus di atas diorganisasi menjadi satu file .md, buka bagian yang dapat dilipat di bawah ini untuk detailnya.
3.2 Orkestrasi dan publikasikan asisten
Konfigurasikan prompt dan tambahkan basis pengetahuan ke konteks asisten.
-
Konfigurasikan prompt: Salin konten berikut ke bidang Instructions. Prompt meningkatkan akurasi respons dengan instruksi dan batasan.
You will act as Dify's AI assistant, dedicated to answering customers' questions about Dify products and their features. Your responses should be based on the existing knowledge base to ensure accuracy. If a question is beyond your knowledge, please honestly inform them that you do not know the answer, in order to maintain the integrity of the information. Please communicate in a friendly and warm tone, and feel free to use emoticons appropriately to enhance the interactive experience. -
Tambahkan basis pengetahuan ke konteks: Klik Add di area Context untuk menambahkan basis pengetahuan, sehingga memungkinkan jawaban yang akurat dan profesional.
-
Klik Releases > Update untuk menyimpan dan menerapkan konfigurasi.
Konfigurasi ditampilkan pada gambar berikut:

3.3 Verifikasi hasil
Dengan basis pengetahuan khusus, asisten AI memberikan jawaban yang lebih akurat dan spesifik domain dibandingkan chatbot tujuan umum.
Rangkuman
Fitur inti Dify:
|
Fitur |
Deskripsi |
|
LLMOps komprehensif |
Pemantauan real-time terhadap log dan metrik aplikasi, dengan optimalisasi berkelanjutan terhadap prompt, set data, dan model berdasarkan data produksi. |
|
Mesin RAG |
Pipeline RAG end-to-end dari ingestion dokumen hingga pengambilan. Memproses format umum seperti PDF dan PPT secara langsung. |
|
Agent |
Definisikan agent menggunakan pemanggilan fungsi LLM atau paradigma ReAct, dengan lebih dari 50 alat bawaan dan dukungan untuk alat kustom. |
|
orkestrasi alur kerja |
Kanvas visual untuk membangun alur kerja AI dengan menyeret dan menghubungkan komponen, dengan coding minimal. |
|
observabilitas |
Lacak dan evaluasi kualitas serta biaya aplikasi LLM melalui dasbor pemantauan. |
|
Fitur enterprise (SSO/kontrol akses) |
Organisasi dapat mengurangi risiko kebocoran informasi dan kerusakan data, memastikan keamanan informasi dan kelangsungan bisnis. |
Go-live
Empat opsi untuk menerapkan asisten AI Tanya & Jawab ke lingkungan produksi:
-
Situs web yang dibagikan ke publik.
Aplikasi AI yang Anda buat dengan Dify dapat dipublikasikan sebagai aplikasi web yang dapat diakses melalui internet, yang akan beroperasi berdasarkan prompt dan pengaturan orkestrasi Anda. Untuk informasi lebih lanjut, lihat Publikasikan sebagai aplikasi web publik.
-
Panggilan berbasis API.
Dify menyediakan API untuk semua aplikasi berdasarkan konsep "Backend-as-a-Service", memungkinkan pengembang memanfaatkan kekuatan large language model di aplikasi front-end mereka tanpa perlu khawatir tentang arsitektur dan penerapan back-end yang kompleks. Untuk informasi lebih lanjut, lihat Kembangkan dengan API.
-
Pengembangan ulang berbasis komponen front-end.
Jika Anda mengembangkan produk baru dari awal atau berada dalam tahap desain prototipe, gunakan Dify untuk segera mempublikasikan situs AI. Untuk informasi lebih lanjut, lihat Kembangkan ulang berbasis komponen front-end.
-
Embedding ke situs web perusahaan atau pribadi Anda.
Dify mendukung embedding aplikasi AI Anda ke situs web bisnis. Gunakan kemampuan ini untuk membuat layanan pelanggan AI resmi, Tanya & Jawab bisnis, dan aplikasi lainnya dengan data bisnis Anda dalam hitungan menit. Untuk informasi lebih lanjut, lihat Embed ke situs web.
Contoh: Embed ke situs web
Embed aplikasi LLM Anda ke situs web perusahaan atau pribadi.
Contoh ini hanya untuk tujuan demonstrasi. Untuk keamanan data di lingkungan produksi, aktifkan juga fitur Access Control.
-
Aktifkan akses publik untuk layanan ack-dify dan buka external IP di browser Anda. Untuk informasi lebih lanjut, lihat Akses layanan Dify.

-
Bangun dengan cepat aplikasi web sederhana di kluster ACK Anda untuk men-debug asisten AI Tanya & Jawab Anda.
Ini akan menerapkan aplikasi web di kluster ACK Anda untuk meng-host aplikasi LLM Dify yang di-embed.
-
Dapatkan kode layanan Dify.
Seperti yang ditunjukkan pada gambar, pilih metode untuk meng-embed kode aplikasi chat ke situs web Anda.

-
Di kluster, buat Deployment untuk menjalankan aplikasi web Anda dan buat Service untuk mengeksposnya.
Berikut adalah contoh YAML sederhana yang menunjukkan cara menerapkan server Nginx dengan HTML statis.
-
Login ke Konsol Container Service for Kubernetes (ACK). Di halaman ConfigMaps, atur namespace ke default, lalu klik Create from YAML. Salin konten YAML di bawah ini ke dalam templat dan modifikasi parameter
window.difyChatbotConfig,src, danidberdasarkan kode layanan Dify yang telah Anda peroleh.Lihat contoh di bawah.
-
Periksa status deployment. Deployment berhasil jika kedua pod berada dalam status
Running. -
Aktifkan akses publik untuk layanan yang diterapkan.
Untuk keamanan data di lingkungan produksi, kami merekomendasikan agar Anda juga mengaktifkan fitur Access Control.

Setelah dikonfigurasi, Anda akan melihat External IP layanan web-service. Buka IP tersebut di browser Anda.
Penting-
Jika Anda ingin perangkat lain mengakses layanan tersebut, pastikan firewall atau security group kluster Anda mengizinkan traffic pada port 80. Untuk informasi lebih lanjut, lihat Tambahkan aturan grup keamanan.
-
Pastikan kode Anda dan kode pihak ketiga aman untuk mencegah potensi embedding XSS atau kode berbahaya. Ini adalah contoh dasar hanya untuk tujuan demonstrasi; Anda dapat mengembangkan dan memodifikasinya sesuai kebutuhan.
-
-
Hasil Contoh.

-
-
Penagihan
Penggunaan fitur ini menimbulkan biaya untuk manajemen kluster ACK Pro dan penggunaan sumber daya Alibaba Cloud. Produk Alibaba Cloud yang terlibat meliputi Elastic Compute Service (ECS), Classic Load Balancer (CLB), elastic IP address (EIP), dan Apsara File Storage NAS. Anda akan ditagih berdasarkan sumber daya yang digunakan sesuai aturan penetapan harga masing-masing produk. Untuk informasi lebih lanjut mengenai biaya manajemen kluster dan biaya sumber daya produk cloud, lihat Ikhtisar penagihan.
Penafian
Dify pada ACK adalah solusi penerapan Helm yang menyesuaikan proyek open-source Dify untuk lingkungan Alibaba Cloud ACK guna memungkinkan penerapan cepat. ACK tidak menjamin kinerja aplikasi Dify atau kompatibilitasnya dengan komponen ekosistem lainnya, seperti plugin dan database. ACK tidak menyediakan layanan komersial, seperti kompensasi atau ganti rugi, atas kerugian bisnis apa pun yang disebabkan oleh cacat pada Dify atau komponen ekosistemnya. Untuk memastikan stabilitas dan keamanan Dify, ikuti pembaruan dari komunitas open-source dan perbaiki secara proaktif masalah pada perangkat lunak open-source tersebut.

