Runtime mengacu pada lingkungan eksekusi dalam fase pengembangan LangStudio. Runtimes mendukung pengembangan dan debugging alur aplikasi, basis pengetahuan, serta fitur lainnya. Sebuah runtime tunggal dapat digunakan kembali di beberapa alur aplikasi dan basis pengetahuan. Anda dapat membuat runtime sebelum memulai pengembangan LangStudio untuk menyediakan lingkungan eksekusi yang konsisten. Topik ini menjelaskan cara membuat dan mengelola runtimes.
Buat runtime
Buka LangStudio, pilih ruang kerja, lalu klik tab Runtime. Di tab Runtime, klik Create Runtime untuk membuka halaman New Runtime.
Parameter | Deskripsi |
Nama Runtime | Nama dari runtime. |
Jalur Kerja Runtime | Pilih jalur Object Storage Service (OSS) untuk menyimpan konfigurasi runtime, log, dan file lainnya. Kami menyarankan Anda memilih jalur penyimpanan default dari ruang kerja sebagai jalur kerja runtime.
|
Tipe Sumber Daya | Pilih tipe instans, seperti ecs.g6.xlarge. |
VPC | Pengembangan dan debugging alur aplikasi dan basis pengetahuan bergantung pada layanan model bahasa besar (LLM), layanan model penyematan, dan database vektor. Jika layanan-layanan ini diterapkan di virtual private cloud (VPC) Anda, Anda harus memilih VPC saat membuat runtime. Ini memastikan bahwa runtime dapat mengakses layanan terkait. |
Konfigurasi Mount | Mount objek OSS atau dataset berdasarkan kebutuhan bisnis Anda. |
Durasi Maksimum Perjalanan Tunggal | Durasi timeout default untuk debugging online alur aplikasi. Nilai default: 5 menit. Jika durasi berjalan memakan waktu lama, kami sarankan Anda menetapkan parameter ini ke nilai yang lebih besar untuk menghindari interupsi runtime. |
Peran RAM Instans | Peran RAM yang disuntikkan ke dalam kontainer runtime. Untuk informasi lebih lanjut, lihat Asosiasikan peran RAM dengan instans DSW. |
Kelola runtime
Anda dapat memulai, menghentikan, atau menghapus runtime dari tab Runtime.
Apa yang harus dilakukan selanjutnya
Setelah membuat runtime, Anda dapat memilih runtime tersebut saat membuat alur aplikasi atau menambahkan runtime ke dalam alur aplikasi, serta menghapus runtime dari halaman pengembangan alur.
