Platform For AI:Panduan Penghentian dan Migrasi PAI-LangStudio

1.1 Apa itu Model Studio

Alibaba Cloud Model Studio adalah platform layanan model besar satu atap yang dirancang untuk perusahaan dan pengembang. Platform ini menyediakan layanan model, pembuatan aplikasi, basis pengetahuan, ekosistem alat, serta kemampuan penerbitan dan operasi. Model Studio sangat cocok untuk mengambil alih beban kerja pembuatan, debugging, penerapan, dan observabilitas aplikasi yang sebelumnya dijalankan di LangStudio.

Untuk pemetaan fitur detail dan pendekatan migrasi, lihat 2. Ikhtisar Migrasi. Untuk informasi lebih lanjut, lihat Ikhtisar Alibaba Cloud Model Studio dan Jenis Aplikasi Model Studio.

1.2 Penyiapan Izin Sebelum Migrasi

Sebelum migrasi, ajukan izin yang diperlukan terlebih dahulu. Mintalah Pemilik Akun Alibaba Cloud Anda untuk memberikan izin baca dan tulis kepada Pengguna RAM pengembang LangStudio atas aplikasi Model Studio, membuat ruang kerja, dan mengajukan Kunci API. Untuk daftar item izin spesifik dan prosedur otorisasi, lihat Manajemen izin dan Referensi Kebijakan Izin Sistem Model Studio.

2.1 Pemetaan Fitur

Tabel berikut memetakan fitur LangStudio ke padanannya di Model Studio:

2.2 Pemetaan Jenis Aplikasi

Utamakan migrasi ke jenis aplikasi alur kerja atau high-code dan buat ulang konfigurasi masing-masing:

Model Studio juga menyediakan aplikasi agen, yang menawarkan konfigurasi lebih sederhana. Evaluasi apakah jenis ini sesuai dengan skenario bisnis Anda.

3.1 Jumlah Node dan Cakupan

Pertama, identifikasi node yang memiliki perbedaan signifikan atau tidak memiliki padanan langsung. Buat ulang semua node lainnya di kanvas Model Studio.

Untuk node yang ditandai sebagai "Perbedaan minor," buat ulang konfigurasi di sisi Model Studio sesuai dengan perbedaan yang tercantum dalam tabel di atas. Untuk deskripsi parameter lengkap, lihat Aplikasi alur kerja. Bagian berikut mencakup node dengan "Perbedaan signifikan" dan "Harus diimplementasikan secara manual."

3.2 Node dengan Perbedaan Signifikan

Bagian berikut hanya fokus pada perbedaan utama yang memerlukan desain ulang.

{{ variable }}

${node.variable}

@tool
def invoke(...): ...

def main(params):
    return {"output": params["input"]}

{% for doc in documents %}
{{ doc.content }}
{% endfor %}

${KnowledgeBase_1.result}

3.3 Pengujian Integrasi

Klik Test di pojok kanan atas kanvas untuk membuka panel pengujian. Panel ini menyediakan tiga mode: Percakapan Teks (multi-putaran, mempertahankan konteks; klik node untuk melihat input dan outputnya), Generasi Teks (satu putaran, mendukung sinkron dan asinkron), dan Interaksi Audio/Video. Pojok kanan atas juga memiliki entri Checklist yang mencantumkan item konfigurasi yang harus diselesaikan sebelum menjalankan. Kami menyarankan meninjaunya sebelum pengujian.

Fokuslah memverifikasi empat jenis masalah: apakah referensi variabel diteruskan dengan benar (terutama setelah penulisan ulang sintaks prompt), apakah logika percabangan kondisional dan penghentian loop sesuai dengan aplikasi asli, apakah panggilan layanan eksternal gagal karena daftar izin yang belum dikonfigurasi, dan apakah struktur output node Script sesuai dengan yang diharapkan node downstream.

4.1 Perubahan Mendasar dalam Pendekatan Pengembangan

LangStudio menyediakan Web IDE berbasis cloud. Aplikasi high-code Model Studio menggunakan pengembangan lokal sebagai gantinya.

Proses migrasi adalah pengembangan lokal -> kemas sebagai .whl -> unggah -> verifikasi cloud:

Jika lebih suka melanjutkan pengembangan dan debugging di cloud, Anda dapat menggunakan DSW (Data Science Workshop) dari PAI.

4.2 Perubahan Struktur Proyek

Struktur tipikal aplikasi mode coding LangStudio (templat LLM Basic):

project/
├── agent.py          # Titik entri: aplikasi FastAPI dan endpoint API
├── agent_loop.py     # Logika inti: panggilan LLM dan loop eksekusi tool
├── agui.py           # Konversi aliran acara protokol AG-UI
├── skills.py         # Penemuan, pemuatan, dan eksekusi skill
├── requirements.txt
├── .env              # Variabel lingkungan
└── README.md

Lima perubahan diperlukan untuk migrasi ke Model Studio:

Jika file entri tidak dinamai main.py, konsol menampilkan "Deploying" hingga timeout. Endpoint pemeriksaan kesehatan adalah cara Model Studio menentukan apakah aplikasi berhasil dimulai. Jika endpoint tidak dapat dijangkau, deployment dianggap gagal.

@app.get("/health")
def health_check():
    return "OK"

Implementasikan endpoint default /process sesuai protokol Agent API.

Runtime memerlukan Python >= 3.10:

pip install "agentscope-runtime[deployment]==1.0.0"

4.3 Perubahan pada Pemanggilan Model di Kode

Gantikan koneksi model yang ada dengan panggilan ke model platform melalui Kunci API Model Studio.

Atur variabel lingkungan DASHSCOPE_API_KEY, lalu panggil model menggunakan SDK DashScope atau protokol kompatibel OpenAI:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["DASHSCOPE_API_KEY"],
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
resp = client.chat.completions.create(
    model="qwen-plus",
    messages=[{"role": "user", "content": "Hello"}],
)

Pengembangan aplikasi Model Studio saat ini hanya mendukung wilayah China (Beijing). Untuk panggilan API model, gunakan endpoint untuk wilayah China (Beijing). Untuk integrasi model self-hosted, lihat Bagian 6.1.

4.4 Perubahan pada Pemanggilan Basis Pengetahuan di Kode

Aplikasi high-code dapat memanggil Knowledge Base Retrieve API atau SDK secara langsung untuk melakukan pengambilan.

Saat memanggil layanan MCP, komponen aplikasi, atau konektor data, hubungkan ke antarmuka masing-masing. Setelah menambah atau menghapus tool, Anda harus redeploy. Untuk detailnya, lihat .

4.5 Pengemasan, Deployment, dan Pertimbangan Lain Model Studio

Paket kode hanya mendukung format .whl dan diunggah melalui command line:

# Deployment pertama
runtime-fc-deploy --deploy-name <nama_aplikasi> --whl-path <PATH_KE_WHL> --telemetry enable

# Perbarui deployment
runtime-fc-deploy --update <ID_APLIKASI_HIGH_CODE> --whl-path <PATH_KE_WHL> --telemetry enable

Sebelum mengunggah, konfigurasikan ALIBABA_CLOUD_ACCESS_KEY_ID, ALIBABA_CLOUD_ACCESS_KEY_SECRET, dan variabel ruang kerja opsional. Untuk deployment pertama, ikuti petunjuk otorisasi di konsol.

Resource deployment: Pilih spesifikasi dan jumlah minimum instans berdasarkan beban kerja Anda. Untuk harga, rujuk ke halaman penagihan.

Observabilitas aplikasi memerlukan penambahan instrumentasi ke kode Anda:

from agentscope_runtime.engine.tracing import trace, TraceType

@trace(trace_type=TraceType.LLM, trace_name="llm_call")
def call_llm(...):
    ...

Aktifkan --telemetry enable selama deployment untuk melihat data pemanggilan di Observabilitas Aplikasi.

Jaringan dan penerbitan: Untuk mengakses resource jaringan internal perusahaan, konfigurasikan jaringan sesuai metode yang saat ini didukung untuk aplikasi high-code. Konfigurasikan nama domain dan autentikasi melalui gerbang.

5.1 Penerbitan dan Pemanggilan

Setelah menerbitkan aplikasi alur kerja atau agen, dapatkan detail API dari konsol:

curl -X POST https://dashscope.aliyuncs.com/api/v1/apps/{APP_ID}/completion \
  -H "Authorization: Bearer $DASHSCOPE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"input": {"prompt": "Hello"}, "parameters": {}}'

Untuk keluaran streaming, gunakan header X-DashScope-SSE: enable. Untuk percakapan multi-putaran, kirimkan session_id atau messages seperti yang dijelaskan dalam dokumentasi API.

Timeout panggilan sinkron bergantung pada domain akses: domain default memiliki timeout 600 detik, sedangkan domain khusus ruang kerja mendukung hingga 3.600 detik. Untuk tugas yang lebih lama, beralihlah ke eksekusi asinkron atau pecah tugas tersebut.

Aplikasi juga dapat diterbitkan sebagai komponen aplikasi atau dihubungkan ke saluran berbagi. Ruang lingkup dukungan spesifik bergantung pada jenis aplikasi dan dokumentasi resmi.

5.2 Pembatasan Laju dan Kuota

Model Studio menghitung kuota RPM dan TPM per Akun Alibaba Cloud dan per model. Respons 429 menunjukkan bahwa pembatasan laju telah dipicu. Pengguna RAM, ruang kerja, dan Kunci API di bawah Akun Alibaba Cloud yang sama berbagi kuota.

Sebelum memigrasikan beban kerja konkurensi tinggi, evaluasi kuota model Anda dan ajukan peningkatan kuota jika diperlukan. Untuk detailnya, lihat Pembatasan laju.

5.3 Manajemen Produksi dan Observabilitas

Observabilitas Aplikasi memungkinkan Anda melihat rantai panggilan, input dan output, latensi, konsumsi token, dan status eksekusi. Ruang lingkup dukungan dan periode retensi data dijelaskan dalam dokumentasi konsol.

Pemantauan Model memungkinkan Anda melihat metrik seperti volume panggilan, tingkat kegagalan, pembatasan laju, dan latensi. Anda dapat mengintegrasikan dengan sistem logging, peringatan, atau pemantauan berdasarkan kemampuan saat ini.

Iterasi versi: Pertahankan versi di repositori kode lokal Anda. Alur kerja dapat diimpor dan diekspor untuk menyimpan snapshot. Aplikasi high-code diredploy dengan paket .whl baru menggunakan --update. DSL Model Studio tidak dapat secara langsung mengimpor format LangStudio flow.dag.yaml.

6.1 Koneksi (Akses Model)

Model Studio tidak memiliki objek "koneksi" yang setara. Setiap jenis resource dikelola oleh modulnya masing-masing, dan panggilan model menggunakan Kunci API.

Model platform Model Studio dipilih dari ModelGallery dan dipanggil melalui Kunci API menggunakan protokol DashScope atau kompatibel OpenAI.

Model milik pelanggan dapat ditangani melalui tiga jalur:

Untuk detailnya, lihat Impor model dan Deployment model.

6.2 Basis Pengetahuan

Prasyarat penting: Data vektor di basis pengetahuan tidak dapat diekspor atau dimigrasikan secara langsung. Anda harus mengurai ulang, membagi ulang, dan melakukan vektorisasi ulang dari file asli atau sumber data lainnya. Pastikan data sumber Anda lengkap dan dapat diakses.

Basis pengetahuan Model Studio menyediakan empat jenis. Jenis tidak dapat diubah setelah pembuatan:

• Data multimodal: Pilih metode akses berdasarkan tipe data.

  • Q&A gambar menggunakan field image_url publik di data terstruktur. Pencarian audio dan video mengimpor dari penyimpanan lokal atau OSS.

  • Untuk dokumen dengan tata letak atau bagan kompleks, pilih skenario pemahaman visual di Pencarian Dokumen.

  • Audio dan video diimpor dari penyimpanan lokal atau OSS dan diproses oleh parser audio/video.

• Penguraian dan chunking: Pilih parser dan strategi chunking sebelum pembuatan. Ini tidak dapat dimodifikasi setelah pembuatan. Validasi akurasi pengambilan dengan data sampel terlebih dahulu.

• Model penyematan dan peringkat: Pilih model penyematan dan reranking saat pembuatan. Ini tidak dapat diubah setelah pembuatan. Jika dimensi penyematan berubah, validasi ulang hasil pengambilan.

• Edisi: Untuk detail harga, lihat halaman harga resmi.

• Batas asosiasi dan pengambilan: Ini bergantung pada jenis aplikasi dan mode pemanggilan. Verifikasi batas saat ini sebelum migrasi.

• Langkah migrasi: Validasi dan sesuaikan dengan data sampel -> buat basis pengetahuan produksi dan impor semua data -> sambungkan ke aplikasi Anda -> benchmark hasil. Konversi file sumber terlebih dahulu jika formatnya tidak didukung.

Untuk detailnya, lihat Basis pengetahuan.

6.3 Tool (Plugin)

Model Studio menggunakan plugin untuk menggantikan tool: agen dapat memilih plugin secara otonom, sedangkan alur kerja memanggilnya secara deterministik melalui node Plugin.

Plugin resmi termasuk code_interpreter, calculator, text_to_image, quark_search, generate_qrcode, github_search, dan lainnya. Ini dapat menggantikan beberapa panggilan pihak ketiga.

Plugin kustom dikonfigurasi di konsol dengan detail antarmuka dan autentikasi. Setelah selesai, plugin tersebut dapat diterbitkan sebagai layanan MCP. Untuk deskripsi field detail, rujuk ke konsol.

Untuk detailnya, lihat Ikhtisar plugin dan Plugin kustom.

6.4 MCP

Model Studio menyediakan MCP sebagai kemampuan tingkat platform, dengan Galeri MCP, layanan yang dihosting cloud, dan node MCP alur kerja.

Layanan MCP kustom dapat diintegrasikan sebagai berikut:

• Deployment skrip: Gunakan type: stdio atau type: sse / streamableHttp untuk menghubungkan layanan Anda.

• Impor dari AI Gateway: Bungkus API RESTful yang ada sebagai tool MCP.

• Impor dari Alibaba Cloud OpenAPI: Buat BailianMcpRole* dan berikan izin yang diperlukan.

Batas pemasangan MCP, alat, dan konfigurasi dapat berubah seiring diperbaruinya kapabilitas. Periksa dokumentasi resmi saat ini sebelum migrasi.

6.5 Modul Umum Lainnya

Model Studio juga menyediakan kemampuan platform berikut yang tidak memiliki padanan independen di LangStudio. Perkenalkan sesuai kebutuhan selama migrasi:

Diantara ini, Skill dan Evaluasi Aplikasi paling relevan untuk migrasi: yang pertama mengambil alih direktori skill dari proyek mode coding, dan yang kedua memungkinkan Anda membangun set evaluasi untuk membandingkan konsistensi output sebelum dan sesudah migrasi.

T: Node Python saya menggunakan pustaka pihak ketiga seperti pandas. Node Script di Model Studio tidak mendukungnya. Apa yang harus saya lakukan?

Tiga opsi: tulis ulang dengan pustaka standar; pindahkan logika ke node Function Compute (yang mendukung lingkungan dependensi lengkap, dengan timeout tetap 60 detik); atau kemas sebagai layanan independen dan panggil melalui node API. Untuk detailnya, lihat 3.2.2 Python Development ke Node Script.

T: Aplikasi asli saya berjalan di dalam VPC perusahaan dan mengakses layanan jaringan internal. Bagaimana menanganinya setelah migrasi?

Saat node API alur kerja perlu mengakses layanan internal perusahaan, Anda harus mengekspos layanan melalui metode yang didukung dan mengonfigurasi kontrol akses. Untuk akses VPC perusahaan ke layanan yang diterbitkan, ikuti petunjuk akses jaringan pribadi. Untuk detailnya, lihat 3.2.4 HTTP Request ke Node API.

T: Apakah saya masih dapat menggunakan model self-hosted saya di PAI-EAS setelah migrasi?

Ya, tetapi metode integrasinya berubah. Model Studio tidak mendukung mendaftarkan endpoint model eksternal sebagai model platform. Di alur kerja, gunakan node API untuk memanggil model melalui HTTP, atau kemas sebagai plugin kustom / layanan MCP. Jika model tersebut merupakan hasil fine-tuning LoRA berbasis Qwen, Anda juga dapat mengimpornya ke Model Studio. Jika memerlukan resource komputasi khusus, redeploy di layanan inferensi khusus Model Studio. Untuk detailnya, lihat 6.1 Koneksi (Akses Model).

T: Bisakah saya langsung memigrasikan data vektor dari basis pengetahuan saya?

Tidak, Anda tidak dapat memigrasikannya secara langsung. Anda harus mengurai ulang dan melakukan vektorisasi ulang dari file asli atau sumber data lainnya. Jika memilih solusi RAG self-hosted dan sudah menggunakan Elasticsearch / Milvus, data vektor berada di instans Anda sendiri dan dapat digunakan ulang secara langsung.

T: Batas Top K dari mode pengambilan yang dipilih lebih rendah daripada yang digunakan aplikasi asli saya. Apa yang harus saya lakukan?

Pertama optimalkan chunking dan reranking, lalu evaluasi pemisahan basis pengetahuan atau membangun layanan RAG self-hosted. Untuk detailnya, lihat 7. Alternatif: Membangun Layanan RAG Self-hosted.

T: Bagaimana saya memastikan kualitas tidak menurun setelah migrasi?

Kami menyarankan menggunakan kemampuan Evaluasi Aplikasi di Model Studio untuk membangun set evaluasi. Jalankan aplikasi yang dimigrasikan terhadap sampel permintaan nyata dari aplikasi asli dan bandingkan konsistensi output dan akurasi recall. Fokuslah pada tiga area yang paling mungkin berbeda: penulisan ulang sintaks prompt, perubahan batas recall basis pengetahuan, dan penulisan ulang node Script.

T: Jika Model Studio tidak memenuhi persyaratan perusahaan kami, apakah ada opsi lain?

Kami menyarankan tiga produk Alibaba Cloud berikut. Pilih berdasarkan kebutuhan bisnis dan roadmap teknis Anda. Jika memiliki pertanyaan lebih lanjut, konsultasikan dengan account manager Anda.

1. Function Compute AgentRun

   Platform infrastruktur Agentic AI satu atap yang dibangun di atas fondasi high-code. Berbasis arsitektur serverless, menyediakan elastisitas tingkat milidetik, sandbox keamanan enterprise-grade, tata kelola model dan tool terpadu, serta observabilitas end-to-end. Mencakup siklus hidup penuh aplikasi Agent enterprise dari pengembangan dan deployment hingga operasi.

2. AgentCore - Platform Pembuatan dan Tata Kelola Agen

   Pembuatan dan tata kelola agen enterprise terpadu di seluruh siklus hidup agen. Mendukung berbagai mode pembuatan, otentikasi identitas terpadu, dan orkestrasi kolaborasi tim. Mengelola agen pengembangan sendiri, harness open-source, dan agen SaaS komersial di satu platform.

3. AgentLoop - Observabilitas dan Optimasi Agen

   Platform evolusi mandiri satu atap untuk agen enterprise. Mencakup lima kemampuan inti: observabilitas, evaluasi, tuning, memori, dan auditing. Membantu perusahaan membangun flywheel evolusi agen dengan fokus pada optimasi berkelanjutan aplikasi agen.