Agent Run:AgentRun

Membangun dan mengembangkan aplikasi agen

• Menyediakan tiga mode pengembangan: no-code, low-code, dan pro-code:

  • No-code (AI Studio): Untuk staf bisnis atau operasional membangun agen melalui antarmuka visual.

  • Low-code (Quick Create Agent): Membangun agen yang dapat dijalankan secara cepat dengan memilih model, menulis prompt, dan mengonfigurasi tool serta sandbox melalui UI.

  • Pro-code (Create Agent with Code): Mengimplementasikan logika kompleks dan mencapai kesiapan produksi menggunakan bahasa seperti Python, Node.js, atau Java dengan framework apa pun.

• Beralih dari low-code ke pro-code hanya dengan satu klik:

  • Setelah Anda memvalidasi prototipe dalam mode quick-create, Anda dapat mengonversinya ke mode kode dengan satu klik.

  • Platform menghasilkan kode yang terstruktur dengan baik dan mudah dipelihara berdasarkan konfigurasi saat ini, sehingga Anda dapat melakukan iterasi dalam mode pro-code tanpa menulis ulang dari awal.

• Menyediakan SDK dan API terbuka untuk meningkatkan integrasi pro-code:

  • API HTTP terpadu, kompatibel dengan protokol seperti OpenAI Chat Completions, memungkinkan Anda langsung memanggil agen, model, dan tool dari bahasa atau layanan backend apa pun.

  • SDK multi-bahasa untuk Python, Node.js, dan lainnya mengenkapsulasi detail autentikasi dan pemanggilan. Hal ini memungkinkan proyek pro-code melakukan aksi berikut dengan kode minimal:

    • Memanggil agen yang di-host di AgentRun dari layanan yang sudah ada.

    • Memanggil lapisan proxy model untuk menggunakan fitur tata kelola seperti fallback multi-model dan load balancing.

    • Menggunakan sandbox serverless untuk menjalankan tugas kompleks seperti eksekusi kode dan Browser Use.

• Tetap terbuka dan hindari vendor lock-in:

  • AgentRun terintegrasi dengan framework agen utama seperti LangChain, AgentScope, CrewAI, dan Google ADK. Untuk informasi lebih lanjut, lihat Dokumentasi SDK AgentRun.

  • Anda dapat menggunakan kemampuan AgentRun secara selektif. Misalnya, gunakan hanya sandbox, proxy model, atau fitur observabilitas dan integrasikan dengan sistem yang sudah ada. Pendekatan modular dan plug-and-play ini menghilangkan kebutuhan untuk memigrasikan seluruh stack Anda ke platform tertutup.

Waktu proses agen tingkat produksi

• Waktu proses serverless yang didukung oleh Function Compute (FC):

  • Menangani pemanggilan agen yang jarang dan lonjakan traffic dengan mudah berkat kemampuan skalabilitas elastis dari arsitektur serverless.

  • Afinitas sesi memastikan permintaan dari sesi yang sama diarahkan ke instans yang sama, sehingga menyederhanakan percakapan berkelanjutan dan manajemen state.

  • Mendukung scale to zero. Sumber daya secara otomatis dilepas setelah sesi tidak aktif. Penagihan disesuaikan selama kondisi light sleep ini untuk menyeimbangkan kinerja dan biaya.

• Waktu proses multi-bahasa dan multi-tipe bawaan:

  • Waktu proses agen mendukung bahasa populer seperti Python, Node.js, dan Java.

  • Waktu proses sandbox memiliki dukungan bawaan untuk lebih dari 50 bahasa dan juga memungkinkan Anda menggunakan custom image.

  • Anda tidak perlu mengelola server, kontainer, atau kluster Kubernetes.

Akses dan tata kelola model terpadu

• Manajemen terpusat untuk model besar:

  • Mendukung model dari penyedia terkemuka seperti Qwen dan DeepSeek, serta model open-source.

  • Gunakan FunModel untuk meng-host model open-source sebagai API kompatibel OpenAI hanya dengan satu klik.

  • Mendukung manajemen model vektor untuk skenario pengambilan dan Retrieval-Augmented Generation (RAG).

• Tata kelola model dan ketersediaan tinggi:

  • Lapisan proxy model terpadu menyembunyikan perbedaan antar API penyedia berbagai model.

  • Dilengkapi fitur bawaan seperti load balancing multi-model, fallback, kontrol konkurensi, dan kontrol timeout.

  • Mendukung moderasi konten, pembatasan laju berbasis token, retry otomatis, dan pemantauan biaya.

Kemampuan sandbox siap pakai

• Sandbox sebagai layanan:

  • Code Interpreter: Eksekusi kode secara aman dalam bahasa seperti Python, Node.js, dan Java, dengan dukungan manajemen file dan sesi.

  • Browser Use: Menyediakan lingkungan otomatisasi browser yang stabil menggunakan protokol CDP over WebSocket, kompatibel dengan Puppeteer dan Playwright.

  • Computer/Mobile Use (Direncanakan): Ekstensi mendatang akan mendukung operasi lanjutan seperti interaksi GUI dan Remote Desktop.

• Keamanan dan isolasi tingkat enterprise:

  • Isolasi multi-level di tingkat request, instans, dan sesi berdasarkan kontainer aman (MicroVMs).

  • Isolasi penyimpanan dengan dukungan mounting Object Storage Service (OSS) atau NAS.

  • Platform memelihara dan memperbarui lingkungan sandbox, sehingga menghindarkan developer dari tugas membangun, mem-patch, dan mengelola dependensi.

• Fitur kinerja sandbox serverless:

  • Wakeup tingkat milidetik dari light sleep: Instans sandbox yang menganggur sebentar secara otomatis masuk ke kondisi light sleep dan dapat dibangunkan dalam hitungan milidetik saat permintaan baru tiba, hampir menghilangkan penundaan cold start.

  • Wakeup tingkat detik dari deep sleep: Instans tanpa traffic dalam periode panjang masuk ke mode deep sleep yang lebih hemat daya dan tetap dapat dipulihkan dalam hitungan detik, menyeimbangkan biaya dan kinerja.

  • Eksekusi konkuren jutaan templat sandbox: Infrastruktur dasar mendukung eksekusi konkuren jutaan templat sandbox tingkat fungsi. Kemampuan ini memungkinkan sandbox berskala besar dan beragam berjalan secara simultan pada satu platform, menjadikannya ideal untuk skenario enterprise dengan banyak tim dan lini bisnis.

Ekosistem tool terpadu dan dukungan MCP

• Tool Hub:

  • Menyediakan koleksi luas tool yang dapat diterapkan hanya dengan satu klik.

  • Memungkinkan Anda menerbitkan tool kustom dan membangun ekosistem tool agen sendiri.

• Dukungan protokol ganda untuk MCP dan Function Call:

  • Ubah apa saja menjadi tool MCP: Agen, sandbox, dan tool berbasis API dapat dikonversi ke format MCP hanya dengan satu klik.

  • Mendukung ekstensi lanjutan seperti panggilan balik pre- dan post-processing, analisis semantik, dan routing cerdas.

  • Kompatibel dengan sebagian besar tool MCP dan Function Call yang tersedia di pasar.

  • Paket tool MCP: Gabungkan beberapa tool MCP dan tool API menjadi gateway MCP terpadu. Ini mengeksposnya melalui satu titik akhir untuk penyederhanaan manajemen dan akses.

Observabilitas dan analisis biaya

• Observabilitas end-to-end:

  • Menyediakan pelacakan end-to-end berbasis OpenTelemetry untuk seluruh siklus hidup request, mulai dari permintaan pengguna hingga dependensi eksternal.

  • Menampilkan metrik utama seperti QPS, distribusi latensi, dan tingkat error.

• Penilaian biaya dan kinerja:

  • Atribusi biaya tingkat token: Lacak biaya yang terkait dengan operasi spesifik seperti pemanggilan model, pencarian vektor, dan pemanggilan tool.

  • Analisis multi-dimensi: Analisis biaya dan kinerja berdasarkan pengguna, sesi, atau jenis agen.

  • Penyimpanan dan analisis log terpadu: Gunakan log untuk penilaian kualitas, audit keamanan, dan analisis semantik.

Keamanan tingkat enterprise dan residensi data

• Isolasi keamanan multi-lapis:

  • Isolasi di tingkat request, instans, dan sesi.

  • Isolasi aman antara waktu proses agen dan waktu proses sandbox.

  • Hubungkan ke jaringan VPC atau IDC Anda untuk memastikan data Anda tidak pernah meninggalkan lingkungan privat Anda.

• Penerapan fleksibel untuk data dan memori:

  • Terintegrasi mendalam dengan proyek open-source seperti Mem0 dan RAGFlow.

  • Mendukung mode hosted satu-klik maupun kemampuan menghubungkan ke penerapan yang sudah ada di VPC atau IDC.

  • Enterprise dapat memilih untuk menerapkan data inti secara on-premises sementara data umum di-host di cloud, menyeimbangkan keamanan dan efisiensi.

AgentRuntime

Menyediakan lingkungan eksekusi dan manajemen siklus hidup terpadu untuk agen.

Fitur utama:

• Beberapa mode pengembangan:

  • No-code (AI Studio), low-code (Quick Create Agent (No-Code)), dan pro-code (Create Agent with Code).

• Waktu proses multi-bahasa:

  • Python 3.10/3.12, Node.js 18/20, Java 8/11/17, dan lainnya.

• Metode penerapan:

  • Unggah paket kode (dari mesin lokal atau OSS), gunakan editor online, atau tentukan custom image.

• Kemampuan waktu proses:

  • Afinitas sesi, elastisitas serverless, dan konkurensi multi-instans.

  • Manajemen versi, manajemen titik akhir, dan rilis canary.

• Ekosistem integrasi:

  • Integrasi SDK, integrasi API (kompatibel dengan OpenAI Chat Completions), integrasi UI (untuk aplikasi full-stack), dan integrasi MCP.

Sandbox

Menyediakan sandbox serverless yang aman dan berkinerja tinggi untuk eksekusi kode dan otomatisasi browser.

Fitur utama:

• Beberapa jenis sandbox:

  • Code Interpreter dan Browser Use, dengan dukungan mendatang untuk All-in-One, Reinforcement Learning (RL), Simulation (Sim), dan lainnya.

• Isolasi dan elastisitas:

  • Berdasarkan kontainer aman (MicroVMs) dengan isolasi multi-level.

  • Mendukung scale to zero dan penjadwalan elastis berdasarkan request.

  • Wakeup tingkat milidetik dan pengiriman cepat puluhan ribu instans per menit.

• Metode integrasi:

  • Dapat diintegrasikan ke dalam agen melalui panggilan SDK atau sebagai tool MCP.

  • Mendukung image bawaan maupun kustom.

Manajemen model

Hub terpusat untuk mengakses, mengelola, dan mengatur model besar.

Fitur utama:

• Sumber model:

  • Model pihak ketiga (seperti Qwen dan DeepSeek), model open-source yang di-host sendiri (menggunakan framework seperti vLLM, SGLang, Ollama, atau LMDeploy), dan model vektor.

• Plugin penyedia layanan model:

  • Mengelola kredensial autentikasi dan detail koneksi untuk berbagai layanan model secara terpusat.

• Waktu proses model:

  • Waktu proses model serverless yang mendukung penggunaan siap pakai, pengembangan lanjutan dengan DevPods, pengiriman GPU elastis, dan scale to zero selama jam sepi.

• Tata kelola model:

  • Load balancing multi-model, fallback, kontrol konkurensi, timeout, dan caching.

  • Moderasi konten, pembatasan laju berbasis token, dan pemantauan biaya.

Manajemen tool

Hub terpusat untuk mendefinisikan, memanggil, dan mengatur tool.

Fitur utama:

• Antarmuka tool terpadu:

  • Mendukung protokol MCP dan Function Call.

  • Mengelola logika pemanggilan tool melalui API terpadu, yang mengurangi kompleksitas pengembangan.

• Ekosistem Tool Hub:

  • Menyediakan banyak tool umum untuk integrasi satu-klik.

  • Mendukung penerbitan dan berbagi tool kustom.

• Ekstensi cerdas:

  • Mendukung fitur lanjutan seperti injeksi hook, analisis semantik, dan routing cerdas.

  • Fitur yang direncanakan mencakup mesin berbasis AI untuk menghasilkan definisi tool secara otomatis dan merekomendasikan tool.

Manajemen kredensial

Mengelola semua kredensial yang diperlukan untuk mengakses agen, sandbox, LLM, dan tool secara terpusat.

Fitur utama:

• Mendukung berbagai jenis kredensial:

  • Kunci API, JWT, Basic Auth, Pasangan Kunci Akses (AK/SK), dan lainnya.

• Injeksi kredensial dinamis:

  • Bekerja sama dengan waktu proses AgentRun untuk menginjeksikan kredensial secara aman saat runtime.

• Kontrol Aktifkan/Nonaktifkan:

  • Memungkinkan Anda segera menonaktifkan kredensial yang dicurigai telah dikompromikan, sehingga mengurangi risiko keamanan.

Observabilitas dan operasi

Menghilangkan sifat "kotak hitam" agen dengan memberikan wawasan yang diperlukan untuk mengamati dan mengoptimalkan beban kerja produksi.

Fitur utama:

• Pelacakan end-to-end:

  • Menyediakan pelacakan konsisten dari request awal melalui gerbang, agen, model, tool, hingga dependensi eksternal.

• Pemantauan aplikasi AI:

  • Buat dasbor pemantauan dengan Prometheus atau ARMS untuk menganalisis kinerja model, biaya token, anomali GPU, dan lainnya.

• Logging dan evaluasi:

  • Penyimpanan log terpadu dengan dukungan pencarian dan analisis SQL.

  • Mendukung analisis lanjutan terhadap log pemanggilan model untuk evaluasi kualitas, keamanan, dan maksud.

Otorisasi Service-Linked Role

Saat pertama kali menggunakan AgentRun, Anda harus memberikan izin melalui Service-Linked Role (SLR):

• Login ke AgentRun Console.

• Sistem secara otomatis memeriksa izin SLR yang diperlukan dan, jika tidak ada, menampilkan dialog untuk memandu Anda melalui proses otorisasi. Ikuti petunjuk untuk membuat dan mengotorisasi role berikut:

  • Role kustom AliyunFCFunctionAICustomRole (entitas tepercaya: functionai.fc.aliyuncs.com)

  • Role default AliyunFCFunctionAIDefaultRole

  • Service-Linked Role AliyunServiceRoleForFC dan AliyunServiceRoleForAgentRun

• Setelah otorisasi selesai, Anda dapat membuat dan mengelola agen, sandbox, model, dan sumber daya lainnya.

Izin dan jaringan

• Akun atau Pengguna RAM Anda harus diberikan izin yang diperlukan untuk mengakses sumber daya seperti Function Compute (FC), sandbox, model besar, log, OSS, dan VPC. Untuk informasi lebih lanjut, lihat Otorisasi Pengguna RAM untuk menggunakan AgentRun.

• Untuk mengakses layanan AgentRun dari dalam VPC, Anda dapat mengonfigurasi private endpoint menggunakan PrivateLink. Untuk informasi lebih lanjut, lihat Akses sumber daya AgentRun melalui PrivateLink.

• Menggunakan fitur integrasi UI memerlukan izin terkait pipeline functionai.