Kagent adalah framework untuk membangun, menyebar, dan menjalankan aplikasi AI di Kubernetes. Setelah diterapkan, Kagent memungkinkan Anda menggunakan API deklaratif untuk membuat agen dan MCP Server, serta mendukung integrasi dengan berbagai model bahasa besar.
Basic agent concepts
Agen adalah aplikasi yang berinteraksi dengan pengguna dalam bahasa alami. Aplikasi ini menggunakan large language model (LLM) untuk menghasilkan respons terhadap permintaan pengguna dan dapat melakukan operasi atas nama pengguna.
Setiap agen terdiri dari komponen-komponen berikut:
LLM: Memahami dan merespons permintaan pengguna. Contohnya termasuk Qwen dan ChatGPT.
Agent instruction: Sekumpulan instruksi yang menentukan perilaku dan fitur agen, juga dikenal sebagai system prompt. Instruksi ini biasanya menetapkan peran agen, panduan interaksi, aksi yang tersedia, serta metode respons. Contoh: "Anda adalah insinyur O&M Kubernetes. Anda dapat membantu pengguna mengelola resource Kubernetes mereka."
Tool: Fungsi yang dapat digunakan agen untuk berinteraksi dengan lingkungannya. Tool dapat berupa MCP Server yang mendukung protokol MCP atau agen lain yang mendukung protokol A2A. Contohnya:
MCP Server ACK mendukung operasi seperti mengambil informasi kluster, menjalankan diagnostik kluster, dan melihat metrik Prometheus.
Agen kustom mendukung tugas khusus, seperti mengambil informasi produk.
Core features
Kagent adalah framework native Kubernetes untuk penyebaran dan orkestrasi agen. Anda dapat menggunakan Kagent untuk melakukan tugas-tugas berikut:
Menyebar agen aktif secara cepat di kluster ACK menggunakan file YAML.
Menyebar MCP Server secara cepat di kluster ACK menggunakan file YAML dan mengaktifkan interaksi dengan agen.
Mengintegrasikan MCP Server buatan sendiri untuk membuat agen kustom.
Mengorkestrasi beberapa agen menggunakan file YAML untuk menerapkan arsitektur multi-agen.
Mengorkestrasi agen buatan sendiri secara terpusat.
Core APIs
Kagent menggunakan CustomResourceDefinitions (CRDs) Kubernetes sebagai Core API-nya. Resource utamanya adalah:
ModelConfig: Mengonfigurasi informasi panggilan untuk model AI, mencakup parameter seperti URL, model, dan API key untuk penyedia seperti Qwen atau OpenAI.RemoteMCPServer: Mendaftarkan MCP Server yang menggunakan protokol HTTP. Setelah dikonfigurasi, Anda dapat mereferensikannya di dalam agen. Anda dapat mengonfigurasi URL MCP Server yang ditempatkan di luar kluster atau sebagai Service di dalam kluster.Agent: Mewakili konfigurasi agen. Agen adalah abstraksi yang menggabungkan model AI, instruksi, dan tool. Model AI memproses panggilan dari manusia atau agen lain berdasarkan prompt yang dikonfigurasi dan menggunakan MCP Server yang dapat dipanggilnya untuk menjalankan tugas tertentu. Tool dapat berupa MCP Server atau agen lain yang mendukung protokol A2A.
Kagent architecture
Kagent terdiri dari tiga bagian utama:
controller: Memproses API terkait Kagent dan mengubahnya menjadi aplikasi agen di dalam kluster.
App/Engine: Komponen inti Kagent. Ini adalah aplikasi Python yang dikembangkan berdasarkan ADK. Saat resource agen dibuat, controller menerjemahkan resource tersebut menjadi aplikasi Agent App secara real time. Aplikasi ini menangani loop percakapan dan mendukung protokol A2A.
UI: Kagent menyediakan UI web default yang dapat Anda gunakan di browser untuk membuat, mengelola, dan berinteraksi dengan agen.
Usage notes
Templat instalasi default yang disediakan oleh komunitas Kagent memiliki izin Role-Based Access Control (RBAC) yang luas. Namun, ACK membatasi templat ini. Secara default, templat hanya memiliki izin di namespace kagent, seperti membuat dan menghapus resource Deployment dan Service, serta membaca resource Secret. Oleh karena itu, Anda hanya dapat membuat resource seperti Agent dan ModelConfig di namespace kagent. Untuk membuat resource di namespace lain, Anda harus menambahkan resource ClusterRole untuk role terkait Kagent.
API Kagent saat ini berada dalam tahap Alpha. Sebelum melakukan upgrade, periksa versi yang sesuai untuk mengetahui adanya perubahan yang tidak kompatibel.