Platform For AI：Mulai cepat: Buat aplikasi berbasis kode

Deskripsi templat proyek

Templat LLM Basic menyediakan struktur dasar proyek Agent untuk membantu Anda memulai dengan cepat.

project/
├── agent.py          # File entri: Mendefinisikan aplikasi FastAPI dan titik akhir API
├── agent_loop.py     # Logika inti: Menangani loop pemanggilan LLM dan eksekusi tool
├── agui.py           # Transformasi aliran acara protokol AG-UI
├── skills.py         # Sistem skill: Menemukan, memuat, dan mengeksekusi skill
├── skills/           # Direktori skill
│   ├── get-current-time/
│   └── create-plan/
├── requirements.txt  # Dependensi Python
├── .env              # File variabel lingkungan (harus dibuat manual)
└── README.md         # Dokumentasi lengkap

• agent.py adalah file entri default. File ini harus menyediakan objek global FastAPI bernama app. Layanan LangStudio secara otomatis mendeteksi dan memuat objek app untuk memulai layanan.

• Baca file README.md untuk mempelajari cara memodifikasi dan memperluas templat contoh.

Konfigurasikan variabel lingkungan

Proyek ini menggunakan layanan model yang disediakan oleh Alibaba Cloud Model Studio. Anda harus menyediakan Kunci API melalui variabel lingkungan.

Buat file .env di direktori root proyek:

DASHSCOPE_API_KEY=your-api-key-here

Saat runtime dimulai, variabel lingkungan dari file .env akan dimuat secara otomatis.

Debugging API

Di tab API Debugging, Anda dapat menguji API aplikasi.

1. Pilih API yang akan diuji, misalnya POST /.

2. Masukkan parameter permintaan dan kirim permintaan tersebut.

Contoh permintaan:

{
  "question": "What is the weather like in Beijing today?"
}

Tanggapan yang diharapkan:

{
  "answer": "The weather in Beijing today is sunny, with temperatures between 10°C and 20°C."
}

Debug dengan panel chat

Platform menyediakan panel chat visual yang mendukung sesi multi-turn:

1. Buka halaman Chat.

2. Masukkan pertanyaan langsung untuk memulai percakapan.

3. Lihat tanggapan Agent secara real-time.

Panel chat menggunakan Protokol AG-UI, yang mengharuskan layanan mendukung titik akhir /ag-ui.

Lihat analisis jejak (tracing)

Terlepas dari metode debugging yang digunakan, platform secara otomatis mencatat informasi tracing:

• Durasi permintaan: Waktu yang dibutuhkan pada setiap tahap.

• Detail pemanggilan LLM: Parameter model dan penggunaan token.

• Catatan pemanggilan tool: Tool yang dipanggil dan hasil yang dikembalikan.

• Pesan error: Jejak stack lengkap saat terjadi error.

Lihat log

Jika kode Anda mengalami exception, Anda dapat melihat log worker di halaman Run untuk memecahkan masalah tersebut.

1. Ubah persona Agent atau system prompt

Tujuan: Menentukan peran, perilaku, dan gaya respons Agent.

Edit metode to_messages() di file agent.py:

def to_messages(self) -> list:
    return [
        {"role": "system", "content": "You are a professional travel planning assistant. Your answers should be concise, actionable, and presented as a checklist."},
        {"role": "user", "content": self.question},
    ]

2. Tambahkan tool kustom (Function Calling)

Tujuan: Memungkinkan Agent memanggil API eksternal atau menjalankan logika kode tertentu, seperti mengecek cuaca atau mengambil data dari database.

1. Definisikan fungsi tool: Di file agent.py, definisikan fungsi Python standar.

   • Nama fungsi akan diekspos ke model sebagai nama tool.

   • Anotasi tipe parameter secara otomatis menghasilkan skema tool.

   • Mendukung fungsi asinkron async def.

   # Tambahkan fungsi tool di agent.py
   def geocode(city: str) -> str:
       """Get the geographical coordinates of a city."""
       # Ganti ini dengan pemanggilan API sebenarnya
       return '{"lat": 39.9042, "lng": 116.4074}'
   
   # Berikan daftar tool saat memanggil agent_loop
   async for chunk in agent_loop(req.to_messages(), [get_weather, geocode]):
       ...

2. Daftarkan tool: Di titik akhir API di agent.py, berikan daftar fungsi tool yang telah Anda definisikan ke agent_loop.

   # Di rute FastAPI di agent.py
   
   @app.post("/")
   async def query(req: QueryRequest) -> QueryResponse:
       # Berikan daftar fungsi tool ke agent_loop
       tools = [get_weather, geocode]
       async for chunk in agent_loop(req.to_messages(), tools=tools):
           # ...

3. Tambahkan skill

Skill digunakan untuk mengorganisasi instruksi operasi dan skrip yang kompleks.

1. Buat direktori dan file skill: Di direktori skills/, buat subdirektori untuk skill baru Anda, misalnya my-skill. Direktori ini harus berisi file SKILL.md, yang menjelaskan tujuan dan penggunaan skill kepada model.

   skills/
     └── my-skill/
         ├── SKILL.md      # Wajib: File definisi skill
         └── scripts/      # Opsional: Menyimpan skrip yang akan dijalankan oleh skill ini
             └── run.py

2. Tulis file definisi skill: File SKILL.md berisi metadata dan instruksi detail. Berikut contohnya:

   ---
   name: my-skill
   description: Use this skill when the user needs to perform a specific task.
   ---
   
   # My Skill
   
   ## Goal
   Describe what the skill does in one sentence.
   
   ## Instructions
   Detailed operation instructions...

Agent melihat daftar skill yang tersedia dalam system prompt dan menggunakan tool bawaan load_skill_file dan execute_script untuk menggunakan skill tersebut.