Platform For AI:Mulai cepat: Buat aplikasi berbasis kode

Prasyarat

Sebelum memulai, pastikan Anda telah memiliki:

• Akun Alibaba Cloud dengan PAI yang telah diaktifkan

• Kunci API dari Alibaba Cloud Model Studio

Langkah 1: Buat aplikasi

1. Masuk ke Konsol PAI. Di bilah navigasi atas, pilih wilayah, misalnya China (Hangzhou).

2. Di panel navigasi kiri, pilih Model Application > Application Development (LangStudio).

3. Pada tab Applications, klik Create Application dan pilih Code Mode dari daftar drop-down.

4. Pada halaman Create Application, konfigurasikan parameter berikut:

   Parameter	Deskripsi
   Creation method	Pilih Create from Template, lalu pilih LLM Basic.
   Name	Masukkan nama untuk aplikasi Anda, misalnya agent_demo.
   Select runtime	Runtime adalah lingkungan komputasi untuk menjalankan dan mendebug kode Anda. Pilih runtime yang sudah ada dari daftar drop-down. Jika tidak tersedia, klik New Runtime untuk membuat satu dengan pengaturan default. Beberapa aplikasi dapat berbagi runtime yang sama.
   Working path	Jalur bucket OSS untuk menyimpan konfigurasi alur kerja, log, dan file sementara. Diisi secara otomatis setelah Anda memilih runtime.
   Description	(Opsional) Deskripsi singkat mengenai aplikasi.

5. Klik Confirm. LangStudio akan membawa Anda ke halaman developer.

Langkah 2: Konfigurasikan variabel lingkungan

Buat file .env di direktori root proyek pada panel EXPLORER di sebelah kiri dengan konten berikut:

Catatan: Operasi ini memerlukan lingkungan runtime yang telah ditautkan dan sedang berjalan.

DASHSCOPE_API_KEY=your-api-key-here

Lingkungan runtime memuat variabel lingkungan dari file .env secara otomatis saat startup.

# Ubah dari:
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"

# Menjadi:
base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1"

Langkah 3: Pahami struktur proyek

Templat LLM Basic menyediakan proyek Agent yang siap pakai:

project/
├── agent.py          # File entri: mendefinisikan aplikasi FastAPI dan titik akhir API
├── agent_loop.py     # Logika inti: menangani panggilan LLM dan loop eksekusi tool
├── agui.py           # Transformasi aliran acara Protokol AG-UI
├── skills.py         # Sistem skill: menemukan, memuat, dan mengeksekusi skill
├── skills/           # Direktori skill
│   ├── get-current-time/
│   └── create-plan/
├── requirements.txt  # Dependensi Python
├── .env              # File variabel lingkungan (buat secara manual)
└── README.md         # Dokumentasi lengkap

agent.py adalah file entri default dan harus mengekspos objek FastAPI global bernama app. LangStudio mendeteksi dan memuat objek ini untuk memulai layanan.

Baca README.md untuk detail cara memperluas templat.

Langkah 4: Debug Agent

Klik Run di pojok kanan atas halaman developer. LangStudio akan memulai runtime dan memuat kode Anda. Setelah siap, panel debugging muncul di sebelah kanan.

{
  "question": "Bagaimana cuaca di Beijing hari ini?"
}

{
  "answer": "Cuaca di Beijing hari ini cerah, dengan suhu antara 10°C hingga 20°C."
}

Langkah 5: Terapkan layanan

Setelah debugging, terapkan aplikasi sebagai layanan online yang dapat diskalakan.

1. Klik Confirm di pojok kanan atas halaman developer.

2. Pada kotak dialog, konfigurasikan sumber daya penerapan, nama layanan, Virtual Private Cloud (VPC), dan vSwitch. LangStudio akan mengemas aplikasi FastAPI Anda menjadi layanan PAI-EAS.

   Penting

   Layanan LLM memerlukan akses internet publik, tetapi layanan PAI-EAS tidak memiliki akses internet outbound secara default. Asosiasikan NAT Gateway dengan VPC dan vSwitch Anda untuk mengaktifkannya. Tanpa ini, semua panggilan LLM akan gagal. Lihat Akses sumber daya jaringan publik atau pribadi dari EAS untuk instruksi penyiapan.

3. Pada halaman Deployment Flow, verifikasi isi penerapan lalu klik Submit deployment.

4. Penerapan membutuhkan waktu 5 hingga 10 menit. Setelah selesai, klik Go to EAS di pojok kanan atas.

5. Pada tab Overview, buka bagian Basic Information dan klik View Endpoint Information untuk mengambil URL titik akhir dan token otentikasi.

Uji layanan yang diterapkan:

# Ganti <EAS_ENDPOINT> dan <EAS_TOKEN> dengan URL titik akhir dan token otentikasi Anda.
curl -X POST '<EAS_ENDPOINT>' \
  -H 'Authorization: Bearer <EAS_TOKEN>' \
  -H "Content-Type: application/json" \
  -d '{"question": "Bagaimana cuaca di Beijing hari ini?"}'

Gunakan fitur pemantauan dan tracing pada halaman layanan EAS untuk melacak metrik kinerja dan memeriksa jejak permintaan secara real time.

Langkah 6: Sesuaikan Agent Anda

Templat LLM Basic merupakan titik awal. Berikut adalah cara paling umum untuk memperluasnya.

def to_messages(self) -> list:
    return [
        {"role": "system", "content": "Anda adalah asisten perencana perjalanan profesional. Jawaban Anda harus ringkas, dapat ditindaklanjuti, dan disajikan dalam bentuk daftar periksa."},
        {"role": "user", "content": self.question},
    ]

def geocode(city: str) -> str:
    """Dapatkan koordinat geografis sebuah kota."""
    # Ganti dengan panggilan API aktual
    return '{"lat": 39.9042, "lng": 116.4074}'

@app.post("/")
async def query(req: QueryRequest) -> QueryResponse:
    tools = [get_weather, geocode]
    async for chunk in agent_loop(req.to_messages(), tools=tools):
        # ...