AgentLoop:Integrasikan aplikasi LangChain dan LangGraph

Ikhtisar framework

LangChain adalah framework untuk mengembangkan aplikasi yang didukung oleh model bahasa besar (LLM). Framework ini menyediakan kemampuan seperti pemanggilan model, manajemen prompt, integrasi tool, Generasi yang Diperkaya dengan Pengambilan Data (RAG), serta pembuatan agen untuk membantu developer membangun aplikasi LLM kompleks secara cepat.

LangGraph adalah framework orkestrasi agen dalam ekosistem LangChain. Framework ini menggunakan struktur graf untuk membangun aplikasi LLM yang mendukung penalaran multi-langkah dan kolaborasi multi-agen, sehingga memungkinkan fitur seperti alur kendali siklik, manajemen state, dan pemanggilan tool.

Setelah integrasi, kemampuan berikut dipantau secara otomatis:

• Jejak eksekusi untuk rantai dan agen LangChain

• Pemanggilan LLM (nama model, penggunaan token, dan konten input/output)

• Pemanggilan tool (nama tool, parameter, dan hasil kembaliannya)

• Jejak terkait retriever dan Generasi yang Diperkaya dengan Pengambilan Data (RAG)

• Eksekusi dan transisi state node LangGraph

Metode integrasi

pip3 install aliyun-bootstrap

# Metode 1: Tambahkan variabel lingkungan untuk semua proses di shell saat ini.
export ARMS_APP_NAME=xxx   # Nama aplikasi.
export ARMS_REGION_ID=xxx   # ID wilayah Akun Alibaba Cloud Anda.
export ARMS_LICENSE_KEY=xxx   # Kunci lisensi Alibaba Cloud Anda.

# Metode 2: Atur variabel lingkungan untuk satu proses
ARMS_APP_NAME=xxx ARMS_REGION_ID=xxx ARMS_LICENSE_KEY=xxx aliyun-instrument xxx.py

# Tambahkan variabel lingkungan
ENV ARMS_APP_NAME={AppName}
ENV ARMS_REGION_ID={regionId}
ENV ARMS_LICENSE_KEY={licenseKey}
## Lingkungan asli

aliyun-instrument python app.py

Kode contoh

import os
from langchain_openai import ChatOpenAI
from langgraph.prebuilt import create_react_agent
from langchain_core.tools import tool
@tool
def get_weather(city: str) -> str:
    """Dapatkan informasi cuaca untuk kota tertentu"""
    weather_data = {"Beijing": "Cerah 25°C", "Shanghai": "Berawan 22°C", "Hangzhou": "Hujan ringan 20°C"}
    return weather_data.get(city, f"{city}: Data cuaca tidak tersedia")
@tool
def search_product(keyword: str) -> str:
    """Cari informasi produk berdasarkan kata kunci"""
    products = {
        "ECS": "Elastic Compute Service, menyediakan server cloud yang aman dan andal",
        "RDS": "Relational Database Service, mendukung MySQL/PostgreSQL/SQL Server",
        "OSS": "Object Storage Service, penyimpanan cloud berskala besar, aman, dan sangat andal",
    }
    return products.get(keyword, f"Tidak ditemukan produk untuk '{keyword}'")
llm = ChatOpenAI(
    model="qwen-plus",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key=os.environ.get("DASHSCOPE_API_KEY"),
    streaming=True,
    stream_usage=True,  # Saat diaktifkan, respons streaming mencakup penggunaan token
)
agent = create_react_agent(llm, tools=[get_weather, search_product])
result = agent.invoke({"messages": [{"role": "user", "content": "Bagaimana cuaca di Beijing hari ini? Juga cari tahu apa itu ECS sebagai produk"}]})
for msg in result["messages"]:
    if msg.content:
        print(msg.content)
                    

Lihat detail pemantauan

1. Di Konsol ARMS, buka halaman LLM Application Insights > App List, lalu klik nama aplikasi AI target Anda untuk melihat data pemantauan terperinci.

Referensi

Kumpulkan token usage dalam skenario streaming

Untuk mengumpulkan informasi penggunaan token dari pemanggilan streaming ChatOpenAI, aktifkan parameter stream_usage:

llm = ChatOpenAI(
    model="qwen-plus",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key=os.environ.get("DASHSCOPE_API_KEY"),
    streaming=True,
    stream_usage=True,  # Saat diaktifkan, respons streaming mencakup penggunaan token.
)

Kirim session_id dan user_id

Saat memanggil agent.invoke, Anda dapat mengirimkan session_id dan user_id dalam objek metadata konfigurasi untuk mengaktifkan analisis berbasis sesi dan pengguna:

result = agent.invoke(
    {"messages": [{"role": "user", "content": "Halo"}]},
    config={
        "metadata": {
            "session_id": "sess_abc123",
            "user_id": "user_456",
        },
    },
)

• session_id: Identifikasi sesi yang digunakan untuk menghubungkan pemanggilan multi-turn dalam sesi yang sama.

• user_id: Identifikasi pengguna yang digunakan untuk agregasi dan penyaringan per pengguna.

Pemecahan masalah umum

Masalah umum untuk agen Python