AgentLoop:Integración de aplicaciones LangChain y LangGraph

Descripción general del framework

LangChain es un framework para desarrollar aplicaciones impulsadas por modelos de lenguaje grandes (LLM). Ofrece funciones como invocación de modelos, gestión de prompts, integración de herramientas, generación aumentada por recuperación (RAG) y construcción de agentes, lo que permite a los desarrolladores crear rápidamente aplicaciones LLM complejas.

LangGraph es un framework de orquestación de agentes dentro del ecosistema LangChain. Utiliza una estructura de grafos para construir aplicaciones LLM que admiten razonamiento en varios pasos y colaboración entre múltiples agentes, lo que habilita funciones como flujo de control cíclico, gestión de estado y llamadas a herramientas.

Una vez completada la integración, se monitorean automáticamente las siguientes capacidades:

• Trazas de ejecución para cadenas y agentes de LangChain

• Llamadas a LLM (nombre del modelo, uso de token y contenido de entrada/salida)

• Llamadas a herramientas (nombre de la herramienta, parámetros y resultados devueltos)

• Trazas relacionadas con recuperadores y generación aumentada por recuperación (RAG)

• Ejecución y transiciones de estado de los nodos de LangGraph

Métodos de integración

pip3 install aliyun-bootstrap

# Method 1: Add environment variables for all processes in the current shell.
export ARMS_APP_NAME=xxx   # The application name.
export ARMS_REGION_ID=xxx   # The region ID of your Alibaba Cloud account.
export ARMS_LICENSE_KEY=xxx   # Your Alibaba Cloud license key.

# Method 2: Set environment variables for a single process
ARMS_APP_NAME=xxx ARMS_REGION_ID=xxx ARMS_LICENSE_KEY=xxx aliyun-instrument xxx.py

# Add environment variables
ENV ARMS_APP_NAME={AppName}
ENV ARMS_REGION_ID={regionId}
ENV ARMS_LICENSE_KEY={licenseKey}
## Original environment

aliyun-instrument python app.py

Código de ejemplo

import os
from langchain_openai import ChatOpenAI
from langgraph.prebuilt import create_react_agent
from langchain_core.tools import tool
@tool
def get_weather(city: str) -> str:
    """Get weather information for a specified city"""
    weather_data = {"Beijing": "Sunny 25°C", "Shanghai": "Cloudy 22°C", "Hangzhou": "Light rain 20°C"}
    return weather_data.get(city, f"{city}: No weather data available")
@tool
def search_product(keyword: str) -> str:
    """Search product information by keyword"""
    products = {
        "ECS": "Elastic Compute Service, providing secure and reliable cloud servers",
        "RDS": "Relational Database Service, supports MySQL/PostgreSQL/SQL Server",
        "OSS": "Object Storage Service, massive, secure, and highly reliable cloud storage",
    }
    return products.get(keyword, f"No product found for '{keyword}'")
llm = ChatOpenAI(
    model="qwen-plus",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key=os.environ.get("DASHSCOPE_API_KEY"),
    streaming=True,
    stream_usage=True,  # When enabled, streamed responses include token usage
)
agent = create_react_agent(llm, tools=[get_weather, search_product])
result = agent.invoke({"messages": [{"role": "user", "content": "What's the weather like in Beijing today? Also look up what ECS is as a product"}]})
for msg in result["messages"]:
    if msg.content:
        print(msg.content)
                    

Consulte los detalles del monitoreo

1. En la ARMS console, vaya a la página LLM Application Insights > App List y haga clic en el nombre de su aplicación de IA de destino para consultar los datos detallados del monitoreo.

Referencias

Recopile el uso de token en escenarios de streaming

Para recopilar información sobre el uso de token a partir de llamadas de streaming de ChatOpenAI, habilite el parámetro stream_usage:

llm = ChatOpenAI(
    model="qwen-plus",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key=os.environ.get("DASHSCOPE_API_KEY"),
    streaming=True,
    stream_usage=True,  # When enabled, streamed responses include token usage.
)

Pase session_id y user_id

Al llamar a agent.invoke, puede pasar session_id y user_id en los metadatos del objeto config para habilitar el análisis basado en sesión y usuario:

result = agent.invoke(
    {"messages": [{"role": "user", "content": "Hello"}]},
    config={
        "metadata": {
            "session_id": "sess_abc123",
            "user_id": "user_456",
        },
    },
)

• session_id: Identificador de sesión que se utiliza para correlacionar llamadas de varios turnos dentro de la misma sesión.

• user_id: Identificador de usuario que se emplea para la agregación y el filtrado por usuario.

Solución de problemas comunes

Common issues for the Python agent