Alibaba Cloud Model Studio:Aplicaciones de agentes

Las aplicaciones de agentes de Alibaba Cloud Model Studio le permiten conectar un LLM a herramientas externas y bases de conocimientos sin necesidad de código, ampliando las capacidades del modelo más allá de sus límites integrados.

Funcionamiento

Un agente utiliza prompts para orquestar herramientas externas y completar tareas complejas. Cuando el agente recibe una solicitud, el LLM identifica la intención del usuario, planifica las tareas, llama a las herramientas externas necesarias e integra los resultados para generar una respuesta final.

Utilice un agente cuando want que el modelo decida autónomamente qué herramientas usar para una tarea, en lugar de seguir un flujo de trabajo diseñado manualmente.

Los agentes de Model Studio admiten las siguientes capacidades principales:

1. Base de conocimientos (RAG): Conecta el agente a una base de conocimientos externa para responder preguntas basadas en sus datos privados. Esto es útil para escenarios de preguntas y respuestas en dominios especializados no cubiertos por los datos de entrenamiento del modelo.
2. Plugin: Llama a herramientas predefinidas de la plataforma para tareas como ejecución de código, generación de imágenes o consultas meteorológicas. Esto es útil cuando el agente debe realizar acciones en lugar de solo conversar.

Inicio rápido

Crear un agente básico

1. Vaya a la página Gestión de aplicaciones en la consola de Alibaba Cloud Model Studio. Haga clic en + Create Application. En la pestaña Agent Application, haga clic en Create Now.
2. En la página de configuración de la aplicación, seleccione un modelo de la lista desplegable de modelos, como Qwen-Plus. Puede mantener la configuración predeterminada para otros parámetros.
3. Después de crear la aplicación, ingrese Hello en el cuadro de conversación de la izquierda para probarla.

Capacidades del agente

Puede ampliar las capacidades de un agente seleccionando un modelo, optimizando el prompt del sistema, agregando una base de conocimientos (RAG) y llamando a plugins.

Modelo

El modelo es el componente central que impulsa el razonamiento y la toma de decisiones de un agente. Los agentes de Model Studio admiten modelos de la serie Qwen y modelos implementados personalizados.

1. Seleccionar un modelo

   En la lista desplegable de modelos, seleccione un modelo como Qwen-Plus. Haga clic en More Models para elegir entre otros modelos disponibles.

2. Configurar parámetros

   Haga clic en el icono de configuración a la derecha de la lista desplegable de modelos para configurar los siguientes parámetros:

   1. Longitud máxima de respuesta: La longitud máxima de la respuesta generada por el modelo, excluyendo el prompt. El valor máximo varía según el modelo.

   2. Turnos de contexto: El número máximo de turnos de conversación históricos para incluir en la entrada del modelo. Un número mayor ayuda a mantener un mejor contexto de conversación.

   3. temperature: Controla la aleatoriedad del contenido generado. Un valor más alto aumenta la diversidad, mientras que un valor más bajo aumenta la consistencia. El valor debe estar en el rango de [0, 2).

   4. enable_thinking: Activa o desactiva el modo de pensamiento del modelo. Este parámetro solo está disponible para modelos compatibles.

      Cuando el modo de pensamiento está activado, el modelo realiza un razonamiento más profundo antes de generar una respuesta, lo que aumenta el consumo de tokens.

Prompt del sistema

Un prompt del sistema define el rol, el comportamiento y las restricciones de un agente para garantizar que sus respuestas sean coherentes y estén orientadas a tareas. Para escribir un prompt eficaz, considere los siguientes puntos:

• Definir una persona: Especifique el rol que debe adoptar el modelo y la experiencia que debe tener.

• Especificar un formato de salida: Describa la estructura, longitud o estilo deseado de la respuesta.

• Establecer restricciones: Indique al modelo qué contenido debe evitar o qué reglas debe seguir.

• Guiar el uso de herramientas: Mencione explícitamente los nombres de las herramientas y explique cuándo deben utilizarse.

  1. Configurar un prompt

     Establezca el prompt del sistema en Please answer my questions in the style of 'One Hundred Years of Solitude'. A continuación se muestra una comparación de los resultados:

     • Sin el prompt del sistema: Cuando el usuario pregunta "¿Quién eres?", el modelo proporciona su presentación predeterminada: "Soy Qwen, un modelo de lenguaje grande desarrollado por Tongyi Lab de Alibaba Group. Puedo ayudarte a responder preguntas, proporcionar información, crear contenido, escribir código y realizar razonamientos lógicos".
     • Con el prompt del sistema: En la interfaz de conversación de texto, cuando el usuario pregunta "¿Quién eres?", la IA se presenta con el estilo literario de "Cien años de soledad", haciendo referencia a elementos de la novela como Macondo y la familia Buendía. Esto confirma que el prompt del sistema ha surtido efecto. Las estadísticas de interacción muestran 234 palabras, 245 tokens de entrada y 177 tokens de salida.

Base de conocimientos (RAG)

La generación aumentada por recuperación (RAG) permite a un agente consultar una base de conocimientos externa y utilizar el contenido recuperado como fundamento para las respuestas. Para preguntas y respuestas privadas o específicas de un dominio, RAG puede mejorar significativamente la precisión y reducir las alucinaciones. Para obtener más información, consulte Crear y utilizar una base de conocimientos.

Nota: El texto recuperado de una base de conocimientos consume la ventana de contexto del modelo. Es posible que deba ajustar su estrategia de recuperación y la longitud del texto recuperado para utilizar la ventana de contexto de manera eficiente y evitar exceder su límite.

Plugins

Los agentes llaman a plugins para realizar tareas específicas, como ejecución de código, búsquedas web y generación de texto a imagen. Los plugins son útiles cuando un agente necesita realizar operaciones o generar contenido más allá de sus capacidades nativas. Model Studio proporciona una variedad de plugins oficiales y también admite plugins personalizados. Para obtener más información, consulte Descripción general de plugins.

Interacción con agentes

Conversación de texto

La conversación de texto es el método principal para interactuar con un agente y admite conversaciones de múltiples turnos.

La conversación de texto admite dos métodos de entrada:

1. Entrada de texto: Ingrese texto para chatear con el agente.
2. Carga de archivos: Suba archivos, como documentos, imágenes, videos o clips de audio, como archivos adjuntos.

Publicar y llamar

Después de la publicación, los agentes pueden invocarse mediante API/SDK, publicarse en plataformas de terceros como DingTalk y Cuentas Oficiales de WeChat, o publicarse como componentes reutilizables para su integración en sus sistemas empresariales.

Publicar una aplicación

En la esquina superior derecha de la página de gestión de aplicaciones de agente, haga clic en Publish y luego haga clic en Confirm Publish.

Al volver a publicar la aplicación, aparece un cuadro de diálogo que muestra los cambios realizados desde la última publicación.

Llamada a API

En la pestaña Publish Channel de su aplicación de agente, haga clic en View API junto a API Call para ver los métodos de API.

Reemplace YOUR_API_KEY con su clave de API real de Model Studio antes de invocar la API.

Gestión de agentes

Copiar y eliminar

En la página Mis aplicaciones, localice la tarjeta de la aplicación. Desde el menú Más > Copy Application/Delete Application, puede copiar, eliminar o cambiar el nombre del agente.

Los escenarios comunes para copiar una aplicación incluyen:

• Crear versiones de prueba que utilizan diferentes prompts o modelos.
• Personalizar un agente para diferentes audiencias o casos de uso.
• Crear una copia de seguridad antes de realizar cambios importantes en la configuración.

Gestión de versiones

La gestión de versiones le permite editar descripciones de versiones históricas o revertir a una versión publicada anteriormente.

1. En la pestaña Configure de la aplicación de agente, haga clic en Version Management en la esquina superior derecha de la barra de navegación superior.

2. En la lista de versiones históricas, seleccione una versión objetivo. Se abre el panel Historial de versiones y muestra una línea de tiempo que incluye el borrador actual, la versión en línea (marcada con una etiqueta Más reciente) y otras entradas de versiones históricas. Cada entrada enumera el ID de versión, la hora de publicación, el editor y la información de la versión.

   • Para editar la información de la versión, pase el cursor sobre el icono de edición y haga clic en él. En el cuadro de diálogo Editar descripción de versión , realice los cambios y luego haga clic en OK.

   • Para utilizar esta versión histórica, haga clic en Overwrite Current Draft y luego haga clic en Confirm en el cuadro de diálogo de confirmación.

     Esta acción sobrescribe el borrador actual con el contenido de la versión histórica seleccionada.

Facturación

La facturación de agentes incluye lo siguiente:

1. Llamadas a modelos

   Los agentes incurren en tarifas por llamadas a modelos, que dependen del tipo de modelo y del uso de tokens.

   Para obtener detalles sobre la facturación, consulte la consola de Model Studio.

2. Base de conocimientos
   • La función de base de conocimientos es gratuita por tiempo limitado.
   • Los fragmentos de texto recuperados de la base de conocimientos aumentan el número de tokens de entrada, lo que puede incrementar las tarifas por llamadas a modelos.
3. MCPs
   • Algunas plataformas oficiales de personalización de modelos (MCP) se facturan según las llamadas al modelo, como las MCP para texto a imagen, texto a video y síntesis de voz.
   • Algunos servicios de MCP implican llamadas a API de terceros, lo que puede generar tarifas cobradas por el proveedor de servicios externo. Model Studio no cobra tarifas adicionales por estas llamadas.
4. Memoria a largo plazo
   • El almacenamiento de datos para la memoria a largo plazo es gratuito.
   • Durante una sesión de preguntas y respuestas, el sistema fusiona el contenido de la memoria en el prompt y lo pasa al modelo de lenguaje grande, lo que aumenta el consumo de tokens. Los tokens consumidos por el contenido de la memoria actualmente no se cobran.

Modelos admitidos

• Qwen-Plus
• Qwen-Max
• QwenVL-Max
• QwenVL-Plus
• Qwen-Turbo

FAQ

¿Cómo se facturan las aplicaciones de Model Studio?

Crear una aplicación es gratuito. Cuando llama a una aplicación para una sesión de preguntas y respuestas, se le cobran las llamadas al modelo según el tipo de modelo utilizado.

He configurado una base de conocimientos, pero las respuestas del agente no están relacionadas con su contenido. ¿Cómo puedo solucionar esto?

Primero, ejecute una prueba de aciertos de la base de conocimientos para verificar la puntuación de similitud entre la consulta y el contenido de la base de conocimientos. Si la puntuación es baja, ajuste la configuración de recuperación para garantizar que el modelo priorice los resultados de la base de conocimientos.

En el prompt del sistema, indique explícitamente al modelo que responda preguntas basándose únicamente en el contenido de la base de conocimientos y que no utilice su propio conocimiento integrado. Si el problema persiste, intente utilizar un modelo diferente para obtener resultados más estables.

¿Existe un límite de tiempo de espera para los plugins personalizados?

Sí, el límite de tiempo de espera es de 5 segundos.

¿Puedo crear aplicaciones de agentes mediante una API?

Puede utilizar la Assistant API para crear aplicaciones de modelos de lenguaje grandes similares a las aplicaciones de agentes. Sin embargo, las aplicaciones creadas con la Assistant API no se pueden gestionar en la consola. Para obtener más información, consulte la documentación de la Assistant API.