Container Service for Kubernetes:Build an AI Q&A assistant with Dify

1. Configure el prompt: Copie a continuación el contenido en el campo Instructions. Los prompts mejoran la precisión de las respuestas mediante instrucciones y restricciones.

   You will act as Dify's AI assistant, dedicated to answering customers' questions about Dify products and their features. Your responses should be based on the existing knowledge base to ensure accuracy. If a question is beyond your knowledge, please honestly inform them that you do not know the answer, in order to maintain the integrity of the information. Please communicate in a friendly and warm tone, and feel free to use emoticons appropriately to enhance the interactive experience.

2. Agregue la base de conocimiento al contexto: Haga clic en Add en el área Context para agregar la base de conocimiento. Esto permite obtener respuestas precisas y profesionales.

3. Haga clic en Releases > Update para guardar y aplicar la configuración.

1. Sitio web compartido públicamente.

   La aplicación de IA que cree con Dify se publica como una aplicación web accesible en internet. Esta funciona según su prompt y la configuración de orquestación. Para obtener más información, consulte Publicar como una aplicación web pública.

2. Llamadas basadas en API.

   Dify proporciona API para todas las aplicaciones bajo el concepto "Backend-as-a-Service". Esto permite a los desarrolladores aprovechar la potencia de los modelos de lenguaje grandes en sus aplicaciones de frontend sin preocuparse por arquitecturas ni despliegues complejos de backend. Para obtener más información, consulte Desarrollar con API.

3. Redesarrollo basado en componentes de frontend.

   Si desarrolla un producto nuevo desde cero o se encuentra en la fase de diseño del prototipo, use Dify para publicar rápidamente un sitio de IA. Para obtener más información, consulte Redesarrollar con base en componentes de frontend.

4. Integración en su sitio web empresarial o personal.

   Dify admite integrar su aplicación de IA en el sitio web de su empresa. Utilice esta capacidad para crear en minutos un servicio oficial de atención al cliente con IA, un sistema de preguntas y respuestas del negocio y otras aplicaciones con sus datos comerciales. Para obtener más información, consulte Integrar en un sitio web.

Ejemplo: integración en un sitio web

Integre su aplicación LLM en un sitio web empresarial o personal.

Este ejemplo tiene fines demostrativos. Para garantizar la seguridad de los datos en un entorno de producción, habilite también la función Access Control.

1. Habilite el acceso público para el servicio ack-dify y abra la IP externa en su navegador. Para obtener más información, consulte Access the Dify service.

2. Construya rápidamente una aplicación web sencilla en su clúster ACK para depurar su asistente de preguntas y respuestas de IA.

   Esto despliega una aplicación web en su clúster ACK para alojar la aplicación LLM de Dify integrada.

   1. Obtenga el código del servicio Dify.

      Elija un método para integrar el código de la aplicación de chat en su sitio web.

   2. En el clúster, cree un Deployment para ejecutar su aplicación web y un Service para exponerla.

      A continuación se muestra un ejemplo sencillo en YAML que indica cómo desplegar un servidor Nginx con HTML estático.

      1. Inicie sesión en la consola de Container Service for Kubernetes (ACK). En la página ConfigMaps, establezca el namespace en default y luego haga clic en Create from YAML. Copie el siguiente contenido YAML en la plantilla y modifique los parámetros window.difyChatbotConfig, src e id según el código del servicio Dify que obtuvo.

         Consulte el siguiente ejemplo.

         Contenido YAML

         apiVersion: apps/v1
         kind: Deployment
         metadata:
           name: web-deployment
         spec:
           replicas: 2
           selector:
             matchLabels:
               app: web
           template:
             metadata:
               labels:
                 app: web
             spec:
               containers:
               - name: web
                 image: registry.openanolis.cn/openanolis/nginx:1.14.1-8.6
                 ports:
                 - containerPort: 80
                 volumeMounts:
                 - name: web-content
                   mountPath: /usr/share/nginx/html
               volumes:
               - name: web-content
                 configMap:
                   name: web-config
           
         
         ---
         apiVersion: v1
         kind: Service
         metadata:
           name: web-service
         spec:
           selector:
             app: web
           ports:
             - protocol: TCP
               port: 80
               targetPort: 80
           type: LoadBalancer
         
         ---
         apiVersion: v1
         kind: ConfigMap
         metadata:
           name: web-config
         data:
           index.html: |
             <!DOCTYPE html>
             <html lang="en">
             <head>
                 <meta charset="UTF-8">
                 <meta name="viewport" content="width=device-width, initial-scale=1.0">
                 <title>The simplest website service</title>
                 <style>
                     #dify-chatbot-bubble-button {
                         background-color: #1C64F2 !important;
                     }
                 </style>
             </head>
             <body>
                 <h1>Welcome to my website!</h1>
             
             
                 <script>
                  window.difyChatbotConfig = {
                   token: 'W1b8mRL******yiD6',
                   baseUrl: 'http://8.154.XX.XX'
                  }
                 </script>
                 <script
                  src="http://8.154.XX.XX/embed.min.js"
                  id="W1b8mRL******yiD6"
                  defer>
                 </script>
                 <style>
                   #dify-chatbot-bubble-button {
                     background-color: #1C64F2 !important;
                   }
                 </style>
         
             </body>
             </html>

      2. Compruebe el estado del despliegue. Este finaliza correctamente cuando ambos pods se encuentran en el estado Running.

      3. Habilite el acceso público para el servicio desplegado.

         Para garantizar la seguridad de los datos en un entorno de producción, se recomienda habilitar también la función Access Control.

         En el panel de navegación izquierdo, elija Network > Services. Busque web-service y haga clic en Update. En el cuadro de diálogo que aparece, configure los siguientes parámetros:

         • Tipo de servicio: Load Balancer (LoadBalancer).

         • Tipo de load balancer: Classic Load Balancer (CLB); seleccione New Resource.

         • Método de acceso: public network access.

         • Método de facturación: pay-as-you-go billing method (PayByCLCU).

         • Control de acceso: seleccione Enable de forma opcional según sus necesidades.

         • TrafficPolicy: Cluster.

         • Asignación de puertos: puerto de servicio 80, puerto de contenedor 80, protocolo TCP.

         Una vez completada la configuración, haga clic en OK.

         Después de configurar estos parámetros, verá la External IP del servicio web-service. Abra esta IP en su navegador.

         Importante

         • Si necesita que otros dispositivos accedan al servicio, asegúrese de que el firewall o el security group de su clúster permita el tráfico en el puerto 80. Para obtener más información, consulte Add a security group rule.

         • Asegúrese de que su código y el de terceros sean seguros para evitar posibles ataques XSS o la inserción de código malicioso. Este es un ejemplo básico con fines exclusivamente demostrativos; expándalo y modifíquelo según sus necesidades.

      4. Resultado del ejemplo.

         La página muestra el encabezado Welcome to my website!, lo cual indica que la aplicación de IA se integró correctamente en el sitio web.