Application Real-Time Monitoring Service：將Dify應用接入ARMS應用監控

查看workflow應用監控資料

應用詳情樣本：

應用詳情頁頂部提供概覽、效能分析、Token 分析、LLM 操作、提供服務、依賴服務、調用鏈分析、異常分析、會話分析等 Tab 頁簽。概覽頁展示以下監控指標：

• 統計卡片：模型調用次數、Token 使用、Trace 數、Span 數、會話數、使用者數及日同比變化

• 操作類型分布餅圖，包含 TASK、TOOL、CHAIN、LLM、RETRIEVER 等類型

• Avg LLM call per request 和 Request 數趨勢折線圖

• 模型調用排行(Top5)和Request 數使用者排行(Top5)

• 會話數趨勢折線圖

調用鏈詳情樣本：鏈路中會採集LLM調用，召回，工具調用等節點的詳細資料。

調用鏈詳情頁面左側為 Trace 瀑布圖，各 span 標註類型（TASK、TOOL、LLM、RETRIEVER）、耗時及 token 數；頂部匯總 Trace ID、總耗時、應用數、介面數和 Total tokens。單擊某個 span 後，右側詳情面板展示該 span 的元資訊（應用程式名稱、介面名、主機名稱、spanId、起止時間等），LLM 類型 span 還展示輸入 Prompt 和 Output Messages 內容。

1. 修改Dockerfile檔案重新編譯對應鏡像，local.dockerfile 修改樣本：

   FROM golang:1.23-alpine AS builder
   
   ARG VERSION=unknown
   
   # copy project
   COPY . /app
   
   # set working directory
   WORKDIR /app
   
   # using goproxy if you have network issues
   # ENV GOPROXY=https://goproxy.cn,direct
   
   # download arms instgo
   RUN wget "http://arms-apm-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/instgo/instgo-linux-amd64" -O instgo
   
   RUN chmod 777 instgo
   
   # instgo build
   RUN INSTGO_EXTRA_RULES="dify_python" ./instgo go build \
       -ldflags "\
       -X 'github.com/langgenius/dify-plugin-daemon/internal/manifest.VersionX=${VERSION}' \
       -X 'github.com/langgenius/dify-plugin-daemon/internal/manifest.BuildTimeX=$(date -u +%Y-%m-%dT%H:%M:%S%z)'" \
       -o /app/main cmd/server/main.go
   
   # copy entrypoint.sh
   COPY entrypoint.sh /app/entrypoint.sh
   RUN chmod +x /app/entrypoint.sh
   
   FROM ubuntu:24.04
   
   WORKDIR /app
   
   # check build args
   ARG PLATFORM=local
   
   # Install python3.12 if PLATFORM is local
   RUN apt-get update && DEBIAN_FRONTEND=noninteractive apt-get install -y curl python3.12 python3.12-venv python3.12-dev python3-pip ffmpeg build-essential \
       && apt-get clean \
       && rm -rf /var/lib/apt/lists/* \
       && update-alternatives --install /usr/bin/python3 python3 /usr/bin/python3.12 1;
   
   # preload tiktoken
   ENV TIKTOKEN_CACHE_DIR=/app/.tiktoken
   
   # Install dify_plugin to speedup the environment setup, test uv and preload tiktoken
   RUN mv /usr/lib/python3.12/EXTERNALLY-MANAGED /usr/lib/python3.12/EXTERNALLY-MANAGED.bk \
       && python3 -m pip install uv \
       && uv pip install --system dify_plugin \
       && python3 -c "from uv._find_uv import find_uv_bin;print(find_uv_bin());" \
       && python3 -c "import tiktoken; encodings = ['o200k_base', 'cl100k_base', 'p50k_base', 'r50k_base', 'p50k_edit', 'gpt2']; [tiktoken.get_encoding(encoding).special_tokens_set for encoding in encodings]"
   
   ENV UV_PATH=/usr/local/bin/uv
   ENV PLATFORM=$PLATFORM
   ENV GIN_MODE=release
   
   COPY --from=builder /app/main /app/entrypoint.sh /app/
   
   # run the server, using sh as the entrypoint to avoid process being the root process
   # and using bash to recycle resources
   CMD ["/bin/bash", "-c", "/app/entrypoint.sh"]

   說明

   注意 INSTGO_EXTRA_RULES 選項會開啟 Plugin 運行時自動監測功能，如果不需要在 Plugin-Daemon 啟動時拉起對 Plugin 探針，可以去除編譯檔案中的INSTGO_EXTRA_RULES="dify_python"

2. 配置環境變數：

   • ECS 環境：

     變數名	樣本值	說明
     ARMS_LICENSE_KEY	xxx@xxx	License Key[1]
     ARMS_REGION_ID	cn-heyuan	地區
     ARMS_ENABLE	true	探針開關
     ARMS_APP_NAME	dify-plugin-daemon	應用程式名稱

   • 容器化 ack-onepilot 環境：在 dify-plugin-daemon 應用的 YAML 配置中將以下 labels 添加到 spec.template.metadata 層級下。

     labels:
       aliyun.com/app-language: golang
       armsPilotAutoEnable: 'on'
       armsPilotCreateAppName: "dify-daemon-plugin"

3. 部署並查看 dify-plugin-daemon 監控：在應用列表頁面進入dify-plugin-daemon應用，監控詳情如下。

   成功接入後，在 ARMS 控制台的應用概覽頁面可查看以下監控資料：

   • 匯總指標卡片：請求數、錯誤數、平均耗時、執行個體數及其日同比/周同比變化

   • 時序圖表：請求數/1m、錯誤數/1m、耗時/1m（含 P99、P90、P75、平均值）、CPU 使用率峰值

   • Top5 排行：請求數排行、錯誤數排行、平均耗時排行、CPU 使用率峰值執行個體排行

   頁面頂部導航 Tab 頁簽包括應用概覽、應用拓撲、提供服務、依賴服務、調用鏈分析、執行個體監控、應用診斷、情境化分析、事件分析、應用配置。

   調用鏈詳情：

   在 serviceName 過濾器中選擇 insight-agent-plugin-daemon，可查看外掛程式調用 LLM 請求的完整分布式鏈路。Trace 瀑布圖展示多個 span，包括：

   • GET 入口請求

   • connect（redis/sqlalchemy 串連）

   • SELECT dify（資料庫查詢）

   • /v1/sandbox/run（POST 200，sandbox 執行，含 httpx/go 多層調用）

   • UPDATE dify（資料庫更新）

   各 span 耗時從 131µs 到 34.95ms 不等。右側 Span 詳情面板展示主機名稱、起止時間、狀態及 Attributes，包括 net.protocol.name=HTTP、component.name、endpoint=/plugin/tenant_id/dispatch/llm/inv... 等屬性。

4. 查看 Plugin 監控：掛載探針後，Plugin-Daemon 會自動拉起外掛程式運行時的探針。每個外掛程式運行時對應一個可觀測應用，應用程式名稱為 {plugin_daemon_name}_plugin_{plugin_name}_{plugin_version}。例如，Plugin-Daemon 配置的應用程式名稱為 local-dify-plugin-daemon，安裝了 tongyi 的 version 0.0.53 外掛程式時，會自動產生應用 local-dify-plugin-daemon_plugin_tongyi_0.0.53。

1. 修改Dockerfile檔案重新編譯對應鏡像，修改./build/build_[amd64|arm64].sh檔案。

   1. 添加instgo下載命令。下載命令樣本如下，其他地區和架構的下載命令請參見下載 instgo。

      wget "http://arms-apm-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/instgo/instgo-linux-amd64" -O instgo
      chmod 777 instgo

   2. 在 go build 前添加instgo 命令。以amd64為例，修改樣本如下：

      rm -f internal/core/runner/python/python.so
      rm -f internal/core/runner/nodejs/nodejs.so
      rm -f /tmp/sandbox-python/python.so
      rm -f /tmp/sandbox-nodejs/nodejs.so
      wget "http://arms-apm-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/instgo/instgo-linux-amd64" -O instgo
      chmod 777 instgo
      echo "Building Python lib"
      CGO_ENABLED=1 GOOS=linux GOARCH=amd64 ./instgo go build -o internal/core/runner/python/python.so -buildmode=c-shared -ldflags="-s -w" cmd/lib/python/main.go &&
      echo "Building Nodejs lib" &&
      CGO_ENABLED=1 GOOS=linux GOARCH=amd64 ./instgo go build -o internal/core/runner/nodejs/nodejs.so -buildmode=c-shared -ldflags="-s -w" cmd/lib/nodejs/main.go &&
      echo "Building main" &&
      GOOS=linux GOARCH=amd64 ./instgo go build -o main -ldflags="-s -w" cmd/server/main.go
      echo "Building env"
      GOOS=linux GOARCH=amd64 ./instgo go build -o env -ldflags="-s -w" cmd/dependencies/init.go
      

2. 配置環境變數。

   • K8s容器方式接入：在 dify-plugin-daemon 應用的 YAML 配置中將以下 labels 添加到 spec.template.metadata 層級下。

     labels:
       aliyun.com/app-language: golang
       armsPilotAutoEnable: 'on'
       armsPilotCreateAppName: "dify-daemon-plugin"
     

   • 手動接入：

     變數名	樣本值	說明
     ARMS_LICENSE_KEY	xxx	License Key
     ARMS_REGION_ID	cn-heyuan	地區
     ARMS_ENABLE	true	探針開關
     ARMS_APP_NAME	dify-plugin-daemon	應用程式名稱

3. 部署並查看 sandbox 監控，在應用列表頁面進入dify-sandbox應用，監控詳情如下：

   調用鏈詳情：

   該 Trace 總耗時 8.7s，涉及 5 個應用、1039 個介面，頁面提示檢測到異常。組件調用包括 redis 575 次、sqlalchemy 337 次、httpx 14 次等。Span 瀑布圖中核心鏈路為 SELECT dify 查詢後發起多層 /v1/sandbox/run 調用（POST httpx 35.96ms → SERVER go 28.39ms → 多級 INTERNAL go 調用）。Span 詳情顯示應用程式名稱 insight-agent-sandbox，介面 /v1/sandbox/run，主機名稱 sandbox-7489d68cd5-xcqv8，狀態代碼正常。