為AI 網關開啟日誌投遞 - API Gateway

日誌投遞功能是AI 網關結合阿里雲Log ServiceSLS提供的服務。開啟日誌投遞後，您可以通過分析AI 網關的訪問日誌瞭解使用者行為和地區分布，以便排查問題。本文介紹如何為AI 網關開啟日誌投遞。

前提條件

已建立AI網關執行個體。
已開通Log Service，若未開通，請使用阿里雲帳號登入Log Service控制台進行開通。

開啟日誌投遞

說明

AI產品不收取日誌費用，但Log ServiceSLS將根據您的使用量收費。關於SLS的計費方式，請參見隨用隨付。

開啟AI網關控制台實例頁面，在頂部功能表列選擇目標執行個體所在地區，並單擊目標執行個體ID。
AI 網關提供了兩種開啟日誌投遞方式：
方式一：通過日誌中心
1. 在左側導覽列，單擊观测分析 > 日志中心。
2. 單擊立即开启日志投递功能，在立即开启日志投递功能對話方塊，選擇使用默认Log ServiceProject，或選擇使用已有的Log ServiceProject，然後單擊確定。
方式二：通過參數配置
1. 在左側導覽列，單擊参数配置。
2. 在可观测性参数地區，單擊访问日志投递配置右側的表徵圖，在访问日志投递配置對話方塊，開啟网关访问日志 (AccessLog)。
3. 選擇開啟输出日志兼容 Nginx Ingress 格式，使輸出日誌與Nginx Ingress的格式保持一致，以便於統一日誌分析和提高跨系統相容性。
4. 選擇使用默认，或選擇使用已有的Log ServiceProject，然後單擊確定。
說明
選擇使用預設Log ServiceProject，Log Service會為您建立一個預設的Log ServiceProject。

預設Log Service Project 的命名格式為：aliyun-product-data-{阿里雲主帳號UID}-{地區}。例如：

國際站：aliyun-product-data-1069xxxxx28319-ap-southeast-1

其中：

aliyun-product-data 為固定首碼。

{阿里雲主帳號UID} 為您的阿里雲主帳號 UID（數字串）。

{地區} 為執行個體所在地區 ID，因網站而異（中國站為 cn-* 格式，如 cn-shanghai、cn-hangzhou；國際站為國際地區 ID，如 ap-southeast-1、us-east-1 等）。

該命名格式說明同樣適用於「方式一：通過日誌中心」中選擇使用預設Log Service Project 的情境。
開啟日誌投遞以後，在可观测性参数地區，單擊Project右側的連結，系統會自動跳轉到該網關對應投遞的日誌庫。更多內容，請參見查詢與分析快速指引。

日誌投遞欄位說明

網關日誌投遞涉及到的欄位說明如下。

欄位名	類型	含義
__time__	long	日誌產生的時間。
cluster_id	string	購買的網關執行個體。
ai_log	json	針對Model API/Agent API/MCP API設計的日誌欄位，欄位格式為json。其他類型的API此欄位為空白。 api: ai api的名稱。 cache_status: Model API中開啟內容緩衝時該欄位會反映請求是否命中緩衝。 consumer: 開啟消費者鑒權後，此欄位會記錄當前請求的消費者身份。 fallback_from: Model API中開啟fallback策略時，此欄位記錄請求從哪一條路由fallback過來。 input_token: LLM請求輸入token數。 llm_first_token_duration: LLM請求首包RT。 llm_service_duration: LLM請求整體RT。 model: LLM請求的模型名稱。 output_token: LLM請求輸出token數。 response_type: LLM請求流式/非流式。 safechack_status: LLM請求Alibaba Content Security Service檢測狀態。 token_ratelimit_status: LLM請求是否被限流攔截。
authority	string	請求報文中的Host Header。
bytes_received	long	請求的Body大小（不包含Header）。
bytes_sent	long	響應的Body大小（不包含Header）。
downstream_local_address	string	網關Pod地址。
downstream_remote_address	string	串連到網關的Client端地址。
duration	long	請求的整體耗時。包含從網關收到來自下遊的第一個位元組開始，到發送出最後一個響應位元組為止的時間段。單位毫秒。
method	string	HTTP方法。
path	string	HTTP請求中的Path。
protocol	string	HTTP的協議版本。
request_duration	long	從網關收到來自下遊的第一個位元組開始，到收到來自下遊的最後一個位元組為止的時間段。單位毫秒。
request_id	string	網關會為每次請求產生一個ID，並放在Header的`x-request-id`中，後端可以根據這個欄位記錄並進行排查。
requested_server_name	string	SSL串連時使用的Server Name。
response_code_details	string	提供與響應碼相關的額外資訊。例如via_upstream表示響應碼是由後端服務返回的，route_not_found表示請求沒有匹配的路由。
response_tx_duration	long	從網關收到來自上遊的第一個位元組開始，到給下遊發送出最後一個位元組為止的時間段。單位毫秒。
route_name	string	路由名。
start_time	string	請求開始時間。格式：UTC。
trace_id	string	Trace ID。
upstream_cluster	string	上遊叢集。
upstream_host	string	上遊IP。
upstream_local_address	string	本地串連上遊的地址。
upstream_service_time	long	上遊服務處理請求的耗時（毫秒），包括網關訪問上遊服務的網路耗時和上遊服務自身處理耗時兩部分。
upstream_transport_failure_reason	string	上遊連結失敗的原因。
user_agent	string	HTTP Header中的UserAgent。
x_forwarded_for	string	HTTP Header中的`x-forwarded-for`，通常用來表示HTTP請求端真實IP。

請求失敗原因說明

請求失敗的原因主要通過日誌中Response_Flag的值判斷。以下是關於Response_Flag不同值的說明。

說明

下遊指用戶端，上遊指後端服務。

UH：上遊叢集中，沒有健康的上遊主機。
UF：上遊串連失敗。
NR：給定請求未配置路由。
URX：請求被拒絕，因為達到了上遊重試限制（HTTP）或最大串連嘗試次數（TCP）。
NC：無法找到上遊叢集。日誌中出現 cluster_not_found 時，按以下步驟排查：
1. 確認路由關聯的 AI 服務中，模型供應商及後端服務地址配置正確且可用。
2. 確認 AI 服務已綁定到網關執行個體，且後端服務的健全狀態檢查狀態正常。
3. 確認網關所在 VPC 的網路可訪問後端服務地址。若後端服務為公網網域名稱，需在該 VPC 中配置 NAT Gateway和 SNAT 條目，否則網關無法訪問公網地址。
4. 確認上述配置變更發行並生效。
DT：請求或串連超過了max_connection_duration或max_downstream_connection_duration。
DC：下遊串連終止。
LH：本地服務未通過健全狀態檢查請求。
UT：上遊請求逾時。
LR：串連本地重設。
UR：上遊遠程重設。
UC：上遊串連終止。
DI：請求處理被延遲一段時間，該延遲時間由故障注入指定。
FI：請求被故障注入指定的響應碼中止。
RL：請求在本地被HTTP速率限制過濾器限制，除了429響應碼之外。
UAEX：請求被外部授權服務拒絕。
RLSE：請求被拒絕，因為速率限制服務出現錯誤。
IH：請求被拒絕，因為在嚴格檢查的標題中設定了無效值。
SI：Stream流空閑逾時。
DPE：下遊請求存在HTTP協議錯誤。
UPE：上遊響應存在HTTP協議錯誤。
UMSDR：上遊請求達到了最大流程期間。
OM：超負荷管理器終止了請求。

前提條件

開啟日誌投遞

方式一：通過日誌中心

方式二：通過參數配置

日誌投遞欄位說明

請求失敗原因說明