API Gateway:Habilite la entrega de registros para un gateway

Campo

Tipo

Descripción

__time__

long

Hora en que se generó el registro.

cluster_id

string

ID de la instancia de AI Gateway.

ai_log

json

Objeto JSON que contiene campos de registro para Model API, Agent API y MCP API. Este campo está vacío para otros tipos de API.

• api: Nombre de la API de IA.

• cache_status: Indica si una solicitud coincidió con la caché cuando se habilita el almacenamiento en caché de contenido para una Model API.

• consumer: Identidad del consumidor. Este campo se completa cuando se habilita la autenticación de consumidores.

• fallback_from: Ruta desde la cual se aplicó la alternativa para la solicitud. Este campo se completa cuando se habilita una política de alternativa para una Model API.

• input_token: Número de tokens de entrada en la solicitud al LLM.

• llm_first_token_duration: Tiempo hasta el primer token (TTFT) para la solicitud al LLM.

• llm_service_duration: Tiempo de respuesta de extremo a extremo para la solicitud al LLM.

• model: Nombre del modelo utilizado en la solicitud al LLM.

• output_token: Número de tokens de salida en la respuesta del LLM.

• response_type: Tipo de respuesta de la solicitud al LLM, como streaming o sin streaming.

• safecheck_status: Resultado de Content Moderation para la solicitud al LLM.

• token_ratelimit_status: Indica si la solicitud fue bloqueada por limitación de tasa basada en tokens.

authority

string

Valor del encabezado Host en la solicitud.

bytes_received

long

Tamaño del cuerpo de la solicitud en bytes, excluyendo el encabezado.

bytes_sent

long

Tamaño del cuerpo de la respuesta en bytes, excluyendo el encabezado.

downstream_local_address

string

Dirección del pod del gateway.

downstream_remote_address

string

Dirección del cliente que se conecta al gateway.

duration

long

Tiempo total de procesamiento de la solicitud en milisegundos, medido desde que el gateway recibe el primer byte del cliente hasta que envía el último byte de la respuesta.

method

string

Método HTTP.

path

string

Ruta en la solicitud HTTP.

protocol

string

Versión del protocolo HTTP.

request_duration

long

Tiempo en milisegundos desde que el gateway recibe el primer byte de la solicitud del cliente hasta que recibe el último byte.

request_id

string

ID único que genera el gateway para cada solicitud. Este ID se incluye en el encabezado x-request-id. Puede usar este campo para registrar y solucionar problemas de solicitudes.

requested_server_name

string

Nombre del servidor utilizado para la conexión SSL.

response_code_details

string

Contexto adicional para el código de respuesta. Por ejemplo, via_upstream indica que el servicio backend devolvió el código de respuesta, y route_not_found indica que el gateway no pudo encontrar una ruta coincidente.

response_tx_duration

long

Tiempo en milisegundos desde que el gateway recibe el primer byte del servicio upstream hasta que envía el último byte al cliente.

route_name

string

Nombre de la ruta.

start_time

string

Hora de inicio de la solicitud. La hora está en formato UTC.

trace_id

string

ID de rastreo.

upstream_cluster

string

Clúster upstream.

upstream_host

string

Dirección IP del host upstream.

upstream_local_address

string

Dirección local utilizada para conectarse al servicio upstream.

upstream_service_time

long

Tiempo de procesamiento de la solicitud en milisegundos para el servicio upstream. Esta duración incluye la latencia de red y el tiempo de procesamiento propio del servicio.

upstream_transport_failure_reason

string

Motivo del error de conexión upstream.

user_agent

string

Valor del encabezado User-Agent en la solicitud.

x_forwarded_for

string

Valor del encabezado x-forwarded-for, que normalmente contiene la dirección IP real del cliente.