Change history for semantic specifications of LLM applications - Application Real-Time Monitoring Service: Central de Documentação do Alibaba Cloud

Cada versão do agente ARMS atualiza o plug-in de LLM para garantir conformidade com as especificações semânticas mais recentes. Utilize esta página para identificar mudanças nos atributos de span entre versões e atualize suas consultas, painéis e alertas.

Agente Python

V2.0.0

A versão V2.0.0 reestrutura os atributos de span do componente OpenAI para adotar o namespace gen_ai.* de forma consistente. Essas alterações afetam os tipos de chamada LLM e Embedding.

Importante

Após fazer upgrade para a V2.0.0, atualize todos os painéis ou alertas que referenciem os atributos renomeados ou removidos listados abaixo.

Tipo de chamada LLM

Atributos renomeados

Atributo antigo	Novo atributo	Alteração de formato
`gen_ai.prompts`	`gen_ai.input.messages`	String simples para JSON
`gen_ai.completions`	`gen_ai.output.messages`	String simples para JSON
`gen_ai.request.model_name`	`gen_ai.request.model`	--
`gen_ai.response.model_name`	`gen_ai.response.model`	--
`input.value`	`gen_ai.input.messages`	Não estruturado para JSON
`output.mime_type`	`gen_ai.output.type`	--
`output.value`	`gen_ai.output.messages`	Não estruturado para JSON
`gen_ai.request.tool_calls`	`gen_ai.tool.definitions`	Não estruturado para JSON
`gen_ai.usage.prompt_tokens`	`gen_ai.usage.input_tokens`	--
`gen_ai.usage.completion_tokens`	`gen_ai.usage.output_tokens`	--

Atributos removidos

Atributo	Substituição
`gen_ai.model_name`	Utilize `gen_ai.request.model` ou `gen_ai.response.model`.
`input.mime_type`	Nenhuma. O tipo de conteúdo não é mais rastreado como um atributo separado.

Novos atributos

Atributo	Descrição
`gen_ai.request.choice.count`	Quantidade de conclusões a serem geradas por prompt.
`gen_ai.request.seed`	Semente para amostragem determinística.
`gen_ai.request.frequency_penalty`	Penaliza tokens com base na frequência de aparição na saída até o momento.
`gen_ai.request.presence_penalty`	Aplica penalidade a tokens caso já existam na saída gerada.
`gen_ai.request.max_tokens`	Limite máximo de tokens para geração.
`gen_ai.request.top_p`	Limiar de amostragem por núcleo.
`gen_ai.request.top_k`	Restringe a amostragem aos k tokens mais prováveis.
`gen_ai.request.stop_sequences`	Sequências que indicam ao modelo quando interromper a geração.
`gen_ai.response.id`	Identificador exclusivo da resposta do modelo.
`gen_ai.response.finish_reasons`	Motivos pelos quais o modelo parou de gerar, como `stop` ou `length`.

Tipo de chamada Embedding

Atributos renomeados

Atributo antigo	Novo atributo
`embedding.model_name`	`gen_ai.request.model`
`embedding.vector_size`	`gen_ai.embeddings.dimension.count`

Atributos removidos

Atributo	Substituição
`embedding.text`	Nenhuma. A entrada bruta do embedding não é mais capturada.
`embedding.vector`	Nenhuma. O vetor bruto do embedding não é mais capturado.

Novos atributos

Atributo	Descrição
`gen_ai.encoding.formats`	Formatos de codificação solicitados para a saída do embedding.

Alteração no formato de entrada e saída

Na versão V2.0.0, diversos atributos migraram de string simples ou formato não estruturado para um array JSON estruturado. Os exemplos a seguir ilustram os formatos antigo e novo.

**gen_ai.prompts (antigo) vs. gen_ai.input.messages (novo)**

Formato antigo (string simples):

"You are a helpful assistant.\nWhat is cloud computing?"

Novo formato (array JSON):

[
  {"role": "system", "content": "You are a helpful assistant."},
  {"role": "user", "content": "What is cloud computing?"}
]

**gen_ai.completions (antigo) vs. gen_ai.output.messages (novo)**

Formato antigo (string simples):

"Cloud computing is the on-demand delivery of IT resources over the Internet."

Novo formato (array JSON):

[
  {"role": "assistant", "content": "Cloud computing is the on-demand delivery of IT resources over the Internet."}
]