AgentRun中的向量模型管理支援添加、配置和統一管理多種Embedding模型，用於語義檢索與RAG等情境。 - Agent Run

在 AgentRun 中，向量模型（Embedding Model）用於將常值內容轉換為高維向量，是實現語義相似性計算、向量檢索、知識庫召回等核心能力的基礎組件。

功能介紹

通過向量模型管理，可以：

添加並配置向量模型（如千問的 text-embedding-v3）；
接入自訂服務，支援符合 OpenAI 規範的第三方向量模型 API；
統一管理多個向量模型，按情境靈活切換；
在 Agent 的知識庫、檢索增強（RAG）等模組中直接引用。

操作步驟

步驟 1：進入向量模型管理頁面

進入AgentRun控制台，首次使用需要進行SLR授權，在彈出的提示框中點擊确认即可；
在頂部功能表列點擊模型管理，然後選擇向量模型；
頁面展示所有已建立的向量模型，並提供“添加模型”入口。

步驟 2：添加模型

點擊添加模型；
在彈出的對話方塊中，預設選中API 模型。

步驟 3：填寫基本資料

名称（必填）：輸入易於識別的名稱，如 kb-embedding-cn。建議包含服務商或模型版本資訊。
描述（可選）：簡要說明用途，例如“中文知識庫語義檢索”。

步驟 4：選擇服務提供者

在服務提供者下拉框中按需選擇：

通義千問：阿里雲官方大模型服務，提供多版本文本嵌入模型（如 text-embedding-v3）；

自訂服務：接入任意符合 OpenAI 規範的第三方向量模型 API，適合私人化部署或定製化情境。

步驟 5：模型配置

千問

API端點配置：
選擇通義千問後，系統自動填滿 API 端點，無需修改
```
https://dashscope-intl.aliyuncs.com/compatible-mode/v1
```
在配置具體模型地區，勾選需要的模型版本，可多選，但實際調用時會根據配置使用其中一個：
- text-embedding-v1
- text-embedding-v2
- text-embedding-v3
- text-embedding-v4

自訂服務

VPC 配置：如果模型服務部署在阿里雲 VPC 內網，為了保證從 AgentRun 到目標服務網路連通，需要選擇與模型服務一致的VPC/子網/安全性群組，對於部署在公網的服務，此配置可以留空；
API端點：在API 端點輸入框中填寫服務地址，要求該地址下提供相容 OpenAI 的 /v1/embeddings 介面。
輸入模型名称：如 my-embedding-v1（在 Agent 中引用時使用）

步驟6：訪問憑證（按需配置）

是否配置憑證，取決於你的服務端是否要求認證，判斷標準：如果調用介面時需要 Authorization: Bearer xxx 或類似認證欄位，則必須配置憑證；否則可以選擇“不使用憑證”。

點擊出站：訪問第三方憑證開啟配置面板，可選擇以下方式之一：

選擇使用已有憑證（推薦）：適合多服務共用同一憑證、集中管理密鑰的情境。從下拉框中選擇在憑證管理中建立好的 API Key，如果沒有可以選擇的憑證，可以參考憑證管理添加；
選擇API 金鑰：密鑰僅用於當前模型，不會儲存到全域憑證管理。在存取金鑰中直接輸入第三方服務的 API Key；
不使用憑證：適用於允許匿名訪問的測試或內部服務。

步驟7：建立並驗證模型

檢查配置無誤後，點擊對話方塊右下角建立模型；
建立成功後，會跳轉到該向量模型管理頁，可以對模型進行查看和管理，在目標模型的卡片中，點擊详情，可以查看模型名稱、建立時間、支援的模型以及服務配置等資訊；

模型測試：可以查看详情頁調用樣本，使用下列方式進行測試：

API

curl https://dashscope-intl.aliyuncs.com/compatible-mode/v1/embeddings \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "input": "The food was delicious and the waiter...",
    "model": "text-embedding-ada-002",
    "encoding_format": "float"
  }'

Python SDK

from agentrun import ModelClient

ms = ModelClient().get(name="model-9FIYil")

result = ms.completions(
    messages=[{"role": "user", "content": "寫一首讚美 AI 的詩歌"}],
    stream=True,
)

for chunk in result:
    print(chunk.choices[0].delta.content, end="", flush=True)

Node.js SDK

import OpenAI from "openai";

const openai = new OpenAI();

async function main() {
  const embedding = await openai.embeddings.create({
    model: "text-embedding-ada-002",
    input: "The quick brown fox jumped over the lazy dog",
    encoding_format: "float",
  });

  console.log(embedding);
}

main();