智能體應用
大語言模型(LLM)無法直接存取私人知識庫或擷取即時資訊。阿里雲百鍊智能體(Agent)應用支援以零代碼方式將大模型與外部工具和知識庫串連,突破模型內建能力的邊界。
工作原理
智能體由提示詞驅動,通過協調外部能力完成複雜任務。接收到請求後,大模型識別使用者意圖並規劃任務,隨後自主調用外部工具,最終整合結果產生回複。
適合使用智能體的情境:希望模型根據可用工具自主決策如何處理任務,而不是手動設計多步驟工作流程。例如,構建一個客服助手,能自動查詢私人知識庫、調用即時資料 API,並將結果匯總成完整回複。
百鍊智能體支援以下核心能力:
-
知識庫(RAG):串連外部知識庫,基於私人資料回答問題。適用於模型內建知識無法覆蓋的垂直領域問答情境。
-
外掛程式:調用平台預置工具,如代碼執行、映像產生、天氣查詢等。適用於需要執行對話之外的具體操作時。
快速開始
建立基礎智能體
-
訪問阿里雲百鍊控制台應用管理頁面,單擊 + 建立應用,在智能体应用頁簽,單擊 立即创建。
-
在應用配置介面的模型選擇下拉式功能表中選擇模型,例如
千問-Plus。其他參數可保持預設。 -
建立完成後,在左側對話方塊中輸入
你好進行測試。
智能體能力
通過選擇模型、最佳化系統提示詞、添加知識庫(RAG)和調用外掛程式來擴充智能體能力。
模型
模型是驅動智能體進行推理和決策的核心。百鍊智能體支援千問系列模型和自訂部署模型。
-
模型選擇
在模型選擇下拉式功能表中選擇模型,例如
千問-Plus。單擊更多模型可選擇其他模型。 -
參數配置
單擊模型下拉框右側的
,配置以下參數:-
最長回複長度:模型產生內容的長度上限,不含提示詞。上限因模型不同而有所差異。
-
攜帶的上下文輪數:輸入模型的最大歷史對話輪數,輪數越多,對話相關性越強。
-
temperature:控制產生內容的隨機性。數值越高,多樣性越強;數值越低,一致性越強。取值範圍為 [0, 2)。
-
enable_thinking:是否開啟推理模式。不支援推理模式的模型無法配置此參數。
開啟推理模式後,模型在產生回複前會進行更深入的推理,Token 消耗會增加。
-
系統提示詞
系統提示詞定義智能體的角色、行為方式和能力邊界,確保回複保持一致性和任務導向。編寫有效提示詞時,可參考以下要點:
-
定義角色:說明模型應扮演的角色及應具備的專業知識。
-
指定輸出格式:描述期望的內容結構、長度或風格。
-
設定約束條件:告知模型應避免哪些內容或需遵守哪些規則。
-
引導工具使用:明確提及工具名稱,並說明何時使用。
-
配置提示詞
將系統提示詞設定為
請你模仿《百年孤獨》的風格來回答我的問題,效果對比如下:-
使用者發送"你是誰",模型以預設身份回複自我介紹:"我是通義千問(Qwen),由阿里巴巴集團旗下的通義實驗室自主研發的超大規模語言模型。我可以協助你回答問題、提供資訊、進行創作、編程、邏輯推理等。"
-
在文本對話介面中,使用者發送"你是誰",AI 以《百年孤獨》文學風格進行自我介紹,引用馬孔多、布恩迪亞家族等小說元素,表明系統提示詞已生效。底部顯示統計資訊:字數 234、輸入 token 245、輸出 token 177。
-
-
知識庫(RAG)
檢索增強產生(RAG)使智能體能夠查詢外部知識庫,並以檢索到的內容作為產生答案的依據。對於私人知識或垂直領域問答,RAG 可顯著提升回答準確率,減少幻覺問題。詳情參見建立和使用知識庫。
說明:從知識庫中檢索到的文本會佔用模型的上下文視窗。需根據實際情況調整檢索策略和文本長度,以充分利用上下文視窗並避免超限。
外掛程式
智能體通過調用外掛程式,完成代碼執行、網路搜尋、文本產生圖片等具體任務。外掛程式適用於需要執行超出內建知識範圍的操作或內容產生時。百鍊提供多種官方外掛程式,同時支援添加自訂外掛程式,詳情參見外掛程式概述。
智能體互動
文本對話
文本對話是智能體的主要互動方式,支援多輪對話。
文本對話支援兩種輸入方式:
-
文本輸入: 輸入文字與智能體對話。
-
檔案上傳: 上傳文檔、圖片、視頻、音頻等格式的檔案作為附件。
發布與調用
百鍊智能體支援通過API調用,也支援一鍵發布到第三方平台,或通過組件整合到商務程序中。
發布應用
發布應用是後續調用和整合的前提條件。
單擊智能體應用管理介面右上方的发布,再單擊确认发布,即可完成發布。
若非首次發布,彈窗會展示自上次發布以來的變更詳情。
如果應用由RAM帳號建立,發布前請確認已擁有服務關聯角色許可權 ram:CreateServiceLinkedRole,詳情參見服務關聯角色。
API 呼叫
在智能體應用的发布渠道頁簽,單擊API调用右側的查看API,查看API調用方法。
將YOUR_API_KEY替換為實際的百鍊API Key 後方可發起調用。
智能體管理
複製與刪除
在应用管理頁面找到應用卡片,通過菜單,對智能體進行複製、刪除或重新命名操作。
適合複製應用的情境:
-
使用不同提示詞或模型建立測試版本
-
針對不同受眾或用途定製智能體
-
在進行重大配置變更前建立備份
版本管理
版本管理支援編輯歷史版本描述,或復原至發行的歷史版本。
-
在智能體應用的配置頁簽,單擊頂部導覽列右側的版本管理。
-
在歷史版本列表中,選中目標版本後:開啟 歷史版本 面板,面板以時間軸形式展示 當前草稿、線上版本(帶 最新 標籤)及各歷史版本條目,每個版本顯示版本ID、發布時間、發布人和版本資訊。
-
如需修改版本資訊,將滑鼠懸浮至
表徵圖處單擊,在编辑版本描述對話方塊中完成修改後,單擊确定。 -
如需使用該歷史版本,單擊覆盖当前草稿,在二次確認對話方塊中單擊确认。
該歷史版本內容將覆蓋目前的版本草稿。
-
計費說明
智能體計費涉及以下幾個方面:
-
模型調用
智能體會產生模型調用費用,具體取決於模型類型和 Token 用量。
計費詳情參見百鍊控制台。
-
知識庫
-
知識庫功能限時免費。
-
從知識庫檢索的文本切片會增加模型輸入 Token 數量,可能導致模型調用費用增加。
-
-
MCP
-
部分官方 MCP 按模型調用計費,例如文生圖、文生視頻、語音合成等 MCP。
-
部分 MCP 服務涉及第三方API調用,使用後可能產生費用,該費用由第三方收取,百鍊不另行收費。
-
-
長期記憶
-
長期記憶的資料存放區不收費。
-
問答調用時,記憶體內容會合并到 Prompt 中傳遞給大模型,從而增加 Token 消耗。記憶體內容佔用的 Token 暫不計費。
-
支援的模型
資料更新可能存在延遲,模型支援情況以智能體應用內顯示為準。
-
千問-Plus
-
千問-Max
-
千問VL-Max
-
千問VL-Plus
-
千問-Turbo
