本文對OpenSearch-LLM智能問答版的自訂進行參數說明和文法說明。
問答參數
參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
模型選擇 | String | 是 | - | opensearch-qwen | 表示該次搜尋使用的LLM大模型。可選擇的模型請參考:LLM管理。 |
Prompt | String | 否 | - | 系統預設範本 | 表示該次搜尋使用的Prompt。可選擇的Prompt請參考:Prompt管理 |
多輪對話 | Boolean | 否 | - | true |
|
流式輸出 | Boolean | 否 | - | true |
|
Prompt參數
參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
attitude | String | 否 | - | normal |
|
rule | String | 否 | - | detailed | 對話內容的詳細程度,預設為detailed
|
noanswer | String | 否 | - | sorry | 無法回答問題時的回複,預設為sorry
|
language | String | 否 | - | Chinese | 回答問題使用的語言,預設為Chinese
|
role | Boolean | 否 | - | true | 開啟後,將定製回答的角色。 |
role_name | String | 否 | - | AI小助手 | 定製回答的角色,例如:AI小助手 |
out_format | String | 否 | - | text | 輸出內容的形式,預設為text
|
文檔召回參數
參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
filter | String | 否 | - | - | 召迴文檔時根據目標欄位進行過濾。例:filter = field = value |
top_n | Int | 否 | (0, 50] | 5 | 召回的文檔數。 |
sf | Float | 否 | [0,+∞) | 1.3 | 控制向量召回的向量分的閾值。
|
dense_weight | Float | (0,1) | 0.7 | 選擇稀疏向量模型時可選,表示稠密向量的權重,取值(0,1) 的浮點數,稀疏向量的權重則為 1 - dense_weight。 | |
formula | String | 否 | - | 向量相似性 | 文檔召回的排序公式。 |
operator | String | 否 | - | AND | 文本召回時,文本token之間的關係。 |
文法說明 | |
參數 | 文法說明 |
filter | 過濾條件式格式設定為:field=value 樣本:
|
top_n | |
sf | |
formula |
|
參考圖片參數
參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
sf | Float | 否 | [0,+∞) | 1 | 參考圖片的閾值,對於稀疏向量模型sf越大則參考圖片與內容的向量相似性越大,對於稠密向量模型sf越大則參考圖片與內容的向量相似性越小。 |
dense_weight | Float | 否 | (0,1) | 0.7 | 選擇稀疏向量模型時可選,表示稠密向量的權重,取值(0,1) 的浮點數,稀疏向量的權重則為 1 - dense_weight。 |
文法說明 | |
參數 | 文法說明 |
sf | |
Query理解參數
參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
query_extend | Boolean | 否 | - | false | 開啟後會擴充Query,提升召回品質 |
query_exten_num | Int | 否 | (0,+∞) | 5 | 擴充Query的數量 |
人工幹預參數
人工幹預參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
sf | Float | 否 | [0,2] | 0.3 | 人工幹預問題的閾值,預設為0.3,sf越大則越容易匹配到人工幹預詞條 |
文法說明 | |
參數 | 文法說明 |
sf | |
其它參數
其它參數說明 | |||||
參數 | 類型 | 必需 | 取值範圍 | 預設值 | 描述 |
return_hits | Boolean | 否 | - | false | 是否在結果中返迴文檔召回的結果,如果不返回就只有參考連結。 |
csi_level | String | 否 | - | strict | 綠網配置
|
history_max | INT | 否 | (0,20] | 20 | 多輪對話歷史最大輪數,最大20輪 |
link | Boolean | 否 | - | false | 是否在結果中返迴文檔召回的具體來源 |
rich_text_strategy | String | 否 | - | 富文本LLM輸出後處理方式(如果不存在這個配置或者為空白則不開富文本,預設行為):
| |
文法說明 | |
參數 | 文法說明 |
return_hits | |
link | 包含內容的返回資訊執行個體如下: 說明 其中被'[^' 和 '^]' 包括起來的數字表示引用結果中reference裡的第幾個文檔。例如'[^1^]'表示應用reference中的第一個文檔。 |