常見問題

更新時間:
Copy as MD

本文檔匯總了在使用阿里雲百鍊大模型服務平台時遇到的常見問題及其解答。

計費相關

  1. 阿里雲百鍊平台中模型服務中各模型的收費單價是什嗎?

    模型介紹請參見百鍊控制台,模型價格請參見模型調用計費

  2. 目前是否有預付費相關的服務?

    部分模型支援預付費服務,詳情請參見節省計劃與資源套件節省計劃

  3. 後付費的賬單是月結算嗎?

    按分鐘級出賬,按月結算。

  4. 如何查詢扣款項及明細?

    請前往費用與成本查看。

  5. 已經消費的金額,如何申請開票?

    請在月賬單概覽頁面,按需單擊目標帳號右側操作列下的下載發票

  6. 萬相會員是否支援百鍊API調用?

    不支援。萬相會員與阿里雲百鍊的計費體系相互獨立,萬相會員權益不適用於百鍊的API調用。

API/SDK相關

  1. 如何查看錯誤碼資訊?

    阿里雲百鍊模型服務的API調用將返回狀態代碼以標識調用結果。詳情及解決方案請參見錯誤碼

  2. 如何安裝SDK?

    阿里雲百鍊目前支援JavaPython語言的SDK。詳情請參見安裝SDK

  3. Assistant API 呼叫 function call ,使用者需要依次調用兩個本地函數,現在支援嗎?

    a.目前不支援分別調用兩個函數。

    b.手動建立兩個Assistant API,分別分配兩個Assistant API的使用返回。

  4. Assistant API 有memory相關的能力嗎?

    當前暫不支援memory配置功能。

產品相關

  1. 如何開通阿里雲百鍊服務?

    阿里雲百鍊服務需要分地區開通。使用阿里雲主帳號前往阿里雲百鍊控制台,請在控制台右上方切換目標地區,閱讀並同意協議後,將自動開通阿里雲百鍊,如果未彈出服務合約,則表示您已開通該地區的服務。

  2. 開通阿里雲百鍊服務後如何關閉?

    目前,阿里雲百鍊服務開通後暫不支援關閉。如果您通過API來調用模型/應用,您只需要在控制台的API-Key(新加坡)API-Key(美國)API-Key(北京)頁面中刪除已建立的 API-Key 即可避免後續的調用。

  3. 如何體驗大模型服務?

    可前往模型體驗中心(新加坡)模型體驗中心(美國)模型體驗中心(北京)頁面進行體驗。

  4. 阿里雲百鍊和千問的區別是什嗎?

    阿里雲百鍊是一個大模型服務平台,提供包括千問系列在內的多種大模型。

  5. 如何?業務資料隔離,使不同使用者的資料之間不關聯?

    可以通過主帳號給不同子帳號授予不同的業務空間許可權,不同業務空間的資料互不影響,存在隔離。詳細內容請前往業務空間許可權管理查看。

  6. 阿里雲百鍊是否儲存模型調用時產生的資料?

    阿里雲嚴格保護資料隱私,絕不會將您的資料用於模型訓練。同時,您在構建應用或訓練大模型過程中傳輸的資料都會經過AES-256(Advanced Encryption Standard,進階加密標準)加密,確保資料安全。

    關於阿里雲百鍊對您資料的處理方式,詳情請參見Alibaba Cloud International Website Product Terms of Service關於Alibaba Cloud Model Studio的條款。

  7. 在百鍊控制台的模型體驗頁面,歷史對話記錄會保留多久?儲存數量有限制嗎?

    百鍊控制台最多展示 100 條歷史對話記錄,不設時間限制。如果您手動刪除了部分記錄,系統會自動展示更早的記錄。未登入狀態下的體驗對話以及推理報錯時的對話記錄不會被儲存。

  8. 大模型服務平台百鍊產生的文本是否支援添加隱式標識?

    不支援。

  9. 百鍊是否有手機端應用?

    百鍊目前沒有提供官方的獨立手機應用,主要通過Web控制台訪問。

模型中心

  1. 所謂大模型參數是怎麼儲存的?

    您可以從魔搭社區下載開源模型,其結構通常在JSON檔案中定義。通常需要使用開源的Python庫來解析這些檔案,其中包含了向量資訊,這有助於理解其預存程序。

  2. 千問系列模型支援多少種語言?

    14種,分別是中文、英文、阿拉伯語、西班牙語、法語、葡萄牙語、德語、意大利語、俄語、日語、韓語、越南語、泰語、印尼語。

  3. 當前模型可以對接結構化資料嗎?比如MySQLhive等。

    當前不支援。但已經在開發中,優先對接RDS服務。

  4. 請問Qwen3、Qwen-Max等模型的文字產生速度對所有使用者都是固定的嗎,有沒有調速的途徑?

    產生速度不是固定的,它會受到當前服務的整體負載和您的請求並發情況等因素的影響。

  5. 模型限流觸發後,一般需要等多長時間再次嘗試呢?

    等待時間取決於您的具體限流值(RPS/RPM)。例如,如果您的限流是120 RPM(每分鐘查詢數),即每秒2次請求。如果您在0.2秒內連續提交了2次請求,第3次請求就會被限流,您需要等待大約0.8秒後才能再次成功提交。

模型幻覺問題

  1. 什麼是模型幻覺?

    模型幻覺指大語言模型(LLM)在產生內容時,無中生有、虛構事實、扭曲資訊或產生邏輯矛盾的現象。其輸出看似合理、流暢,但與輸入、真實世界知識或上下文邏輯嚴重不符。需要注意的是,幻覺不同於事實性錯誤(如訓練資料過時導致的錯誤)、主觀觀點表達或創造性虛構(如明確要求寫小說時),其核心在於"無依據的自信斷言"。

  2. 如何降低模型幻覺?

    您可以通過以下方式降低模型幻覺的發生:

    1. 選擇更強的模型:通常選擇更大型、更進階的模型可以降低幻覺發生。例如在千問系列中,Max層級模型的效果優於Plus層級,Plus層級優於Turbo層級。

    2. 提示詞工程:修改prompt是操作簡單且有效降低模型幻覺的方式。例如在RAG情境中添加"請僅基於提供的文檔回答,如果資訊不足請說'我不知道'";添加"請引用具體資料或報告支援你的結論";通過prompt引導將任務分為多步;在prompt中設定嚴謹的角色等。

    3. RAG(檢索增強產生):利用RAG的能力,讓模型的回複有所參考,並嚴格限制模型回答在檢索到的知識範圍內,可以顯著降低幻覺。構建RAG系統時,需要確保檢索系統高品質、清晰標註資訊來源、優雅拒絕檢索不到的情況。

    4. 外掛程式/MCP:利用外掛程式或MCP的能力降低模型幻覺。例如利用大模型去總結結構化資料庫中的資料時,可以通過外掛程式/MCP調用資料庫用戶端完成資料計算,再將計算結果返回給模型做總結,避免模型直接處理數值計算時產生幻覺。

    5. 模型參數調優:降低temperaturetop_ktop_p等隨機性參數,使輸出更保守,避免離奇產生,但可能犧牲創造力。降低max_tokens在某些情境下可以防止模型回複關鍵資訊後繼續捏造內容。

    6. 後處理驗證:模型推理完成之後,通過後續步驟驗證回複內容的正確性。通常是通過AI的能力再去校正一次回答過程是否有幻覺。該方法會增加成本並降低模型請求處理速度。