DataWorks的大模型服務提供了快速部署大模型的能力。通過簡單的介面引導，您可以輕鬆完成預訓練模型的部署。本文將詳細介紹如何基於DataWorks的Serverless資源群組部署模型服務。
計費說明
當前功能除了消耗DataWorks資源外，還消耗其他雲產品資源，涉及的費用如下：
費用類型 | 描述 |
DataWorks費用 | 在DataWorks中部署的模型服務，若處於運行狀態，將消耗Serverless資源群組的資源。如果使用隨用隨付資源群組部署模型服務，則按照CU時計費，具體收費標準請參考Serverless資源群組計費。 |
非DataWorks費用 |
|
使用說明
DataWorks大模型服務將以全託管模式部署在DataWorks資源群組中。為便於您通過安全內網通訊訪問模型服務，在部署時，系統將要求您開通相關服務，並將為您自動設定私網串連（PrivateLink）和內網網域名稱解析（Private Hosted Zone）服務，原因如下：
藉助PrivateLink的能力實現跨VPC（使用者帳號下支援與DataWorks資源群組通訊的VPC網路）訪問，以便您可以在自己帳號下的VPC內訪問部署在DataWorks的全託管大模型服務。
藉助Private Hosted Zone在您帳號下做自訂網域名解析，以便您可以在自己的VPC內通過網域名稱方式訪問特定的DataWorks大模型服務。
當您通過網域名稱調用模型服務時，跨VPC流量將通過已建立的PrivateLink通道，從您的VPC傳輸至DataWorks資源群組所在的VPC，並最終抵達該VPC內的模型執行個體，完成模型服務調用。您可通過PrivateLink控制台和Alibaba Cloud DNS-內網網域名稱解析查看相關服務詳情。
前提條件
模型服務完全託管在DataWorks平台的帳號側。如需在您的VPC內訪問該服務，可通過PrivateLink實現跨VPC的安全訪問。
已開通內網網域名稱解析（Private Hosted Zone）服務。
Private Hosted Zone用於在使用者側實現自訂網域名解析，通過直接存取固定的模型服務網域名稱，將請求流量轉寄至DataWorks的模型服務。
請確保開通服務地區與DataWorks工作空間地區一致，否則可能導致服務無法正常使用。
使用限制
僅華東1（杭州）、華東2（上海）、華北2（北京）、華北6（烏蘭察布）、華南1（深圳）、中國香港、日本（東京）、新加坡、馬來西亞（吉隆坡）、印尼（雅加達）、德國（法蘭克福）、美國（矽谷）和美國（維吉尼亞）地區支援使用大模型服務功能。
僅支援模型部署，不支援模型訓練。
單個地區內，每個租戶（阿里雲主帳號）最多可部署50個模型服務。
該功能僅支援Serverless資源群組，且單個資源群組最多可部署5個模型服務。
每個模型服務最多可綁定3個VPC網路。
功能入口
登入DataWorks控制台。在控制台頂部功能表列切換至目標地區。
在左側導覽列中單擊大模型服務，進入大模型服務頁面。
部署模型
在大模型服務頁面，單擊部署模型按鈕，進入模型列表頁面。選擇需要部署的模型後，單擊部署按鈕，即可進入模型部署配置頁面。請根據以下說明完成模型部署。
配置基本資料
模型：請確認即將部署到DataWorks資源群組的模型類型，更多請參見支援的模型列表。
服務名稱：您需要自訂模型服務的名稱，用於在DataWorks上識別部署到資源群組後的模型服務。
配置資源資訊
請根據以下內容配置模型的部署環境。
配置項 | 配置說明 |
資源群組 | 指定模型服務部署位置，選擇您所建立的Serverless資源群組。 部署完成後，您可登入DataWorks控制台，切換至目標地區後，單擊左側導覽列的資源群組，進入資源群組列表頁面。單擊目標資源群組名稱，在資源群組詳情頁查看大模型服務相關的Serverless資源群組使用率。 |
交換器 | 指定模型服務部署的交換器環境。 可根據介面提示，選擇適用可用性區域下Serverless資源群組綁定的交換器。 |
部署規格 | 選擇用於部署模型服務執行個體的單個執行個體資源規格。 |
執行個體數 | 配置部署模型服務的執行個體數量，通過多執行個體部署可提升模型的高可用性。 |
總共佔用 | 根據需部署的資源部署規格*執行個體數計算本次資料模型服務總共所需的CU量。 請確保資源群組用於大模型服務的可用CU足以部署當前模型服務，您可以前往資源群組配額管理頁調整資源群組分配給大模型服務的CU上限。詳情可參見給任務分配CU配額。
|
配置完成後，單擊發布進行部署。
平台在建立模型服務時會自動產生PrivateLink、雲解析Private Hosted Zone和安全性群組，請勿手動刪除或編輯這些資源。模型服務釋放時，平台將自動清理相關資源。
部署完成後，系統將在使用者帳號下完成以下操作：
在DataWorks資源群組綁定的預設VPC中建立PrivateLink終端節點，並與DataWorks資源群組VPC的PrivateLink服務端建立加密通訊通道。
在使用者帳號的雲解析Private Hosted Zone服務中自動添加瞭解析記錄，將該內網網域名稱關聯至DataWorks資源群組的VPC環境。
管理模型
模型服務建立成功後，您可以在大模型服務列表管理模型狀態、查看服務資訊、管理網路和API Key，並按需調整資源。
管理模型狀態
模型服務建立成功後將預設啟動，您可以在大模型服務列表的操作欄中根據業務需求管理模型狀態。
操作 | 模型服務狀態變更 | 資源消耗情況 |
啟動 | 運行中 | 將消耗Serverless資源群組的資源。 |
停止 | 已停止 | 不消耗Serverless資源群組的資源。 |
刪除 | —— | 會徹底釋放Serverless資源群組的資源。 |
查看模型服務
概覽頁簽為您展示當前模型服務的配置資訊，您可在概覽頁簽管理模型服務的基本資料、資源配置和調用資訊。
在大模型服務列表中，找到目標模型服務，單擊服務名稱，進入模型服務概覽頁簽。
您可以查看模型服務的基本資料、資源資訊和調用資訊。
基本資料：包含模型服務名稱、服務ID和模型類型等資訊。
資源資訊：可查看部署規格和執行個體數等資訊。
調用資訊：如需在節點任務中調用使用模型，您可單擊VPC地址調用網域名稱後面的
表徵圖，複製擷取該網域名稱參數。
修改模型資源
對於已建立的模型服務，您可以修改服務名稱、調整部署模型服務所使用的資源規格，以及更改部署模型服務的執行個體數量。
在大模型服務列表中，找到目標模型服務，單擊服務名稱，進入模型服務概覽頁簽。
單擊資源配置右側的修改，進入修改資源頁面進行相關配置。
重要資源更改將導致服務重啟，影響模型服務正常運行。
管理模型網路
網路設定頁簽為您展示當前可通過內網訪問該模型服務的VPC環境，您可在網路設定頁簽添加或管理可用於訪問大模型服務的專用網路。
在大模型服務列表中，找到目標模型服務，單擊服務名稱，進入模型服務概覽頁簽。
切換至網路設定頁簽，查看當前可通過內網訪問該模型服務的VPC環境。
如需擴充存取範圍，您可以通過添加網路的方式，允許更多VPC環境通過內網訪問部署在DataWorks上的大模型服務。
添加網路時，需指定VPC（專用網路）和vSwitch（交換器）。當該VPC狀態變為可用後，您可以通過該VPC訪問該模型服務。
說明費用說明：為大模型服務添加專用網路後，系統會在您選擇的需要訪問模型服務的VPC下，建立一個私網串連（PrivateLink）終端節點，以實現和DataWorks資源群組的網路連接，同時Private Hosted Zone會新增一條內網網域名稱解析記錄。在此過程中，將會產生執行個體費、流量處理費和網域名稱解析費用，具體計費詳情請參見私網串連計費說明、內網網域名稱解析產品計費。
個數限制：最多可以為一個模型服務添加3個VPC（專用網路）。
如不再允許某個VPC環境訪問該模型服務，您可在該模型服務上單擊刪除目標VPC環境。
模型服務上刪除這個VPC時，在使用者帳號的這個VPC下建立的PrivateLink終端節點將同步被移除。
管理API Key
API Key是模型服務提供給模型調用方的一種鑒權憑證，用於驗證使用者身份和許可權。您可在API KEY頁簽管理用於調用當前模型服務的所有API Key。
在大模型服務列表中，找到目標模型服務，單擊服務名稱，進入模型服務概覽頁簽。
切換至API KEY頁簽，可建立、管理、使用API Key資訊：
新增API KEY：模型服務部署成功後，平台會持有一個其他DataWorks模組調用的內建API Key。如需在其他環境中通過模型服務的
Endpoint自由調用服務模型，請單擊新增API Key建立新的API Key。建議您為不同的應用情境分別建立獨立的API Key。
查看API Key：單擊目標API Key操作欄中的查看，然後單擊複製即可擷取該API Key。
刪除API Key：DataWorks API Key提供禁用和刪除功能。
重要若您需要禁用或刪除某個已啟用的API Key，請提前評估相關影響，因為一旦API Key被禁用或刪除，所有使用該API Key調用模型的任務均將失敗。
禁用或刪除操作，預估
5min後生效。
後續步驟
模型部署完成後，您可使用模型進行相關任務的開發。
調用原理
您可通過以下流程圖及相關說明瞭解模型服務的調用原理：
當您在DataWorks資源群組中部署模型服務或為其配置專用網路時，系統將自動執行以下操作：
建立跨VPC串連。 在您的VPC（DataWorks資源群組可連通的使用者帳號下的VPC）中，系統會自動建立PrivateLink終端節點，並與DataWorks資源群組VPC的PrivateLink服務端建立加密通訊通道。
此操作將自動在您帳號下建立PrivateLink終端節點，需要您的帳號已開通該服務。
佈建網域名解析服務。 在模型服務配置的VPC中自動設定網域名稱解析規則，使得VPC內部網域名稱請求流量自動轉寄至DataWorks模型服務。
此操作將自動在您帳號下部署Private Hosted Zone解析服務，需要您的帳號已開通該服務。