資料緩衝可以提前拉取業務所需資料,以便在建立ECI執行個體時可以直接掛載使用。本文介紹資料緩衝的配置參數以及如何建立、查詢、更新、拷貝和刪除資料緩衝。
建立資料緩衝
建立方式如下:
OpenAPI:調用CreateDataCache介面可以建立資料緩衝。更多資訊,請參見CreateDataCache。
控制台:在Elastic Container Instance控制台的數據緩衝頁面,單擊建立數據緩衝。按照需求配置資料緩衝相關參數,單擊確定。
配置說明
建立資料緩衝需要配置的參數如下:
基本屬性
API
控制台
說明
RegionId
地區
資料緩衝所屬地區。
Bucket
緩衝所屬Bucket
資料的儲存空間。預設為default。支援自訂,以便進行業務分組和避免路徑衝突。
eci-system為ECI保留空間,不可使用。
Path
緩衝所屬目錄
資料存放區的路徑。
Name
緩衝名
資料緩衝名稱。
Size
緩衝大小
資料緩衝大小。單位為GiB,預設為20 GiB。請根據實際資料量評估所需大小。
RetentionDays
保留天數
資料緩衝保留天數。到期會被清理。預設不到期。
資料來源
API
控制台
說明
DataSource.Type
類型
資料來源類型。
DataSource.Options
參數
資料來源配置參數。格式為JSON對象,不同類型資料來源要傳入的參數不同。
各類型資料來源及其配置參數說明如下:
重要如果通過OpenAPI門戶建立資料緩衝,DataSource.Options中各個參數前需要添加參數名的長度,例如
url需要寫成#3#url,repoId需要寫成#6#repoId,repoSource需要寫成#10#repoSource。如果通過SDK建立資料緩衝,無需添加。資料來源類型
資料來源說明
配置參數
URL
連結地址
url:資料下載地址。
accessToken:拉取私人資料時,需配置該參數來驗證身份以訪問資料。
HuggingFace或ModelScope
repoSource:取值範圍為ModelScope/Model、ModelScope/DataSet、HuggingFace/Model、HuggingFace/DataSet,表示從ModelScope或HuggingFace社區拉模數型或者資料集。
repoId:模型ID或資料集ID。
revision:版本。預設為main或者master。
accessToken:拉取私人資料時,需配置該參數來驗證身份以訪問資料。
NAS
NAS檔案系統
server:NAS檔案系統的掛載點。
path:掛載子目錄。極速型NAS需要以
/share為首碼,例如/share/path。vers:掛載NAS的NFS協議版本號碼。推薦使用v3,極速型NAS僅支援v3。
options:掛載選項。建議使用NAS服務推薦選項,例如
nolock,tcp,noresvport。
OSS
OSS儲存空間
bucket:OSS Bucket的名稱。
url:OSS的接入網域名稱(Endpoint)。
path:掛載子目錄。相對Bucket根目錄的目錄,預設為
/。otherOpts:掛載OSS時支援輸入定製化參數,格式為
-o *** -o ***,例如-o max_stat_cache_size=0 -o allow_other。ramRole:使用RAM角色授權時,對應的RAM角色。
akId:使用AccessKey直接授權時,對應的AccessKey ID。
akSecret:使用AccessKey直接授權時,對應的AccessKey Secret。
SNAPSHOT
快照
snapshotId:快照ID。
網路參數
如果需要通過公網拉取資料,在指定的交換器沒有配置SNAT時,支援綁定EIP來拉取公網資料。
API
控制台
說明
EipInstanceId
使用已有
綁定已有的EIP。
EipCreateParam包含的參數
自動建立
自動建立並綁定EIP。
其他參數
除上述參數外,建立資料緩衝時還需指定專用網路、交換器、安全性群組等參數,用於在建立資料緩衝的過程中建立臨時資源。
配置樣本
以OpenAPI為例,建立各類型資料緩衝的參數配置樣本如下:
URL
從連結地址拉取資料
{ "RegionId": "cn-beijing", "SecurityGroupId": "sg-2ze63v3jtm8e6syi****", "VSwitchId": "vsw-2ze94pjtfuj9vaymf****", "Bucket": "test", "Path": "/demo/url", "Name": "test-url-1", "DataSource": { "Type": "URL", "Options": { "#10#url": "https://www.example.com" } }, "RetentionDays": 1 }從HuggingFace拉模數型
{ "RegionId": "cn-beijing", "SecurityGroupId": "sg-2ze63v3jtm8e6syi****", "VSwitchId": "vsw-2ze94pjtfuj9vaymf****", "Bucket": "test", "Path": "/demo/url", "Name": "test-url-2", "DataSource": { "Type": "URL", "Options": { "#10#repoSource": "HuggingFace/Model", "#6#repoId": "stabilityai/stable-diffusion-2-1" } }, "RetentionDays": 1 }
NAS
{
"RegionId": "cn-beijing",
"SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
"VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
"Bucket": "test",
"Path": "/demo/nas",
"Name": "test-nas",
"DataSource": {
"Type": "NAS",
"Options": {
"#6#server": "126c24****-tw***.cn-beijing.nas.aliyuncs.com",
"#4#path": "/",
"#4#vers": "3",
"#7#options": "nolock,tcp,noresvport"
}
},
"RetentionDays": 1
}OSS
{
"RegionId": "cn-beijing",
"SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
"VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
"Bucket": "test",
"Path": "/demo/oss",
"Name": "test-oss",
"DataSource": {
"Type": "OSS",
"Options": {
"#6#bucket": "test-***",
"#3#url": "oss-cn-beijing-internal.aliyuncs.com",
"#4#path": "/test",
"#9#otherOpts": "-o max_stat_cache_size=0 -o allow_other",
"#7#ramRole": "<your RAM Role Name>"
}
},
"RetentionDays": 1,
"SourceIp": "2401:b180:1000:3:a4ba:83d6:a4ba:83d6"
}SNAPSHOT
{
"RegionId": "cn-beijing",
"SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
"VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
"Bucket": "test",
"Path": "/demo/snapshot",
"Name": "test-snapshot",
"DataSource": {
"Type": "SNAPSHOT",
"Options": {
"#10#snapshotId": "s-2zehb6jegdehec19****"
}
},
"RetentionDays": 1,
"Size": 40
}管理資料緩衝
查詢
建立資料緩衝後,您可以查詢資料緩衝資訊,包括狀態、所屬Bucket、在Bucket中的儲存路徑等。當資料緩衝狀態為Available時,表示可以使用該資料緩衝。
查詢方式如下:
OpenAPI:調用DescribeDataCaches介面可以查詢資料緩衝資訊。
控制台:在數據緩衝頁面可以查看當前地區下所有資料緩衝列表。單擊某一資料緩衝ID後,可以查看該資料緩衝的詳細資料。
更新
對於狀態為Available或者UpdateFailed的資料緩衝,支援更新所屬Bucket、資料來源、保留時間長度、大小等。
更新方式如下:
OpenAPI:調用UpdateDataCache介面可以更新資料緩衝。
控制台:暫不支援。
拷貝
資料緩衝不支援跨地區使用。使用資料緩衝時,如果待建立的ECI執行個體和資料緩衝不屬於同一地區,您可以將資料緩衝從原有地區拷貝到新的地區。
拷貝方式如下:
OpenAPI:調用CopyDataCache介面可以拷貝資料緩衝。
控制台:在數據緩衝頁面,單擊目標資料緩衝對應的複製。
刪除
資料緩衝對應一份快照,保留資料緩衝需要支付相應的快照儲存費用。對於不再使用的資料緩衝,如果在建立時未設定保留時間長度,建議您及時手動刪除。
刪除方式如下:
OpenAPI:調用DeleteDataCache介面可以刪除資料緩衝。
控制台:在數據緩衝頁面,單擊目標資料緩衝對應的刪除。