全部產品
Search
文件中心

Elastic Container Instance:建立和管理資料緩衝

更新時間:Jul 06, 2024

資料緩衝可以提前拉取業務所需資料,以便在建立ECI執行個體時可以直接掛載使用。本文介紹資料緩衝的配置參數以及如何建立、查詢、更新、拷貝和刪除資料緩衝。

建立資料緩衝

建立方式如下:

  • OpenAPI:調用CreateDataCache介面可以建立資料緩衝。更多資訊,請參見CreateDataCache

  • 控制台:在Elastic Container Instance控制台數據緩衝頁面,單擊建立數據緩衝。按照需求配置資料緩衝相關參數,單擊確定

配置說明

建立資料緩衝需要配置的參數如下:

  • 基本屬性

    API

    控制台

    說明

    RegionId

    地區

    資料緩衝所屬地區。

    Bucket

    緩衝所屬Bucket

    資料的儲存空間。預設為default。支援自訂,以便進行業務分組和避免路徑衝突。

    eci-system為ECI保留空間,不可使用。

    Path

    緩衝所屬目錄

    資料存放區的路徑。

    Name

    緩衝名

    資料緩衝名稱。

    Size

    緩衝大小

    資料緩衝大小。單位為GiB,預設為20 GiB。請根據實際資料量評估所需大小。

    RetentionDays

    保留天數

    資料緩衝保留天數。到期會被清理。預設不到期。

  • 資料來源

    API

    控制台

    說明

    DataSource.Type

    類型

    資料來源類型。

    DataSource.Options

    參數

    資料來源配置參數。格式為JSON對象,不同類型資料來源要傳入的參數不同。

    各類型資料來源及其配置參數說明如下:

    重要

    如果通過OpenAPI門戶建立資料緩衝,DataSource.Options中各個參數前需要添加參數名的長度,例如url需要寫成#3#urlrepoId需要寫成#6#repoId,repoSource需要寫成#10#repoSource。如果通過SDK建立資料緩衝,無需添加。

    資料來源類型

    資料來源說明

    配置參數

    URL

    連結地址

    • url:資料下載地址。

    • accessToken:拉取私人資料時,需配置該參數來驗證身份以訪問資料。

    HuggingFace或ModelScope

    • repoSource:取值範圍為ModelScope/Model、ModelScope/DataSet、HuggingFace/Model、HuggingFace/DataSet,表示從ModelScope或HuggingFace社區拉模數型或者資料集。

    • repoId:模型ID或資料集ID。

    • revision:版本。預設為main或者master。

    • accessToken:拉取私人資料時,需配置該參數來驗證身份以訪問資料。

    NAS

    NAS檔案系統

    • server:NAS檔案系統的掛載點。

    • path:掛載子目錄。極速型NAS需要以/share為首碼,例如/share/path

    • vers:掛載NAS的NFS協議版本號碼。推薦使用v3,極速型NAS僅支援v3。

    • options:掛載選項。建議使用NAS服務推薦選項,例如nolock,tcp,noresvport

    OSS

    OSS儲存空間

    • bucket:OSS Bucket的名稱。

    • url:OSS的接入網域名稱(Endpoint)。

    • path:掛載子目錄。相對Bucket根目錄的目錄,預設為/

    • otherOpts:掛載OSS時支援輸入定製化參數,格式為-o *** -o ***,例如-o max_stat_cache_size=0 -o allow_other

    • ramRole:使用RAM角色授權時,對應的RAM角色。

    • akId:使用AccessKey直接授權時,對應的AccessKey ID。

    • akSecret:使用AccessKey直接授權時,對應的AccessKey Secret。

    SNAPSHOT

    快照

    snapshotId:快照ID。

  • 網路參數

    如果需要通過公網拉取資料,在指定的交換器沒有配置SNAT時,支援綁定EIP來拉取公網資料。

    API

    控制台

    說明

    EipInstanceId

    使用已有

    綁定已有的EIP。

    EipCreateParam包含的參數

    自動建立

    自動建立並綁定EIP。

  • 其他參數

    除上述參數外,建立資料緩衝時還需指定專用網路、交換器、安全性群組等參數,用於在建立資料緩衝的過程中建立臨時資源。

配置樣本

以OpenAPI為例,建立各類型資料緩衝的參數配置樣本如下:

URL

  • 從連結地址拉取資料

    {
      "RegionId": "cn-beijing",
      "SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
      "VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
      "Bucket": "test",
      "Path": "/demo/url",
      "Name": "test-url-1",
      "DataSource": {
        "Type": "URL",
        "Options": {
          "#10#url": "https://www.example.com"
        }
      },
      "RetentionDays": 1
    }
  • 從HuggingFace拉模數型

    {
      "RegionId": "cn-beijing",
      "SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
      "VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
      "Bucket": "test",
      "Path": "/demo/url",
      "Name": "test-url-2",
      "DataSource": {
        "Type": "URL",
        "Options": {
          "#10#repoSource": "HuggingFace/Model",
          "#6#repoId": "stabilityai/stable-diffusion-2-1"
        }
      },
      "RetentionDays": 1
    }

NAS

{
  "RegionId": "cn-beijing",
  "SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
  "VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
  "Bucket": "test",
  "Path": "/demo/nas",
  "Name": "test-nas",
  "DataSource": {
    "Type": "NAS",
    "Options": {
      "#6#server": "126c24****-tw***.cn-beijing.nas.aliyuncs.com",
      "#4#path": "/",
      "#4#vers": "3",
      "#7#options": "nolock,tcp,noresvport"
    }
  },
  "RetentionDays": 1
}

OSS

{
  "RegionId": "cn-beijing",
  "SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
  "VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
  "Bucket": "test",
  "Path": "/demo/oss",
  "Name": "test-oss",
  "DataSource": {
    "Type": "OSS",
    "Options": {
      "#6#bucket": "test-***",
      "#3#url": "oss-cn-beijing-internal.aliyuncs.com",
      "#4#path": "/test",
      "#9#otherOpts": "-o max_stat_cache_size=0 -o allow_other",
      "#7#ramRole": "<your RAM Role Name>"
    }
  },
  "RetentionDays": 1,
  "SourceIp": "2401:b180:1000:3:a4ba:83d6:a4ba:83d6"
}

SNAPSHOT

{
  "RegionId": "cn-beijing",
  "SecurityGroupId": "sg-2ze63v3jtm8e6syi****",
  "VSwitchId": "vsw-2ze94pjtfuj9vaymf****",
  "Bucket": "test",
  "Path": "/demo/snapshot",
  "Name": "test-snapshot",
  "DataSource": {
    "Type": "SNAPSHOT",
    "Options": {
      "#10#snapshotId": "s-2zehb6jegdehec19****"
    }
  },
  "RetentionDays": 1,
  "Size": 40
}

管理資料緩衝

查詢

建立資料緩衝後,您可以查詢資料緩衝資訊,包括狀態、所屬Bucket、在Bucket中的儲存路徑等。當資料緩衝狀態為Available時,表示可以使用該資料緩衝。

查詢方式如下:

  • OpenAPI:調用DescribeDataCaches介面可以查詢資料緩衝資訊。

  • 控制台:在數據緩衝頁面可以查看當前地區下所有資料緩衝列表。單擊某一資料緩衝ID後,可以查看該資料緩衝的詳細資料。

更新

對於狀態為Available或者UpdateFailed的資料緩衝,支援更新所屬Bucket、資料來源、保留時間長度、大小等。

更新方式如下:

  • OpenAPI:調用UpdateDataCache介面可以更新資料緩衝。

  • 控制台:暫不支援。

拷貝

資料緩衝不支援跨地區使用。使用資料緩衝時,如果待建立的ECI執行個體和資料緩衝不屬於同一地區,您可以將資料緩衝從原有地區拷貝到新的地區。

拷貝方式如下:

  • OpenAPI:調用CopyDataCache介面可以拷貝資料緩衝。

  • 控制台:在數據緩衝頁面,單擊目標資料緩衝對應的複製

刪除

重要

資料緩衝對應一份快照,保留資料緩衝需要支付相應的快照儲存費用。對於不再使用的資料緩衝,如果在建立時未設定保留時間長度,建議您及時手動刪除。

刪除方式如下:

  • OpenAPI:調用DeleteDataCache介面可以刪除資料緩衝。

  • 控制台:在數據緩衝頁面,單擊目標資料緩衝對應的刪除