本文介绍将OSS、OSS-HDFS 或三方源中的数据迁移到阿里云对象存储OSS的注意事项、迁移限制说明和操作步骤。
注意事项
使用在线迁移服务迁移数据时需要注意以下事项:
-
在线迁移服务使用源站存储服务提供商公开的标准接口来访问源数据,其行为依赖于源站存储服务提供商的具体实现。
-
在线迁移会占用源地址和目的地址的资源,可能会影响业务正常运行。若您的业务比较重要,请提前做好评估后对迁移任务设置限速,或在空闲时间启动迁移任务。
-
在线迁移前会检查源地址和目的地址的文件,但是若您源和目的地址有相同文件名的文件,且在迁移任务中配置了覆盖方式为覆盖,迁移时会直接覆盖目的地址的文件。若两个文件内容不同,必须更改文件名或做好备份。
-
在线迁移会保留源文件的最后修改时间属性,如果目的Bucket设置了生命周期规则,且迁移后文件处于该生命周期规则生效的时间范围内,则该文件可能会在规则生效时被删除或转为指定的归档类型。
迁移限制说明
OSS/OSS inventory
若您迁移的源地址中设置了静态网站托管,数据迁移时会额外扫描出实际不存在的目录。例如上传文件myapp/resource/1.jpg,开启静态网站托管后,迁移服务扫描会得到3个对象,分别为myapp/、myapp/resource/和myapp/resource/1.jpg,其中myapp/和myapp/resource/会迁移失败,但不影响myapp/resource/1.jpg的正常迁移。
若您迁移的源地址中有软链接,数据迁移时,会直接迁移软链接。关于软链接的详细信息,请参见软链接。
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
不支持金融云、政务云的数据迁移。
阿里云OSS之间、OSS清单迁移数据的属性说明如下:
支持迁移的属性:x-oss-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language,Expires。
不支持迁移的属性(包括但不限于):StorageClass、Acl、服务端加密、标签Tagging、用户自定义header x-oss-persistent-header等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
S3/S3 Inventory
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
AWS S3、AWS S3清单迁移数据的属性说明如下:
支持迁移的属性:x-amz-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass、Acl、服务端加密、标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
关于如火山引擎(TOS)、网易云等不兼容 S3 接口的数据源,可能会导致迁移失败并产生不可预测的问题,建议可通过HTTP方式进行迁移。
兼容S3协议源
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
兼容 S3迁移数据的属性说明如下:
支持迁移的属性:LastModifyTime,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass、ACL、服务端加密、标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
Inventory
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
通用清单迁移数据的属性说明如下:
支持迁移的属性取决于具体的数据类型,如OSS、S3等,请参见对应的数据源迁移教程。
不支持迁移的属性:暂不明确,以实际迁移完成的内容为准。
HTTP/HTTPS
HTTP/HTTPS迁移数据的属性说明如下:
支持迁移的属性:LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性:暂不明确,以实际迁移完成的内容为准。
腾讯COS
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
腾讯云COS迁移数据的属性说明如下:
支持迁移的属性:x-cos-meta-*、LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition、Content-Language 、Expires。
不支持迁移的属性(包括但不限于):StorageClass、Acl、服务端加密、标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
警告当源数据地址使用腾讯标准域名时,调用
GetObject会强制将Content-Disposition设置为attachment,该属性将会被迁移至目的端,导致与源端实际不一致。浏览器访问此类文件(如 HTML、PNG 等)时,会触发强制下载。为避免此问题,需通过腾讯 COS 官网绑定自定义域名,并在迁移时使用该域名,以保留原始Content-Disposition设置。
不支持迁移开启了元数据加速功能的存储桶(Bucket)。
七牛云
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
七牛云迁移数据的属性说明如下:
支持迁移的属性:x-qn-meta-*、LastModifyTime、Content-Type,Cache-Control,Content-Encoding,Content-Disposition、Content-Language 、Expires。
不支持迁移的属性(包括但不限于):StorageClass、Acl、服务端加密、标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
华为OBS/OBSFS
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
华为云OBS迁移数据的属性说明如下:
支持迁移的属性:x-obs-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass,Content-Disposition,ACL,服务端加密、标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
- 警告
当源数据地址使用华为OBS 标准域名时,调用
GetObject会强制将Content-Disposition设置为attachment,该属性将会被迁移至目的端,导致与源端实际不一致。浏览器访问此类文件(如 HTML、PNG 等)时,会触发强制下载。
火山TOS
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
火山引擎 TOS迁移数据的属性说明如下:
支持迁移的属性:x-tos-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
若火山引擎TOS与AWS S3接口不兼容,可能会导致迁移失败并引发不可预测的问题,建议采用HTTP方式进行迁移。
不支持迁移开启了分层命名空间 HNS的存储桶(Bucket)。
UCloud
在线迁移目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
UCloud US3迁移数据的属性说明如下:
支持迁移的属性:x-ufile-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
百度BOS
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
百度云BOS迁移数据的属性说明如下:
支持迁移的属性:x-bce-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language 。
不支持迁移的属性(包括但不限于):Expires,StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
警告当源数据地址使用百度 BOS 标准域名时,调用
GetObject会强制将Content-Disposition设置为attachment,该属性将会被迁移至目的端,导致与源端实际不一致。浏览器访问此类文件(如 HTML 等)时,会触发强制下载。
金山KS3
在线迁移目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
重要金山云KS3是通过AWS S3协议迁移数据。
金山云KS3迁移数据的属性说明如下:
支持迁移的属性:x-amz-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
谷歌 Cloud Storage
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
谷歌云GCP迁移数据的属性说明如下:
支持迁移的属性:x-amz-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language 。
不支持迁移的属性(包括但不限于):Expires,StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
又拍云
-
目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
又拍云是采用S3 协议标准进行迁移,具体参见 AWS S3兼容
又拍云数据迁移的属性说明如下:
支持迁移的属性:x-amz-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
微软Azure Blob
在线迁移目前仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
Azure Blob 迁移数据的属性说明如下:
支持迁移的属性:x-ms-meta-*,LastModifyTime ,Content-Type,Cache-Control,Content-Encoding,Content-Disposition,Content-Language ,Expires。
不支持迁移的属性(包括但不限于):StorageClass,ACL,服务端加密,标签Tagging等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
LocalFS
若您源数据地址中有空目录、软链接文件或目录、字符设备文件或块设备文件、Socket文件和管道文件,此类数据均不会被迁移。
若您源数据地址存在硬链接关系,迁移后会变成普通文件。
不支持文件父目录属性的迁移。
SUID、SGID、SBID等文件权限不支持迁移。
迁移LocalFS数据至阿里云OSS的属性限制如下:
支持迁移的属性:ModifyTime -> X-Oss-Meta-Mtime(OSS)、Permissions -> X-Oss-Meta-Perms(OSS)、Uid:Gid -> X-Oss-Meta-Owner(OSS)
说明Permissions:包含读、写、执行等9个权限。
Uid:Gid:用户ID:用户所属分组ID,中间以半角冒号(:)做分隔符。
不支持迁移的属性(包括但不限于):AccessTime、ChangeTime、Attr、Acl等。
说明不支持迁移的属性包括但不限于以上列举的内容,其他未列举的属性行为暂无法确定,以实际迁移完成的内容为准。
OSSHDFS
仅支持单次迁移单个Bucket数据,无法将整个账号的数据一次性迁移。
仅支持将OSS-HDFS中的部分属性迁移到目的地址OSS的自定义meta中,支持的属性如下:
Mtime(最后修改时间)。
Owner(所有者)、Group(所有者所在的组)。
Permission(读写执行权限)。
未在本文中列出的属性及行为特征,最终以实际迁移结果为准。
FTP
在线迁移目前仅支持单次迁移单个FTP目录下的数据,无法将整个账号的数据一次性迁移。
若您源数据地址中有空目录、隐藏文件、软链接文件或目录、字符设备文件或块设备文件、Socket文件和管道文件,此类数据均不会被迁移。
如果迁移的源地址中有特殊字符的文件,迁移时可能会失败。
若单个文件超过5GB,且当目的数据地址类型为阿里云OSS时,该文件将会迁移失败。
步骤一:选择地域
使用创建的RAM用户登录 阿里云在线迁移服务管理控制台。
地域选择说明:控制台左上角的地域代表迁移服务的部署地域。为了获得最佳迁移性能,建议选择数据源所在的地域或距离数据源最近的地域。
如果您的数据源位于非中国大陆区域,务必选择使用地理位置相近的非中国大陆区域迁移服务。
步骤二:创建源地址
OSS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Alibaba OSS。
自定义域名
否
支持用户的自定义域名。
地域
是
选择源地址所在的地域,例如华东1(杭州)。
授权角色
是
源Bucket归属于在线迁移控制台账号
源Bucket不归属于在线迁移控制台账号
存储桶(Bucket)
是
输入当前控制台所在账号下待迁移数据所在的存储桶(Bucket)名称。
前缀
否
您可以指定数据路径前缀迁移部分数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾,例如
data/to/oss/。指定前缀:例如设置源数据地址前缀为
example/src/,此路径下有文件example.jpg,设置目的数据地址前缀为example/dest/,则迁移后文件example.jpg的完整路径为example/dest/example.jpg。不指定前缀:例如不设置源数据地址前缀,需要迁移的文件路径为
srcbucket/example.jpg,设置目的数据地址前缀为destbucket/,则迁移后文件的完整路径为destbucket/srcbucket/example.jpg。
通道
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择 200 个代理。
OSS Inventory
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,并单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Alibaba OSS Inventory。
区域
是
选择源地址所在的地域,例如华东1(杭州)。
授权角色
是
源Bucket归属于在线迁移控制台账号
源Bucket不归属于在线迁移控制台账号
存储桶(Bucket)
是
输入当前控制台所在账号下待迁移数据所在的存储桶(Bucket)名称。
区域
是
当列表位置选择Alibaba OSS时,输入OSS清单所在的地域。
列表授权角色
是
清单Bucket归属于在线迁移控制台账号
清单Bucket不归属于在线迁移控制台账号
存储桶(Bucket)
是
输入当前控制台所在账号下待迁移列表所在的存储桶(Bucket)名称。
列表路径
是
输入manifest.json文件所在的路径,如 dir/manifest.json。
通道
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择 200 个代理。
S3
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择AWS S3。
域名
是
输入AWS S3的访问域名。更多信息,请参见Amazon S3终端节点。
AccessKeyId
是
输入创建的IAM用户的访问密钥,用于AWS S3进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
输入待迁移数据所在的AWS S3存储桶名称。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择 200 个代理。
S3 Inventory
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址面板,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择AWS S3 Inventory。
域名
是
输入AWS S3的访问域名。更多信息,请参见Amazon S3终端节点。
AccessKeyId
是
输入创建的IAM用户的访问密钥,用于AWS S3进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
输入待迁移数据所在的AWS S3存储桶名称。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
列表位置
是
选择清单所在的存储空间,选择AWS S3。
列表域名
是
当列表位置选择AWS S3时,输入AWS S3清单的访问域名。更多信息,请参见Amazon S3终端节点。
列表存储桶(Bucket)
是
输入待迁移数据清单列表所在的存储桶(Bucket)名称。
列表路径
是
当列表位置选择AWS S3时,输入AWS S3清单manifest.json文件所在的路径,如 dir/manifest.json。
列表AccessKeyId
是
当列表位置选择AWS S3时,输入用于访问AWS S3清单的密钥,迁移完成后删除。
列表SecretAccessKey
是
通道
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
兼容S3协议源
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Compatible S3。
域名
是
输入兼容 S3协议数据源的访问域名。
区域
是
如果您使用的是非标准的 s3 域名,此项请填写源端实际域名对应区域。
AccessKeyId
是
输入访问密钥,用于数据源进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
输入待迁移数据存储桶名称。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择 200 个代理。
Inventory
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择 Inventory。
数据存储类型
是
根据需要选择具体迁移的源。
域名
取决于数据存储类型
源存储服务的访问端点地址(例如:AWS S3的Endpoint域名)。
区域
是(数据存储类型选择Alibaba OSS )
选择源地址所在的地域,例如华东1(杭州)。
授权角色
是(数据存储类型选择Alibaba OSS )
源Bucket归属于在线迁移控制台账号
源Bucket不归属于在线迁移控制台账号
存储空间密钥
是
输入迁移数据源账号下的访问密钥(包括AccessKeyId和SecretAccessKey),用于身份识别,确认该用户是否有读取源数据的权限。
存储空间
是
输入待迁移数据所在的存储桶(Bucket)。
前缀
否
您可以指定数据路径前缀将源数据迁移至指定目录下。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾,例如
data/to/oss/。指定前缀:例如源数据地址前缀为
example/src/,此路径下有文件example.jpg,设置目的数据地址前缀为example/dest/,则迁移后文件example.jpg的完整路径为example/dest/example.jpg。不指定前缀:不设置数据路径前缀时,会将源数据迁移至目的Bucket的根目录。
列表位置
是
清单文件所在的存储空间,可选择Alibaba OSS或三方源。
列表路径
是
输入manifest.json文件所在的路径,如 dir/manifest.json。
列表域名
是(列表位置选择非Alibaba OSS )
当列表位置选择三方源时,输入清单的具体访问域名。
列表区域
取决于数据存储类
当列表位置选择Alibaba OSS时,输入OSS清单所在的地域。
授权角色
是(列表位置选择Alibaba OSS )
清单Bucket归属于在线迁移控制台账号
清单Bucket不归属于在线迁移控制台账号
列表存储空间
是
输入当前控制台所在账号下待迁移列表所在的存储桶(Bucket)。
列表存储空间密钥
是(列表位置选择非Alibaba OSS )
当列表位置选择非Alibaba OSS 时,输入用于访问源清单的访问密钥(包括AccessKeyId和SecretAccessKey),用于身份识别,确认该用户是否有读取清单文件的权限。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
HTTP/HTTPS源
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择HTTP/HTTPS。
协议
是
选择HTTP或HTTPS。
端口
是
输入指定端口号,HTTP默认为80端口,HTTPS默认为443端口,端口范围为0~65535。
列表位置
是
清单文件所在的存储空间,可选择Alibaba OSS或AWS S3。
列表路径
是
输入manifest.json文件所在的路径,如 dir/manifest.json。
列表域名或区域
是
当列表位置选择Alibaba OSS时,输入OSS清单所在的地域。
当列表位置选择AWS S3时,输入AWS S3清单的访问域名。更多信息,请参见Amazon S3终端节点。
授权角色
是(列表位置选择Alibaba OSS )
清单Bucket归属于在线迁移控制台账号
清单Bucket不归属于在线迁移控制台账号
存储桶(Bucket)
是
输入当前控制台所在账号下待迁移列表所在的存储桶(Bucket)名称。
列表AccessKeyId
是(列表位置选择AW3 S3 )
当列表位置选择AWS S3时,输入用于访问AWS S3清单的密钥,迁移完成后删除。
列表SecretAccessKey
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
腾讯COS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址页面,配置如下参数,并单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Tencent COS。
域名
是
填写存储桶(Bucket)的Endpoint,如cos.ap-nanjing.myqcloud.com等。 关于腾讯云COS域名的更多信息,请参见地域和访问域名。
AccessKeyId
是
输入创建的云API密钥,用于腾讯云COS进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
填写腾讯云COS的空间名称(Bucket名称)。COS空间名称由
自定义名称-APPID构成,例如example-1234567890。说明您可以在腾讯云控制台账号信息页面查看APPID。
前缀
是
您可以指定数据路径前缀迁移部分数据。
-
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
-
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
七牛云
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Qiniu kodo。
域名
是
填写存储空间所在区域对应的域名。
您可以在七牛云管理控制台查看域名。更多信息,请参见域名管理。
重要七牛云的测试域名有单IP访问次数和带宽的限制。建议您使用自定义源站域名创建迁移任务。
关于域名的更多信息,请参见测试域名使用规范(链接文档仅供参考,由于源站变更,文档可能已经过时)。
AccessKeyId
是
输入七牛云访问密钥,用于七牛云进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
七牛对象存储的存储空间,只需填写自定义名称。例如空间名称为
example-1234567890,则填写example。前缀
是
您可以指定数据路径前缀迁移部分数据。
-
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
-
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
华为OBS/OBSFS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
如果是普通的对象存储,请选择Huawei OBS。
如果是并行文件系统,请选择Huawei OBSFS。
域名
是
输入华为云OBS的访问域名。Endpoint格式为
obs.桶所在的区域.myhuaweicloud.com,例如当桶所在区域为华北-北京一时,Endpoint为obs.cn-north-1.myhuaweicloud.com。华为云OBS支持的区域请参见华为云OBS。AccessKeyId
是
输入创建的IAM用户的访问密钥,用于Huawei OBS进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
输入待迁移数据所在的华为云OBS对象存储/并行文件系统存储桶名称。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
火山 TOS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Volcengine TOS。
域名
是
输入火山引擎TOS的访问域名。更多信息,请参见火山引擎 TOS支持的地域和域名。
说明地域及域名选择火山引擎 TOS表格中对应的S3 Endpoint。
AccessKeyId
是
输入创建的IAM用户的访问密钥,用于火山引擎 TOS进行身份识别,确认该用户是否有读取源数据的权限。
SecretAccessKey
是
存储桶(Bucket)
是
输入待迁移数据所在的火山引擎TOS存储桶名称。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
UCloud
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择UCloud US3。
域名
是
存储空间(Bucket)的访问域名Endpoint,不支持自定义域名和CDN,请参考访问域名列表。
您可以在 UCloud控制台,单击某个待迁移存储空间的名称,选择 ,查看Bucket所属地域。
重要以上步骤仅供参考,由于源站变更,操作步骤可能已经过时。
公钥
是
输入用于迁移的API密钥公钥。迁移完成后删除。
私钥
是
输入用于迁移的API密钥私钥。迁移完成后删除。
存储桶(Bucket)
是
选择待迁移数据所在的存储空间。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
百度BOS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Baidu BOS。
域名
是
填写源地址所在的地域。 更多信息,请参见Region与Endpoint。
AccessKeyId
是
输入用于迁移的访问密钥。迁移完成后删除。
SecretAccessKey
是
存储桶(Bucket)
是
百度云对象存储BOS空间名称(Bucket名称)。
存储空间名称要求前后不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
金山KS3
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Kingsoft KS3。
域名
是
填写存储空间所在区域对应的域名,不支持自定义域名和CDN。更多信息,请参见Regions and Endpoints。
AccessKeyID
是
输入用于迁移的访问密钥。推荐您为迁移服务新建密钥,迁移完成后删除。参见文档。
SecretAccessKey
是
存储桶(Bucket)
是
金山云对象存储的空间,这里您只需填写自定义名称。例如空间名称为
exampletest-1234567890,则填写exampletest。前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
谷歌Cloud Storage
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Google Cloud Storage。
请求端点(Cloud Storage URI)
是
存储桶(Bucket)的请求端点(Cloud Storage URI),不支持自定义域名和CDN,进入Cloud Storage控制台的设置界面->互操作性页面中查询请求端点。
账号访问密钥
是
为了读取待迁移数据,需要您提供源数据的用户账号访问密钥。进入Cloud Storage控制台的设置界面->互操作性页面查询访问密钥。
说明安全提示:为了保障数据安全,强烈建议您为迁移服务单独创建 [只读] 权限的密钥进行迁移使用,迁移任务完成后,可将密钥删除。
账号密文
是
为了读取待迁移数据,需要您提供源数据的访问密钥。 进入Cloud Storage控制台的设置界面->互操作性页面查询用户账号的密文。
说明安全提示:为了保障数据安全,强烈建议您为迁移服务单独创建 [只读] 权限的密钥进行迁移使用,迁移任务完成后,可将密钥删除。
存储桶(Bucket)
是
输入待迁移数据所在的Google Cloud StorageOBS存储桶名称。
说明存储桶名称要求开头和结尾不带空格、换行、制表符等非法字符。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
又拍云
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Youpai USS。
域名
是
Bucket的访问域名,请参考服务域名。
AccessKey
是
AWS S3访问凭证, 以 S3 协议标准进行鉴权认证,确认该访问凭证是否具有存储空间的数据读取操作。计算签名所需的
AccessKey和SecretAccessKey,请前往控制台「操作员-编辑」或「云存储-配置-存储管理-操作员授权-S3访问凭证」中获取。参见 AWS S3兼容。SecretAccessKey
是
前缀
是
您可以指定数据路径前缀迁移部分数据。
-
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
-
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
微软Azure Blob
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
-
名称不能为空,长度为3~63个字符。
-
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
-
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择Azure Blob。
域名(Endpoint)
是
域名就是指Azure Blob的资源URI,格式:https://<存储账号>.blob.core.windows.net,具体参见资源 URI 语法。
容器
是
Azure空间名称,由blob构成。此处区分大小写,严格按照创建时输入。
SAS令牌
是
共享访问签名 (SAS) 是一种 URI,可授予对 Azure 存储资源的受限访问权限。 可以向不应使用存储账户密钥信任但需要访问某些存储账户资源的客户端提供共享访问签名。 通过向这些客户端分发 SAS URI,可以授予它们一组特定的权限,让其在一段指定时间内访问资源。具体参见账户的SAS。
前缀
否
您可以指定数据路径前缀迁移部分数据。
指定前缀:迁移指定目录(前缀)下的数据。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾。
不指定前缀:迁移整个Bucket中的数据。
通道
否
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
-
LocalFS
如果LocalFS源数据为本机的本地文件,则只允许部署一个代理。
如果LocalFS源数据为NAS挂载的本地文件,并同时挂载到多台机器上,则请确保NAS已挂载到名称相同的目录,在创建数据地址时,待迁移目录请填写NAS挂载的目录。
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择LocalFS。
待迁移目录
是
您可以指定待迁移目录的路径。请使用绝对路径,必须以正斜线(/)开头和结尾,不支持环境变量和特殊字符。
例如,设置源数据地址前缀为
/example/src/,此路径下有文件example.jpg,设置目的数据地址前缀为example/dest/,则迁移后文件example.jpg的完整路径为example/dest/example.jpg。重要如果数据地址关联了多台代理,需确保每个代理都能访问到该目录,否则会导致数据漏迁移。
如果LocalFS源为NAS挂载的本地文件, 并同时挂载到多台机器上,请确保NAS挂载到名称相同的本地目录上,在创建数据地址时,待迁移目录填写NAS挂载的本地目录名称。
通道
是
选择需要使用的通道名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
是
选择需要使用的代理名称。
重要-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
OSSHDFS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择 OSSHDFS。
域名
是
输入OSS-HDFS的访问域名。
格式为:<region-id>.oss-dls.aliyuncs.com,例如杭州区域的域名可填写为:cn-hangzhou.oss-dls.aliyuncs.com。
AccessKeyId
是
输入创建的IAM用户的访问密钥,用于对OSS-HDFS进行身份识别,确认该用户是否有目的数据的写入权限。
SecretAccessKey
是
存储桶(Bucket)
是
输入当前控制台所在账号下待迁移数据所在的存储桶(Bucket)名称。
待迁移目录
是
要迁移部分数据,请指定数据路径,要以 / 开头和结尾,如 /data/to/osshdfs/。如若迁移整个bucket下文件,这里设置/即可。
通道
否
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、FTP、HDFS以及自建存储数据迁移上云需要使用该参数。
目的数据地址是LOCALFS的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
否
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、FTP、HDFS以及自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择30个代理。
FTP
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址面板,配置如下参数,单击确认。
参数
是否必选
说明
名称
是
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择FTP。
连接地址
是
FTP服务器的IP地址和端口号。该FTP服务器的地址是将IP地址和端口号进行拼接,即该字段的值为{主机名或IP}:{端口},例如:192.168.16.13:21。
待迁移目录
是
您可以指定待迁移目录的路径。请使用绝对路径,必须以正斜线(/)开头和结尾,不支持环境变量和特殊字符。
例如,设置源数据地址前缀为
/example/src/,此路径下有文件example.jpg,设置目的数据地址前缀为example/dest/,则迁移后文件example.jpg的完整路径为example/dest/example.jpg。
用户名
是
输入FTP用户名和密码。
密码
是
通道
是
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、FTP以及自建存储数据迁移上云需要使用该参数。
目的数据地址是LOCALFS的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
是
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、FTP以及自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择30个代理。
HDFS
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在创建数据地址页面,配置如下参数,然后单击确认。
参数
是否必选
说明
名称
是
-
名称不能为空,长度为3~63个字符。
-
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
-
UTF-8编码不能以短划线(-)和下划线(_)开头。
类型
是
选择 HDFS。
身份验证类型
是
选择 SIMPLE。
访问地址
是
输入客户端与HDFS NameNode 通信地址。
该地址将IP地址和端口号进行拼接,即该字段的值为{主机名或IP}:{端口},例如:192.168.16.13:9000。
默认端口为
8020(或9000)。
用户名
是
输入访问HDFS的用户名称。
待迁移目录
是
您可以指定待迁移目录的路径。请使用绝对路径,必须以正斜线(/)开头和结尾,不支持环境变量和特殊字符。,如需迁移整个HDFS根目录下的数据,请填写
/。通道
是
选择需要使用的通道名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
代理
是
选择需要使用的代理名称。
重要仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
指定通道下,最多可同时选择 200 个代理。
-
步骤三:创建目的地址
-
在左侧导航栏,选择在线迁移服务 > 地址管理,单击新建地址。
在新建地址面板,配置如下参数,然后单击确定。
-
名称不能为空,长度为3~63个字符。
-
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
-
UTF-8编码不能以短划线(-)和下划线(_)开头。
目的Bucket归属于在线迁移控制台账号
目的Bucket不属于在线迁移控制台账号
指定前缀:例如源数据地址前缀为
example/src/,此路径下有文件example.jpg,设置目的数据地址前缀为example/dest/,则迁移后文件example.jpg的完整路径为example/dest/example.jpg。不指定前缀:不设置数据路径前缀时,会将源数据迁移至目的Bucket的根目录。
-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
目的数据地址是LocalFs的以及需要走专线(金融云、专有云等)的场景需要关联代理。
-
仅通过专线或VPN迁移数据上云、自建存储数据迁移上云需要使用该参数。
-
指定通道下,最多可同时选择 200 个代理。
参数 | 是否必选 | 说明 |
名称 | 是 | 输入目的数据地址名称。名称命名规则如下: |
类型 | 是 | 选择Alibaba OSS。 |
自定义域名 | 否 | 支持用户的自定义域名 |
地域 | 是 | 选择目的地址所在的地域,例如华东1(杭州)。 |
授权角色 | 是 | |
存储桶(Bucket) | 是 | 输入当前控制台所在账号下迁移后数据所在的存储桶(Bucket)名称。 |
前缀 | 否 | 您可以指定数据路径前缀将源数据迁移至指定目录下。格式要求不能以正斜线(/)开头,必须以正斜线(/)结尾,例如 |
通道 | 否 | 选择需要使用的通道名称。 重要
|
代理 | 否 | 选择需要使用的代理名称。 重要
|
步骤四:创建迁移任务
在左侧导航栏,选择在线迁移服务 > 迁移任务,单击新建任务。
在选择地址页面,配置如下参数,然后单击下一步。
参数
是否必选
说明
名称
是
输入迁移任务名称。名称命名规则如下:
名称不能为空,长度为3~63个字符。
支持英文小写字母、数字和特殊字符短划线(-)和下划线(_),且区分大小写。
UTF-8编码不能以短划线(-)和下划线(_)开头。
源地址
是
选择已创建的源地址。
目的地址
是
选择已创建的目的地址。
在配置任务页面,配置如下参数。
参数 | 是否必选 | 说明 |
基础配置 | ||
迁移带宽 | 否 | 选择迁移带宽。
重要
|
每秒迁移文件数 | 否 | 选择每秒迁移文件数。
重要
|
覆盖方式 | 是 | 选择同名文件的覆盖方式。
警告 |
审计方式 | ||
迁移报告 | 是 | 迁移报告推送方式。
重要
|
迁移日志 | 是 | 迁移日志推送方式。
当选择推送或仅推送文件错误日志时,在线迁移服务会在日志服务SLS中创建名称为aliyun-oss-import-log-阿里云账号ID-当前迁移服务部署地域的Project,例如aliyun-oss-import-log-137918634953****-cn-hangzhou。 重要 请务必完成以下操作后,再选择推送或仅推送文件错误日志,否则可能会导致迁移任务异常。
|
日志服务授权 | 否 | 当迁移日志选择推送或仅推送文件错误日志时出现该选项。 单击授权进入云资源访问授权页面,页面会对应创建AliyunOSSImportSlsAuditRole角色,并对角色做授权,请单击同意授权完成授权。 |
过滤器 | ||
文件名 | 否 | 文件名过滤器。 支持包含和排除两种过滤规则,请参见RE2库的正则表达式语法(仅支持部分表达式语法)。例如:
重要
|
文件修改时间 | 否 | 文件最后一次修改时间过滤器。 可指定文件最后一次修改时间作为过滤规则。如果指定了时间范围,则只迁移文件最后一次修改时间在指定时间范围内的文件,具体规则如下。
|
是否迁移 | 否 | 重要 此项配置仅在源端为 LocalFS 支持该选项。 是否迁移特殊类型的实体。勾选表示启用迁移,不勾选表示禁用。 目录:
软链接:
重要 任何情况下,都不会额外迁移源地址中软链接文件所指向的目标文件或目录(除非该目标文件或目录也在本次迁移范围内)。 |
迁移配置 | ||
是否转换Target | 否 | 重要 此项配置仅在源端为 LocalFS 支持该选项。 对源地址中软链接文件的Target属性进行转换,以尽可能使迁移后的Symlink对象仍可正常指向其目标对象。勾选表示启用转换,不勾选表示禁用转换。 重要
启用时,先(以此软链接所在目录为基准)将Target属性解析成最短绝对路径(字符长度最短的等效路径,AbsTarget),然后执行字符串替换操作,将AbsTarget中的SrcPrefix(若匹配)替换成DestPrefix,并将替换后的结果值设置到目的Symlink对象的Target属性上。 说明 示例:假设迁移任务配置的SrcPrefix="/mnt/nas1/",DestPrefix="cloud_base/",/mnt/nas1/links/a.lnk是源地址下的一个软链接类型文件,假设其Target属性:
禁用时,不转换,将源软链接的Target属性原始值设置到目的Symlink对象的Target属性上。 |
文件最后修改时间(是否保留) | 是 | 是否保留源文件的最后修改时间。
|
Appendable类型转为Normal/Multipart类型 | 否 | 是否支持将Appendable类型转为Normal/Multipart类型。
重要
|
指定目的文件的存储类型 | 否 | 是否指定目的文件的存储类型。
重要
|
任务调度 | ||
执行时间 | 否 | 重要
确定迁移任务的执行时间。
重要 可随时手动启动和暂停任务,不受自定义执行时间的影响。 |
阅读在线迁移服务协议,选中我已理解并确认,合规承诺声明且当迁移任务完成时,我有确认迁移数据一致性的义务和责任,然后单击下一步。
检查配置信息,确认无误后,单击确定,等待迁移任务执行。
执行频率参考
执行频率 | 说明 | 示例 |
每小时 | 选择以每小时为频率,可搭配最大执行轮次一起使用。 | 当前时间为8:05,指定每小时为频率,执行3次任务,则会在下一个整点9点钟开始第一次任务。
|
每天 | 选择以每天为频率时,需设置0~23小时中任意整点时间启动任务,可搭配最大执行轮次一起使用。 | 当前时间为8:05,指定每天10点,执行5次,会在当天10点开始第一次任务。
|
每周 | 选择每周时,需指定周内任意一天,并设置0~23小时中任意整点时间启动任务,可搭配最大执行轮次一起使用。 | 当前时间为周一8:05分,指定每周一的10点,执行10次,则会在当天10点时开始第一次任务
|
一周中某些天 | 选择一周中某些天时,支持选择周内任意几天,并设置0~23小时中任意整点时间启动任务 | 当前为周三8:05,指定每周一、三、五的10点,则会在当天的10点时开始第一次任务。
|
自定义 | 使用Cron表达式自定义设置任务启动时间 | 说明 Cron表达式由6个字段组成,每个字段之间使用空格分隔,依次表示任务的执行时间规则:秒、分钟、小时、日、月、星期,最小间隔1小时。 以下Cron表达式示例仅供参考,更多请参照Cron表达式生成器:
|
步骤五:校验数据
迁移服务仅负责数据的迁移,无法保证数据的一致性和完整性。迁移任务完成后,请您全量校验迁移的数据,务必自行做好源端和目的端数据一致性校验。
请您务必在迁移任务完成后,校验目的端迁移数据。您在删除源数据前,未校验目的端迁移数据无误,导致数据丢失所引起的一切损失和后果均由您自行承担。