当您的物理引擎中已有大量物理表，且希望通过DataWorks智能数据建模产品统一管理所有模型，则可使用逆向建模功能，将已有物理表反向建模至DataWorks的维度建模中。该功能帮助您无需再次执行建模操作即可快速创建模型，节省了大量的时间成本。本文为您介绍如何进行逆向建模。

前提条件

  • 物理引擎中已有大量物理表，同时，物理引擎已绑定至目标DataWorks工作空间。绑定引擎至DataWorks工作空间，详情请参见创建并管理工作空间。
  • 已创建数仓分层，用于确定模型所属的层级。详情请参见创建数仓分层。

  • 公共层用于加工、整合贴源层输入的公共数据，建立统一的指标维度，构建可复用面向分析和统计的明细事实数据和汇总数据；应用层基于实际应用需求，获取公共层加工整合后的数据，面向具体应用场景或指定产品进行的个性化数据统计。

    创建的模型可归属于公共层或应用层，不同层级归属需单独完成如下准备：
    • 公共层：
      • 已创建数据域，用于确定模型所统计的业务数据范围。详情请参见数据域。
      • 已创建业务过程，用于确定模型所统计分析的具体业务活动。详情请参见业务过程。
    • 应用层：
      • 已创建数据集市，用于确定模型所统计的特定应用场景或产品的数据类别。详情请参见数据集市。
      • 已创建主题域，用于确定模型所统计的特定业务数据主题。详情请参见主题域。

使用限制

当前仅支持对MaxCompute、EMR Hive引擎中生产环境的表进行逆向建模。

建模流程

逆向建模主要用于将大数据引擎中已经存在的物理表反向建模至DataWorks的维度建模中，其建模流程如下：逆向建模流程
  1. 配置逆向建模策略。
    • 建模范围：创建模型前，您需要根据业务需求确定需要将哪些表逆向生成模型。

      该过程需确定表所在的工作空间、引擎实例，以及使用精准名称还是关键字匹配表名，匹配到的表后续将会被逆向生成相应模型。

    • 建模规则：确定逆向创建的模型所属的分层及命名规范。

      该过程您可使用检查器或自定义方式规范模型名称。统一同一分层中模型的命名格式，便于通过名称即可了解该模型所属的业务类型、数据粒度等信息。模型名称检查器详情，请参见配置及使用数仓分层检查器。

    • 建模执行方式：确定建模时是全量新建目标模型，还是仅创建维度建模中不存在的目标模型。
    说明 逆向建模为不可逆操作，创建逆向策略并使用该策略生成模型后，该策略则不可被更改，请您根据实际业务需求提前做好策略规划。
    详情请参见配置逆向建模策略。
  2. 解析并匹配模型。

    DataWorks会根据您配置的建模策略进行解析，匹配出待创建的模型。

  3. 确认模型信息。

    DataWorks初步生成的表模型可能会存在偏差，您需要根据业务需求进行模型信息的调整。例如，更改表所在的数据域、业务过程等模型基础信息。详情请参见确认模型信息。

  4. 生成最终模型。
    建模完成后，您可查看生成的模型信息及状态。查看建模失败的模型错误信息，快速定位问题并及时处理。
    说明
    • 建模成功的模型已被物化至相应引擎，您无需再进行发布。
    • 建模成功的模型会被存放至维度建模中，您可以进入维度建模页面查看并进行后续的管理操作，详情请参见模型管理。

操作步骤

  1. 进入逆向建模。
    1. 登录DataWorks控制台。
    2. 在左侧导航栏，单击工作空间列表。
    3. 选择工作空间所在地域后，单击相应工作空间后的数据开发。
    4. 单击左上方的图标图标，选择全部产品 > 数据建模 > 维度建模，默认进入维度建模页面。
    5. 在维度建模页面的左侧导航栏，单击逆向建模，进入逆向建模页面。
  2. 启动建模。
    • 首次使用逆向建模，请单击逆向建模界面中间的快速开始，启动建模。
    • 非首次使用逆向建模，请单击建模列表右上角的开始逆向建模，启动建模。
  3. 配置逆向策略。
    说明 逆向建模为不可逆操作，创建逆向策略并使用该策略生成模型后，该策略则不可被更改，请您根据实际业务需求提前做好策略规划。
    1. 配置策略信息。
      逆向策略
      参数描述
      表所在项目选择待逆向建模的表所在的DataWorks工作空间。
      说明 仅支持选择当前登用户所在的DataWorks工作空间（即该用户为工作空间成员）。如果您需要选择目标DataWorks工作空间，则可添加用户为工作空间成员，详情请参见空间级模块权限管控。
      引擎类型当前仅支持逆向建模MaxCompute、EMR Hive引擎中生产项目的物理表。
      引擎实例选择待逆向建模的表所在的引擎实例。
      表名匹配规则选择使用英文名称的关键字或精准全称在目标引擎中匹配相应表，后续会对匹配结果进行逆向建模。匹配方式如下：
      • 模糊匹配：输入关键词，即可匹配到名称中包含该关键词的所有表。
      • 精准匹配：输入的表名称为表的精准全称。
      说明
      • 多个表名称之间使用英文分号（;）分隔，并且英文分号（;）后不能添加空格。
      • 若未匹配到任何满足条件的表，则此次逆向建模失败，即不会生成任何模型。
      逆向后模型所在数据分层
      • 公共层：创建明细表、维度表、汇总表时，可选择该层级。
      • 应用层：创建应用表、维度表时，可选择该层级。
      表命名规范
      用于解析通过表名匹配规则匹配到的表名称，来规范逆向建模后的模型名称，并将模型挂在至相应的数仓层级下。具体如下：
      • 解析规则
        • 解析匹配到的表名称及下划线个数。

          表名称最多可包含9个下划线，每两个下划线之间可选择配置为业务过程、数据域、自定义内容等信息。

        • 当识别到表名称包含对应数仓层级时，则该表逆向生成的模型将挂载至对应的层级下。
        说明 当识别到表名称中不存在对应的数据域、业务过程等数仓层级时，则该模型的分层为空。您可在确认模型信息时修改相应模型所属的分层。
      • 解析方式
        • 表名检查器：选择已创建的检查器解析匹配到的表名称。创建检查器，详情请参见配置及使用数仓分层检查器。
        • 自定义：通过自由组合业务过程、数据域、业务分类、自定义内容等信息，解析匹配到的表名称。
      执行方式选择创建模型的方式：
      • 全量覆盖：DataWorks会将所有匹配到的表逆向创建至维度建模中。

        当您需要全量重新为匹配结果创建模型时，可选择该方式。

        说明 如果维度建模中已存在匹配结果对应的模型，选择全量覆盖时会将原已存在的模型删除重建。
      • 增量更新：DataWorks会对匹配结果进行如下处理：
        1. 识别匹配结果在维度建模中是否已创建模型，并将已创建模型的表过滤。
        2. 将维度建模中未创建模型的匹配结果逆向建模至维度建模中。
        当您知晓部分匹配结果在维度建模中已创建模型，并且该匹配结果未改动，不希望重复创建时，可选择该方式。
    2. 单击开始创建模型，通过建模策略进行模型解析。
  4. 确认模型信息。
    1. 确认模型信息。
      DataWorks根据您配置的建模策略生成初步模型，您可结合实际需求，调整表类型，以及所属的数仓分层、数据域等信息。同时，当目标表无需建模时，也可将其删除。确认模型信息
    2. 单击开始生成模型，生成模型。
  5. 查看建模结果。
    模型生成后，您可查看本次成功创建的各类型模型数量，以及建模失败的表详细信息，单击错误日志，即可快速定位问题原因并及时处理。
    说明
    • 建模成功的模型已被物化至相应引擎，您无需再进行发布。
    • 建模成功的模型会被存放至维度建模中，您可以进入维度建模页面查看并进行后续的管理操作，详情请参见模型管理。
    生成模型

查看建模列表

在逆向建模 > 建模列表页面，您可查看已创建任务的详细信息及操作日志。查看建模列表
区域描述
1在该区域，您可通过任务ID、操作人、操作日期进行筛选，查看指定条件的逆向建模任务。
2在该区域，您可查看逆向建模任务的逆向规则、建模结果等详情。
  • 对于已执行的建模任务，单击日志查看即可查看任务的日志信息。
  • 对于未执行的建模任务，单击任务查看即可返回任务详情页继续执行任务。

后续步骤

逆向建模完成后，您可执行如下操作：
  • 进入维度建模页面的模型管理目录树，查看创建的模型。详情请参见发布模型至引擎。
  • 进入数据开发页面，进行相关的数据开发操作。数据开发的功能介绍，详情请参见数据开发功能索引。