人工智能平台 PAI：指令蒸馏

模板概述

指令蒸馏模板适用于已有少量高质量指令、想批量扩充训练数据的场景。从少量种子指令出发，先扩写成同场景的更多指令，再逐条精炼表述使其更接近真实用户的提问方式，然后由教师模型生成回答，最后按信息量、有用性、泛化性与正确性四个维度打分并过滤，产出可直接用于微调的 SFT 数据集。

指令蒸馏模板的流水线包含以下步骤：

1. 指令扩写：以种子指令为范例，扩写出同场景、同风格的新指令，扩大数据规模。

   输入示例：
   {"instruction": "给我做一份两天的杭州旅游攻略。"}
   输出示例：
   {"instruction": "给我做一份三天的北京旅游攻略。"}
   {"instruction": "我想去上海玩，给我推荐一下旅游的行程。"}

2. 指令精炼：逐条改写指令表述，去掉歧义与冗余，使其更接近真实用户的提问方式。

   输入示例：
   {"instruction": "给我做一份两天的杭州旅游攻略。"}
   输出示例：
   {"instruction": "请为我制定一份为期两天的杭州旅游攻略，内容应包括行程安排、美食推荐、住宿建议、最佳旅游时间等。"}

3. 教师生成：调用教师模型为每条指令生成回答，作为学生模型要学习的目标输出。

4. 质量评分：按信息量、有用性、泛化性、正确性四个维度为每条问答打分，为过滤提供依据。

5. 质量过滤：按各维度的分数阈值筛除低质样本，保留得分最高的一部分。

6. 构建 SFT 数据集：过滤空样本与超长样本，输出规范的 SFT 训练数据集。

操作步骤

1. 登录PAI控制台，在左侧导航栏选择模型应用> 模型蒸馏（ModelDistill）。

2. 单击新建任务，跳转到蒸馏模板页签，或者直接进入蒸馏模板页签。

3. 选择指令蒸馏，单击使用模板，进入新建蒸馏任务页面。如下配置关键参数，其他保持默认。

4. 进行基础配置：

   • 任务名称：系统已自动填充。

   • 输出路径：指定一个有权限访问的OSS路径，如oss://mybucket.oss-cn-hangzhou-internal.aliyuncs.com/instruct-distill/。

     说明

     请确保为每个蒸馏任务创建独立的输出目录，避免文件被覆盖。OSS Bucket需与PAI服务在同一地域。

5. 单击下一步，进入蒸馏数据构建：

   • 教师模型：教师模型来源选择Token服务，并下拉选择一个模型如qwen3.8-max。

   • 数据集：选择一个有权限访问的OSS目录或文件。可直接下载示例使用。

   • 蒸馏配置：已提供了默认配置，需根据实际需要修改。

     • dataset.input_path：如果数据集已选择到了文件，此处配置的文件名不生效。

     • pipeline：指令扩写阶段（stage: instruction_expansion）中的num_output_sample会影响最终生成的蒸馏数据数量，请注意修改。

     • 更多指令蒸馏模板的专有配置参数（如各阶段的 temperature、max_workers、评分阈值等），请参见本节下方的配置说明。

   • 计算资源：资源类型选择通用计算，资源来源选择公共资源，在任务资源中选择合适的资源规格，如ecs.c6.large。

6. 单击下一步：学生模型训练继续配置（也可选择仅运行蒸馏数据构建）：

   • 学生模型：选择公共模型，并在下拉列表中选择一个较小的模型，如 Qwen3-4B。

   • 训练方式：选择LoRA。

   • 计算资源：资源类型选择通用计算，资源来源选择公共资源，在任务资源中选择合适的资源规格。

7. 单击创建，然后在弹出的计费提醒中单击确定，页面将自动跳转至任务详情的基础配置页面，可在此跟踪任务状态。

配置说明

以下说明指令蒸馏模板的关键配置参数。基础配置和资源配置与通用蒸馏一致，此处仅列出本模板特有的参数差异。

{"instruction": "请解释什么是机器学习"}
{"instruction": "如何预防感冒"}