在千问云控制台中创建模型微调任务的步骤指南。
本指南介绍如何使用 千问云控制台创建微调任务。
前往控制台的模型微调页面,点击创建微调任务。
选择本次训练任务的训练方式及模型:
点击选择训练数据集,从您的数据集库中选择一个已发布的训练集。
可选配置验证以监控训练质量:
配置输出模型和检查点保存策略:
审核基于所选模型和数据集大小的预估费用,然后点击创建微调任务提交。
任务提交后将经历以下状态:
前提条件
创建任务
前往控制台的模型微调页面,点击创建微调任务。
1. 训练方式
选择本次训练任务的训练方式及模型:
- 训练方式:选择 SFT(监督微调)、DPO(直接偏好优化)或 CPT(持续预训练)。
- 选择模型:从下拉菜单中选择基础模型。可选模型根据所选训练方式和训练模式不同而变化,切换到自定义模型标签页可使用之前微调过的模型进行迭代训练。
- 训练模式:选择 LoRA(高效训练)或全参训练。CPT 仅支持全参训练。
- 任务名称:输入名称或留空自动生成。
- 超参数:选择模型后显示超参数配置表(批次大小、学习率、验证步数等)。默认值已优化,点击恢复默认可重置。详见超参数参考。
2. 训练数据
点击选择训练数据集,从您的数据集库中选择一个已发布的训练集。
3. 验证
可选配置验证以监控训练质量:
- 自动拆分:自动从训练数据中拆分一部分用于验证。通过滑块调整拆分比例。
- 自定义数据集:选择单独的数据集用于验证。
4. 训练产出
配置输出模型和检查点保存策略:
- 模型名称:为微调后的模型输入名称。
- 导出数量上限:设置最多保存的检查点数量。
- 检查点保存间隔:按轮次或按步骤保存,并设置保存频率。
5. 预估费用
审核基于所选模型和数据集大小的预估费用,然后点击创建微调任务提交。
创建后
任务提交后将经历以下状态:
- 初始化中 -- 任务已提交,正在分配资源并排队调度。
- 运行中 -- 训练进行中。可在任务详情页监控指标。
- 已完成 -- 训练成功完成。自定义模型已就绪。
任务完成后,您可以发布检查点并部署模型。详见管理微调任务。