第 231 题:指令微调的数据构造,推荐任务的指令多样性?
题目
指令微调的数据构造,推荐任务的指令多样性?
完整讲解
一、指令微调在推荐中的作用
- 让基座模型学会按「指令」完成推荐相关任务:生成列表、排序、解释理由、多轮澄清等。指令多样性决定模型能否泛化到不同表述与场景。
二、数据构造方式
- 任务类型:单轮列表推荐、多轮对话推荐、比较与解释、澄清问题生成、拒绝与边界(无法推荐时怎么说)等,每类需足量高质量样本。
- 指令表述:同一任务用多种说法(正式/口语、长短、中英),避免过拟合到固定模板;可包含约束(数量、类型、排除已读)。
- 输入输出:输入 = 用户画像/历史 + 指令 + 可选候选;输出 = 列表/排序/理由/对话,格式统一(如 JSON),便于解析与评估。
- 数据来源:人工撰写、从日志/点击构造(行为→偏好)、模型生成后筛选或改写,注意去偏与多样性采样。
三、质量与规模
- 指令多样性比单纯堆量更重要;可做课程学习(先简单指令后复杂)、难例挖掘与主动学习扩充薄弱类型。
面试要点
- 能说清指令微调数据构造的要素:任务类型、指令表述多样性、输入输出格式、数据来源与质量把控。
- 能说明为何要强调指令多样性,以及如何做课程学习与难例扩充。
记忆要点
- 指令微调数据:多任务类型、多表述指令、统一格式的输入输出;来源包括人工、日志、模型生成+筛选。
- 指令多样性决定泛化;可课程学习、难例挖掘扩充薄弱类型。