第 137 题：AutoFeature的自动特征选择，强化学习 vs 可微架构搜索？
题目
AutoFeature的自动特征选择，强化学习 vs 可微架构搜索？
完整讲解
一、自动特征选择的需求
特征众多时，人工筛选耗时且易遗漏；自动特征选择希望用算法从候选特征集中选出对目标最有利的子集或权重，提升效果与可维护性。常见方法有强化学习（RL）与可微架构搜索（DARTS 类）。
二、强化学习方式
- 思路：将「选哪些特征」视为动作，状态为当前特征子集或模型状态，奖励为验证集指标（AUC、logloss）。用 RL 智能体（如 DQN、Policy Gradient）学习策略：每步决定加入/去掉某特征，多步后得到特征子集；或学习每个特征的连续权重（软选择）。
- 优点：可处理离散选择、与下游模型联合优化；可探索大搜索空间。
- 缺点：搜索慢、奖励稀疏、训练不稳定；需大量 trial，工程成本高。
三、可微架构搜索（Differentiable）
- 思路：为每个特征引入可学习门控（如 Gumbel-Softmax、连续松弛），或对特征加可学习的标量权重，与主模型一起端到端梯度下降。优化后根据权重或门控值做剪枝（去掉权重接近 0 的特征）。即把「选特征」变成可微参数，用 SGD 一次训练得到选择结果。
- 优点：单次训练、无需反复试特征子集；与主任务一致优化、实现相对简单。
- 缺点：松弛后的离散性可能偏差（如 Gumbel 温度退火）；大规模特征时参数量与计算仍不小。
四、对比与选型
- RL：适合离散、组合爆炸大的空间，可结合 NAS；代价为搜索成本与稳定性。
- 可微：适合连续软选择或门控、与主模型同训；工业上更易落地，如对特征加 L1/门控再剪枝、或简单可微权重。
- 折中：先用可微/GBDT 重要性粗筛，再用 RL 或贪心在小候选集上细选；或只用可微权重 + 阈值做自动选择。
面试要点
- 能说明自动特征选择的目标，以及 RL 方式（动作=选特征、奖励=指标）与可微方式（门控/权重+梯度）的区别。
- 能说清 RL 的灵活与高成本、可微的端到端与易落地；能提及 Gumbel 松弛、L1/门控剪枝。
- 能给出选型建议：大规模离散选 RL 或两阶段；快速落地用可微权重或重要性+阈值。
记忆要点
- RL：动作=特征选择、奖励=验证指标；灵活但慢、不稳定。
- 可微：门控/权重可学习、端到端训练、按权重剪枝；易落地。
- 选型：大空间/离散可 RL；快速落地用可微或 GBDT 重要性+阈值。