第 25 题:点击率校准(Calibration)的重要性,Platt Scaling vs Isotonic Regression?
题目
点击率校准(Calibration)的重要性,Platt Scaling vs Isotonic Regression?
完整讲解
一、校准的重要性
- 定义:预测概率与真实频率一致;即「预测 0.1 的样本里,真实点击率应接近 10%」。
- 重要性:出价、预算、ROI 计算依赖概率绝对值;若模型过自信(预测普遍偏高)或欠自信(普遍偏低),会导致出价与决策偏差,影响收入与体验。排序好(AUC 高)不等于校准好。
二、Platt Scaling
- 做法:对模型输出 $z$(或 $p$)做逻辑回归:$p_{\mathrm{cal}} = \sigma(A z + B)$,在验证集上学 $A,B$。
- 特点:单参数族(实为两参数),单调;假设校准误差可用简单伸缩和平移修正,适合偏差不太复杂的情况;实现简单、稳定。
三、Isotonic Regression
- 做法:学一个单调的映射 $f$,使 $\sum (y_i - f(p_i))^2$ 最小且 $f$ 单调;通常得到分段常数的阶梯函数。
- 特点:非参数、任意单调,可拟合复杂校准曲线;需要足够验证样本,否则易过拟合;对「预测值分布稀疏」的区间估计不稳。
四、对比与选用
- Platt:参数少、样本少时稳;校准形状简单时够用。
- Isotonic:表达力强、可纠复杂形状;样本多、需要细粒度校准时用。
- 推荐/广告常用:先试 Platt,不够再试 Isotonic;或分段(按流量/分位数)分别校准。
面试要点
- 校准:预测概率 ≈ 真实频率;对出价与决策重要。
- Platt:$\sigma(Az+B)$,简单单调;Isotonic:单调非参数,表达力强、需更多样本。
记忆要点
- 校准重要:排序≠校准;出价依赖概率值。
- Platt 简单稳;Isotonic 灵活、需样本多;可先 Platt 再 Isotonic。