第 151 题:点击与转化的联合建模,ESMM的样本空间一致性?
题目
点击与转化的联合建模,ESMM的样本空间一致性?
完整讲解
一、点击与转化的联合建模
点击(CTR)与转化(CVR)是推荐/广告的两大目标。CVR 样本极少(只有点击后才可能转化),若单独训 CVR 模型会面临样本稀疏与样本空间不一致:CVR 训练集是「点击样本」,而全量空间是「曝光样本」,即样本空间不一致。ESMM(Entire Space Multi-task Model) 通过联合建模 CTR 与 CTCVR,在全曝光空间上训练,缓解上述问题。
二、ESMM 的样本空间一致性
- 概率分解:$P(\text{click}, \text{conv}) = P(\text{click}) \cdot P(\text{conv} \mid \text{click})$,即 CTCVR = CTR × CVR。因此可在全曝光样本上拟合 CTCVR、在点击样本上拟合 CVR,两者结合得到 CTR 与 CVR 的估计,且 CVR 的梯度会通过 CTCVR 反传到全空间。
- ESMM 结构:共享底层表示,两个塔:一个预测 CTR、一个预测 CVR(输入为同一样本,但 CVR 只在点击样本上有监督);主损失为 CTR 的 BCE + CTCVR 的 BCE。CTCVR 的标签 = click × conversion(曝光未点击为 0、点击未转化为 0、点击且转化为 1)。这样 CTCVR 的 loss 在全曝光样本上计算,CVR 塔的梯度来自 CTCVR 项,即在全空间上得到监督信号,样本空间与推理空间一致(都是曝光空间)。
- 与单独 CVR 的对比:单独 CVR 只在点击样本上训练,分布是 $P(x \mid \text{click})$,而推理时用全曝光 $P(x)$,存在选择偏差(selection bias)。ESMM 通过 CTCVR 在全空间训练,使 CVR 塔在全空间上被约束,缓解偏差。
三、实现要点
- 损失:$\mathcal{L} = \mathcal{L}{\text{CTR}} + \mathcal{L}{\text{CTCVR}}$;CVR 不单独设 loss(或设辅助 loss 仅在点击样本上)。推理时用 $\hat{p}{\text{CTR}} \cdot \hat{p}{\text{CVR}}$ 或仅用 $\hat{p}_{\text{CVR}}$ 做 CVR 排序。
- 需保证曝光日志中 a) 有点击与转化标签、b) 未点击样本也参与 CTCVR loss(标签为 0),这样全空间一致才成立。
面试要点
- 能写出 CTCVR = CTR × CVR,并说明 ESMM 用 CTR + CTCVR 两路 loss、CTCVR 在全曝光上算。
- 能说清样本空间一致性:CVR 梯度通过 CTCVR 传到全空间,缓解「只在点击样本训 CVR」的选择偏差。
- 能对比单独 CVR(点击样本、分布偏差)与 ESMM(全空间、一致);能提及损失形式与推理时用 CTR×CVR。
记忆要点
- ESMM:CTCVR = CTR × CVR;loss = CTR + CTCVR,CTCVR 在全曝光样本上算。
- 样本空间一致:CVR 通过 CTCVR 在全空间得梯度,缓解选择偏差。
- 单独 CVR 只在点击样本→分布偏差;ESMM 全空间训练,推理可用 CTR×CVR。