第 150 题:跨域上下文的迁移,用户在其他域行为的权重衰减?
题目
跨域上下文的迁移,用户在其他域行为的权重衰减?
完整讲解
一、跨域上下文与迁移
跨域指不同业务或场景(如视频与电商、搜索与推荐、App 与 H5)。跨域上下文即用户在一个域的行为(点击、购买)可作为另一域的辅助信号,通过迁移增强目标域模型。例如电商主站与短视频域:用户在短视频的观看可帮助估计其对某类商品的兴趣,但两域意图不完全一致,需控制迁移强度,常用权重衰减。
二、用户在其他域行为的权重衰减
- 动机:他域行为与当前域相关性随「域距离」与「时间」减弱。直接把他域行为与当前域等权融合会引入噪声(如短视频偏好与购物偏好有重叠但不一致);权重衰减即对他域信号降权,使主域信号主导、他域仅辅助。
- 按域衰减:不同域赋不同权重 $w_d$,如主域 $w=1$、强相关域 $w=0.5$、弱相关域 $w=0.2$。权重可人工设定或从验证集/多任务学习中得到。
- 按时间衰减:他域行为越久远权重越低,如 $w(t) = \exp(-\lambda \Delta t)$,$\Delta t$ 为他域行为距今时间。
- 按相似度衰减:他域 item 与当前候选的相似度(类目、内容)高则权重大,低则权重小,避免无关他域行为干扰。
- 学习得到:将他域特征或行为嵌入与「域 ID」一起输入模型,让模型学习域权重或门控;或多任务中他域任务损失加权较小,等价于对他域梯度衰减。
三、实现方式
- 特征层:他域行为聚合特征(如他域点击类目分布)乘以衰减系数后与主域特征拼接。
- 表示层:他域行为序列经独立或共享 encoder 得到向量,再乘域权重或门控后与主域表示融合。
- 多任务:主域任务 loss 权重大、他域任务权重小,反向传播时他域对共享参数的更新弱,形成隐式权重衰减。
四、注意点
- 衰减过强则他域信息浪费;过弱则噪声大。可按 A/B 或验证集调衰减系数与域权重。
- 他域数据可得性、延迟与合规需考虑;可只用可用的他域做有条件迁移。
面试要点
- 能说明跨域上下文的迁移及他域行为需权重衰减的原因(域距离、噪声)。
- 能说清衰减方式:按域、按时间、按相似度、或学习得到;特征层/表示层/多任务实现。
- 能提及衰减过强/过弱的权衡、A/B 与数据可得性。
记忆要点
- 跨域迁移:他域行为辅助目标域;需权重衰减控制噪声与域距离。
- 衰减:按域权重、按时间 $\exp(-\lambda \Delta t)$、按相似度、或学习门控/多任务权重。
- 实现:特征乘系数、表示门控、多任务小权重;按效果调衰减强度。