第 97 题:实时兴趣的在线更新,增量学习与全量刷新的权衡?
题目
实时兴趣的在线更新,增量学习与全量刷新的权衡?
完整讲解
一、实时兴趣的两种更新方式
增量学习:每来新行为(点击、加购等),在已有用户表征/序列嵌入基础上做增量更新(如用新行为向量与旧状态做 attention 或 GRU 一步),不重算全量历史。全量刷新:按固定周期(如小时/天)用完整行为序列重新跑模型,得到全新用户表征或序列嵌入。
二、增量学习的优劣
- 优点:延迟低(毫秒级)、存储与计算省(只存紧凑状态、只算一步或少量步),适合实时排序与实时召回。
- 缺点:长期依赖易衰减、误差会累积;状态维度有限,信息压缩有损;对「概念漂移」的适应依赖设计(如衰减、门控)。
三、全量刷新的优劣
- 优点:表达完整、无累积误差,可充分利用长序列与复杂模型;适合离线训练、T+1 更新。
- 缺点:延迟高、资源消耗大,无法做到「当前行为立刻影响下一刷」。
四、工程权衡
- 混合:实时层用增量(如 DIN 的 attention 更新、GRU 状态),离线层定期全量重算,两者融合(如实时分 + 离线分加权)。
- 触发策略:关键行为(如下单)触发即时增量;普通浏览可异步批量增量或等全量。
- 一致性:增量与全量若用不同模型或特征,需注意 A/B 与线上一致性。
面试要点
- 能说清增量学习(单步/小步更新、低延迟)与全量刷新(完整重算、高表达)的差异。
- 能分析各自优缺点:增量省资源但易累积误差;全量准但慢且贵。
- 能给出混合方案、触发策略与一致性注意点。
记忆要点
- 增量:新行为驱动、低延迟、省资源;缺点为误差累积、长期依赖有限。
- 全量:完整序列重算、表达完整;缺点为延迟高、资源大。
- 工程上常混合:实时增量 + 定期全量;关键行为触发即时更新。