第 106 题:EGES的边缘特征增强,边权重的自适应学习?
题目
EGES的边缘特征增强,边权重的自适应学习?
完整讲解
一、EGES 与 Graph Embedding 的边信息
EGES(Enhanced Graph Embedding with Side information)在 GES 基础上,对多源侧信息(如 item 的 ID、类目、品牌等)不是简单相加,而是用可学习的权重融合,使不同侧信息对最终嵌入的贡献可自适应,即边(侧)特征增强。
二、多源嵌入与加权融合
- 多源嵌入:每个 item 有 ID 嵌入 $\boldsymbol{e}_{\text{id}}$ 及多个侧信息嵌入 $\boldsymbol{e}_1,\ldots,\boldsymbol{e}_K$(类目、品牌等)。若简单平均或相加,则假设各源同等重要。
- 边权/权重:EGES 为每个源学习一个标量权重 $a_k$(或与上下文相关的权重),融合时用
\(\boldsymbol{h}_v = \frac{1}{\sum_k a_k} \sum_{k} a_k \boldsymbol{e}_k,\)
或先对 $a_k$ 做 softmax 再加权。训练时 $a_k$ 与嵌入一起更新,自适应学习到「ID 重要还是类目重要」等,即边(侧)特征的权重由数据驱动。
三、边权重的自适应学习
- 训练:目标仍为 Skip-gram 式(正样本为共现对、负采样),梯度同时更新 $\boldsymbol{e}_k$ 与 $a_k$。梯度反传时,对损失贡献大的源会得到更大 $a_k$(若未做约束)或更大梯度,从而自适应。
- 冷启动:新 item 无 ID 共现时,可仅用侧信息嵌入的加权和作为初始嵌入,冷启动效果优于固定平均。
- 实现:$a_k$ 可初始化为 1 或可学习标量;多跳/图上游走时的「边」若指边类型,则边类型也可对应不同权重,与「侧信息源」权重同理。
四、与 GES 的对比
GES 常为固定相加或拼接;EGES 显式学习各源权重,表达力与冷启动通常更好,多一组小参数量(每个源一个标量)。
面试要点
- 能说明 EGES 用多源嵌入(ID + 类目 + 品牌等)与可学习权重融合,实现边/侧特征增强。
- 能写出加权融合形式(如 softmax 权或归一化加权和)并说明权重随训练自适应。
- 能说清与 GES 的差异(固定 vs 自适应权重)及冷启动上的优势。
记忆要点
- EGES:多源嵌入 + 可学习权重 $a_k$ 融合;$\boldsymbol{h} = \sum a_k \boldsymbol{e}_k$(可归一化)。
- 边权重自适应:$a_k$ 与嵌入一起训练,数据驱动各源重要性;冷启动时侧信息权重大。
- 与 GES 区别:GES 多固定融合,EGES 显式学习权重、表达与冷启动更好。