图神经网络的归纳能力,如何冷启动新节点的嵌入生成?
直推:训练时见过图中所有节点,预测时仍是对这些节点的标签/嵌入做推断,新节点必须加入图并重新训练或至少重新传播。归纳:训练时只用部分节点/子图,预测时可为从未见过的节点生成嵌入,无需重训。推荐场景中新用户、新物品不断出现,需要归纳式方法。
邻居聚合 + 共享参数:若模型的形式是「用邻居特征 + 可学习聚合函数」得到自身表示,且聚合函数(如 MLP、attention)不依赖节点 ID,则对新节点只需提供其邻居及邻居特征,即可前向得到其嵌入。GraphSAGE、GAT 等属于此类:聚合权重由「节点特征与图结构」决定,而非全局节点 ID,故可归纳。限制:新节点的邻居若多为新节点,则嵌入质量依赖「邻居的表示质量」;若新节点无边(纯冷启动),则需额外策略(见下)。
有少量边的新节点:直接套用归纳 GNN,用其邻居的(已训练或在线计算的)嵌入做聚合;若邻居也是新的,可多轮迭代或先用启发式(如邻居均值)再参与训练。无边新节点(纯冷启动):无结构信息时只能依赖内容特征(如物品的类目、标题、图像);用 MLP 或跨模态模型将内容映射到与图嵌入同一空间,即 $\boldsymbol{e}{new} = f\theta(\boldsymbol{x}{content})$,$f\theta$ 可在「有边节点」上通过重建损失或对比损失学习,使内容空间与图空间对齐。也可结合 KG:新物品通过属性与关系连到已有实体,用 RippleNet/KGAT 等得到其嵌入。
| 返回模块 | 返回总览 |