sgr-interview-300

第 109 题：图卷积的邻居聚合，注意力机制与均值池化的比较？

题目

图卷积的邻居聚合，注意力机制与均值池化的比较？

---

完整讲解

一、图卷积的邻居聚合

GNN 每层将节点表示更新为自身与邻居的聚合。设节点 $v$ 的邻居为 $\mathcal{N}(v)$，第 $l$ 层更新为 \(\boldsymbol{h}_v^{(l+1)} = \sigma\left(\boldsymbol{W}^{(l)} \cdot \text{AGG}\left(\{\boldsymbol{h}_u^{(l)} : u \in \mathcal{N}(v) \cup \{v\}\}\right)\right).\) 聚合方式决定信息如何从邻居流向中心节点，常见有均值池化与注意力加权。

二、均值池化（Mean Pooling）

$\text{AGG}(\cdot) = \frac{1}{

\mathcal{N}(v)

+1}\left(\boldsymbol{h}v + \sum{u \in \mathcal{N}(v)} \boldsymbol{h}_u\right)$，即邻居（及自身）等权平均。优点：简单、稳定、无额外参数、对度不敏感（归一化后尺度一致）。缺点：无法区分邻居重要性，噪声或无关邻居权重大时效果受限。

三、注意力机制（Attention）

$\text{AGG}(\cdot) = \sum_{u \in \mathcal{N}(v) \cup {v}} \alpha_{vu} \boldsymbol{h}u$，其中 $\alpha{vu} = \text{softmax}_u\big(\text{LeakyReLU}(\boldsymbol{a}^\top [\boldsymbol{W}\boldsymbol{h}_v | \boldsymbol{W}\boldsymbol{h}_u])\big)$（GAT 形式）。优点：可学习邻居权重、对重要邻居赋予更大权、可解释（看 attention 分布）。缺点：多参数、计算与显存开销大；高度节点 softmax 易平滑、需大 batch 或采样。

四、选型建议

• 邻居同质、图较规整时，均值池化即可且更省资源。
• 邻居异质、存在关键节点与噪声时，用注意力或加权聚合（如 GAT、GATv2）通常更好；可配合邻居采样控制计算量。

---

面试要点

• 能写出 GNN 邻居聚合的通用形式，并对比均值池化（等权）与注意力（学习权重）。
• 能说清均值池化简单稳定但无法区分重要性；注意力可学习权重但参数与计算更多。
• 能根据邻居同质/异质、资源约束选型。

---

记忆要点

• 均值池化：邻居等权平均，简单稳定，不区分重要性。
• 注意力：$\alpha_{vu}$ 学习权重，重要邻居权大，可解释；参数与计算更多。
• 同质图用均值；异质/关键节点明显用注意力；可配合邻居采样。

返回模块

返回总览