sgr-interview-300

第 103 题:SDNE的自编码器结构,图拉普拉斯正则化的作用?

题目

SDNE的自编码器结构,图拉普拉斯正则化的作用?


完整讲解

一、SDNE 的自编码器结构

SDNE(Structural Deep Network Embedding)用深度自编码器学习节点嵌入:输入为节点 $u$ 的邻接向量 $\boldsymbol{s}u \in \mathbb{R}^{|V|}$($s{u,v}=1$ 若 $(u,v) \in E$,否则为 0 或边权),经编码器(多层非线性)得到低维表示 $\boldsymbol{z}_u$,再经解码器重构为 $\hat{\boldsymbol{s}}_u$。无监督损失为重构误差,如 \(\mathcal{L}_{\text{recon}} = \sum_u \|\boldsymbol{s}_u - \hat{\boldsymbol{s}}_u\|^2.\) 编码器输出 $\boldsymbol{z}_u$ 即节点嵌入,既压缩了邻接信息,又通过非线性捕捉高阶结构。

二、图拉普拉斯正则化的作用

若仅用重构损失,直接相连的节点可能学到相似邻接向量、从而相似嵌入,但一阶邻近未被显式约束。SDNE 加入一阶邻近的拉普拉斯正则:对每条边 $(u,v)$,约束 $\boldsymbol{z}_u$ 与 $\boldsymbol{z}_v$ 接近,即 \(\mathcal{L}_{\text{1st}} = \sum_{(u,v)} w_{uv} \|\boldsymbol{z}_u - \boldsymbol{z}_v\|^2 = \operatorname{tr}(\boldsymbol{Z}^\top \boldsymbol{L} \boldsymbol{Z}),\) 其中 $\boldsymbol{Z}$ 为嵌入矩阵,$\boldsymbol{L}$ 为图拉普拉斯矩阵($L = D - A$ 或归一化形式)。该项使直接相连节点嵌入相近,与重构项(隐式保留邻接/二阶信息)互补。

三、总损失与效果

总损失 $\mathcal{L} = \mathcal{L}{\text{recon}} + \alpha \mathcal{L}{\text{1st}}$。重构项保证嵌入保留邻接结构(二阶/高阶);拉普拉斯项显式平滑一阶邻居,使图上的局部平滑性进入表示,提升链接预测与节点分类效果。


面试要点


记忆要点

返回模块 返回总览