5.8 拉普拉斯算子和拉普拉斯矩阵，图拉普拉斯算子推导 意境级讲解

拉普拉斯矩阵为舍被定义成 $L=D-A$ ?这玩意为什么冠以拉普拉斯之名？为什么和图论有关的算法如此喜欢用拉普拉斯矩阵和它的特征值？

接触到了图论中的Laplacian矩阵，定义为 $L=D-A,L$ 是Laplacian矩阵, $D$ 是顶点的度矩阵， $A$ 是图的邻接矩阵。看图1的示例，就能很清楚知道 $L$ 的计算过程。

$$图1$$
要讲拉普拉斯矩阵，就要从拉普拉斯算子讲起，要讲拉普拉斯算子，就要从散度讲起～

散度的基本知识可以看看：6.1通量和散度_炫云云

图的基本知识可以看看：

图01—图的基本概念与模型_炫云云

图02—存储结构，邻接矩阵，关联矩阵，权矩阵，邻接表，十字链表_炫云云

拉普拉斯算子

根据定义，函数 $f$ 的拉普拉斯算子 ${\nabla }^{2}f$ 又可以写成 $\nabla \cdot \nabla f$, 其被定义为函数 $f$ 梯度的散度。
$$\Delta f={\nabla }^{2}f=\nabla \cdot \nabla f=div(gradf)\text{\hspace{1em}(1)}$$
那么这又是什么意思呢?

我们知道, 在直角坐标系下，一个函数 $f(x,y,z)$ 在 $\left(x_0,y_0,z_0\right)$ 处的梯度是一个向量
$${\left(\frac{\partial f}{\partial x},\frac{\partial f}{\partial y},\frac{\partial f}{\partial z}\right)|}_{x=x_0,y=y_0,z=z_0}\text{\hspace{1em}(2)}$$
于是函数 $f$ 的梯度函数
$$\nabla f=\frac{\partial f}{\partial x}\cdot i+\frac{\partial f}{\partial y}\cdot j+\frac{\partial f}{\partial z}\cdot k\text{\hspace{1em}(3)}$$
就构成了一个在三维空间下的向量场。那么散度在笛卡尔坐标系下的表示法：
$$\Delta f=\frac{{\partial }^{2}f}{\partial x^2}+\frac{{\partial }^{2}f}{\partial y^2}+\frac{{\partial }^{2}f}{\partial z^2}\text{\hspace{1em}(4)}$$
$n$ 维形式 $\Delta ={\sum }_i\frac{{\partial }^2}{\partial x_i^2}$

于是平, 我们对这一向量场 $\nabla f$ 求散度 $\nabla \cdot \nabla f$, 即得到了 $f$ 的拉普拉斯算子 ${\nabla }^{2}f$ 。

为什么要这样做呢?

让我们想像一座山，根据梯度的定义，在山峰周围，所有的梯度向量向此汇聚，所以每个山峰处的拉普拉斯算子为负；而在山谷周围，所有梯度从此发散，所以每个山谷处的拉普拉斯算子为正。所以说，对于一个函数，拉普拉斯算子实际上衡量了在空间中的每一点处，该函数梯度是倾向于增加还是减少。

描述物理系统最优美的公式之一拉普拉斯方程, ${\nabla }^{2}f=0$, 大家可以想一想, 这一公式表 达了物理系统怎么样的特征呢?

图函数

我们知道，互相连接的节点可以构成一张图，其中包含所有点构成的集合 $V$, 和所有边构成的 集合 $E$ 。

对于实数域上的函数 $y=f(x)$, 我们可以理解为一种对于 $x$ 的映射，将每个可能的 $x\in X$ 映射到一个对应的 $y\in Y$ 上 $(f:X\to Y)$ 。

相应地, 我们也可以定义一个图函数 $F_G:V\to R$, 使得图上的每一个节点 $v\in V$, 都被 映射到一个实数 $R$ 上。

比如说，假设我们有一个这样的社交网络图谱：

$$图2$$

假设说每一条边的权值对应两个人之间信息的流通程度。现在我们想要分析这个社交网络上的信息传播，我们不仅需要知道信息流通的程度，我们还要知道每个人发动态的活跃程度，于是我们现在给这个图一个函数 $F_G$, 使得:
$$F_G(A)=3,F_G(B)=5,F_G(C)=-2,F_G(D)=1,F_G(E)=-5$$
这里的负数似乎可以理解为, $C$ 和 $E$ 是谣言终结者, 可以阻止信息的传播

那么我们得到这样一张图：

$$图3$$

图函数的梯度

我们定义了图论的函数，那么应该如何给图论下的函数定义梯度呢？

我们记得，梯度的意义在于，衡量函数在每一个点处，在每个正交方向上的变化， 如 $f(x,y,z)$ 的梯度在 $x$ 方向的分量
$$\frac{\partial f}{\partial x}=\frac{f(x+dx)-f(x)}{(x+dx)-x}\text{\hspace{1em}(5)}$$
在图论中，我们认为一个节点沿着每一条边通向它的相邻节点，而每两条边之间互相并没有什么关系，也就是说我们认为这个节点的每一条边互相都是正交的。

并且对于两个节点, 我们定义其距离 $d$ 为其边权值的倒数 (比如上面社交网络的例子, 我们可以认为, 两个人的信息流通程度越低, 两个人的友谊就 “越远"）

那么对于一个节点 $v_0$, 我们认为其梯度在一条通向 $v_1$ 的边 $e_{01}$ 上的分量为
$$\frac{\left(F_G\left(v_0\right)-F_G\left(v_1\right)\right)}{d_{01}}=\left(F_G\left(v_0\right)-F_G\left(v_1\right)\right)\cdot e_{01}\text{\hspace{1em}(6)}$$
$($ 其中 $d_{01}$ 为 $v_0$ 到 $v_1$ 的距离),

详细的图表示，请看：图02—存储结构，邻接矩阵，关联矩阵，权矩阵，邻接表，十字链表_炫云云

为了计算梯度，我们给出一个这样的矩阵：

每一行代表一个点, 每一列代表一条边, 使得对于每个点每条边, 如果该条边从该点发射出 去, 且权值为 $X$, 则将矩阵中对应的这一元素置为 $-X$ ，如果该条边指向该点，则将对 应的元素置为 $+X$

具体到上面社交网络的例子，我们有相应的矩阵 $K_G$ :

我们又有关于图函数 $F_G$ 的列向量 $f_G$ :

我们试着计算 $K_G^T\times f_G$：

$$\left(\begin{array}{ccccc}-5& 5& 0& 0& 0\\ -3& 0& 3& 0& 0\\ 0& -7& 0& 7& 0\\ 0& 0& 1& -1& 0\\ 0& 0& 0& -4& 4\\ 0& -2& 0& 0& 2\end{array}\right)\times \left(\begin{array}{c}3\\ 5\\ -2\\ 1\\ -5\end{array}\right)=\left(\begin{array}{c}10\\ -15\\ -28\\ -3\\ -24\\ -20\end{array}\right)$$
经过观察我们可以知道，最后计算结果的向量, 即是整个图 $G$ 在 $F_G$ 函数上的梯度 ${\nabla }_G{F}_G$ 其中每一行，为该梯度在一条边上的分量。

所以对于图 $G$, 我们有 ${\nabla }_G=K_G^T$,使得 ${\nabla }_G{F}_G=K_G^T\times f_G$

拉普拉斯算子与拉普拉斯矩阵

我们记得在函数中，拉普拉斯算子的定义为函数梯度的散度，即每一点上其梯度的增加/减少，那么对于图函数，其每一“点”即为每个“节点”，其梯度的散度该怎么定义呢？

我们几乎可以立刻可以想到，图函数每一点上梯度的散度，即是从该节点射出的梯度，减去射入该节点的梯度，那么我们几乎又可以立即想到，根据这样的定义去计算散度，只要把原来的梯度再左乘一个这样的矩阵就可以啦：

每一行代表一个点, 每一列代表一条边, 使得对于每个点每条边, 如果该条边从该点发射出 去，则将矩阵中对应的这一元素置为 $-1$ ，如果该条边指向该点，则将对应的元素置为 1

命名这一矩阵为 $K_G^{\prime }$

也就是说，我们把 $K_G$ 的每个元素，正的变成1，负的变成-1, 就得到了 $K_G^{\prime }$
$$\left(\begin{array}{cccccc}-1& -1& 0& 0& 0& 0\\ 1& 0& -1& 0& 0& -1\\ 0& 1& 0& 1& 0& 0\\ 0& 0& 1& -1& -1& 0\\ 0& 0& 0& 0& 1& 1\end{array}\right)\times \left(\begin{array}{c}10\\ -15\\ -28\\ -3\\ -24\\ -20\end{array}\right)=\left(\begin{array}{c}5\\ 58\\ -18\\ -1\\ -44\end{array}\right)$$
那么, 整个图 $G$ 在 $F_G$ 函数上的散度
$$\begin{array}{rl}{\nabla }_G^2{F}_G& =K_G^{\prime }\times {\nabla }_G{F}_G\\ & =K_G^{\prime }\times \left(K_G^T\times f_G\right)\\ & =\left(K_G^{\prime }{K}_G^T\right)f_G\end{array}\text{\hspace{1em}(7)}$$
于是我们得到了图论函数的$\boxed{拉普拉斯算子}$ ${\nabla }^2=K_G^{\prime }{K}_G^T，$ 即我们常说的$\boxed{拉普拉斯矩阵}$。

注意在我们上面的范例中，将任意一条边的方向反转, 等价于在 $K_G$ 的一列上乘以 $-1，$ 这 种情况下最终 $K_G^{\prime }{K}_G^T$ 不会改变, 也就是说拉普拉斯矩阵的值与图中每一条边的方向无关，所以拉普拉斯矩阵一般用来表述无向图

计算 $K_G^{\prime }{K}_G^T$ 的值, 我们得到矩阵:
$$\left(\begin{array}{ccccc}8& -5& -3& 0& 0\\ -5& 14& 0& -7& -2\\ -3& 0& 4& -1& 0\\ 0& -7& -1& 12& -4\\ 0& -2& 0& -4& 6\end{array}\right)$$
注意到这一对称矩阵，对角线即是每个点的度，而其余的元素，则是负的邻接矩阵，于是乎我们得到了拉普拉斯矩阵的经典算式：
$$L=D-A$$
定义 $D$ 是 $N\times N$ 的度数矩阵(degree matrix)
$$D(i,j)=\{\begin{array}{ll}{d}_i& \text{ if }i=j\\ 0& \text{ otherwise }\end{array}$$
定义 $A$ 为 $N\times N$ 邻接矩阵(adjacency matrix)
$$A(i,j)=\{\begin{array}{ll}{d}_i& \text{ if }{x}_i\sim x_j\\ 0& \text{ otherwise }\end{array}$$

则在图3中，
$$D=\left(\begin{array}{ccccc}8& 0& 0& 0& 0\\ 0& 14& 0& 0& 0\\ 0& 0& 4& 0& 0\\ 0& 0& 0& 12& 0\\ 0& 0& 0& 0& 6\end{array}\right),A=\left(\begin{array}{ccccc}0& 5& 3& 0& 0\\ 5& 0& 0& 7& 2\\ 3& 0& 0& 1& 0\\ 0& 7& 1& 0& 4\\ 0& 2& 0& 4& 0\end{array}\right)$$
所以
$$L=D-A=K_G^{\prime }{K}_G^T\text{\hspace{1em}(8)}$$

拉普拉斯矩阵的重要性质

拉普拉斯矩阵之所以如此常用，是因为其一大重要性质： 拉普拉斯矩阵的 $n$ 个特征值 ${\lambda }_1,{\lambda }_2,\dots ,{\lambda }_n$ 都是非负值, 且有 $0={\lambda }_1\le {\lambda }_2\le \dots \le {\lambda }_n$

同时，我们引入关于矩阵 $L$ 和 $h$ 的瑞利商的概念： $R(L,h)=\frac{h^{\ast }Lh}{h^{\ast }h}$

其中 $h^{\ast }$ 为 $h$ 的共轭矩阵, 对于 $h$ 为实数矩阵的情况下 $h^{\ast }=h^T$

而通过拉格朗日乘子法可以得出，瑞利熵的一个非常重要的特点就是： 瑞丽熵的最大值，等于 $L$ 的最大特征值，瑞利熵的最小值，等于 $L$ 的最小特征值

再看看图算法中对于拉普拉斯矩阵 $L$ 的运算中常常出现的 $f^{T}Lf$ ，结合上文所述的拉普拉斯矩阵的重要性质，那么拉普拉斯矩阵在各种图算法中的应用，想必大家也能够理解啦～

图拉普拉斯算子推导

主要是以下3种：

1. $L=D-A$ 定义的图拉普拉斯算子
2. $L^{\text{rw}}=D^{-1}L$ ，随机归一化图拉普拉斯算子
3. $L^{\text{sn }}=D^{-\frac{1}{2}}L{D}^{-\frac{1}{2}}$，对称归一化图拉普拉斯算子

本节讲解第一种图拉普拉斯算子是怎么由来的，归一化见下一节。

1、图像普拉斯算子

图像是一种离散数据，那么其拉普拉斯算子必然要进行离散化。

从导数定义说起
$$\begin{array}{rl}{f}^{\prime }(x)& =\frac{\delta f(x)}{\delta x}\\ & \approx f(x+1)-f(x)\end{array}$$
那么:
$$\begin{array}{rl}\frac{{\delta }^{2}f(x)}{\delta x^2}& =f^{\prime \prime }(x)\\ & \approx f^{\prime }(x)-f^{\prime }(x-1)\\ & \approx f(x+1)-f(x)-(f(x)-f(x-1))\\ & =f(x+1)+f(x-1)-2f(x)\end{array}\text{\hspace{1em}(9)}$$
结论1：二阶导数近似等于其二阶差分。

结论2：二阶导数等于其在所有自由度上微扰之后获得的增益。

一维函数其自由度可以理解为2，分别是+1和-1两个方向。

对于二维的图像来说，其有两个方向（4个自由度）可以变化，如图4所示，即如果对$(x,y)$处的像素进行扰动，其可以变为四种状态$(x+1,y)$，$(x-1,y)$，$(x,y+1)$，$(x,y-1)$。当然了，如果将对角线方向也认为是一个自由度的话，会再增加几种状态$(x+1,y+1$)，$(x+1,y-1)$，$(x-1,y+1)$，$(x-1,y-1)$，事实上图像处理上正是这种。再当然了，如果你认为对一个像素进行微扰可能变为任何一个像素，那它的自由度就是整个图片的像素数（不过这还叫微扰吗？）。其实结论差不多，就讨论四种状态。

$$图4$$

$$\begin{gathered} \begin{array}{rl}△f& =\frac{{\delta }^{2}f(x,y)}{\delta x^2}+\frac{{\delta }^{2}f(x,y)}{\delta y^2}\\ & \approx f(x+1,y)+f(x-1,y)-2f(x,y)+[f(x,y+1)+f(x,y-1)-2f(x,y)]\\ & =f(x+1,y)+f(x-1,y)+f(x,y+1)+f(x,y-1)-4f(x,y)\end{array} \\ \text{\hspace{1em}(10)} \end{gathered}$$
上式中每一项的系数就是拉普拉斯在二维图像中的卷积核：

现在用散度的概念解读一下：

• 如果 $\Delta f=0$ ，可以近似认为中心点 $f(x,y)$ 的势和其周围点的势是相等的, $f(x,y)$ 局部范围内不存在势差。所以该点无源.
• $\Delta f>0$, 可以近似认为中心点 $f(x,y)$ 的势低于周围点, 可以想象成中心点如恒星一样 发出能量，补给周围的点，所以该点是正源
• $\Delta f<0$,可以近似认为中心点 $f(x,y)$ 的势高于周围点, 可以想象成中心点如吸引子一样 在吸收能量, 所以该点是负源.

另一个角度，根据离散状态下拉普拉斯算子 (10) ，其计算了周围点与中心点的梯度差。当 $f(x,y)$ 受到扰动之后，其 可能变为相邻的 $f(x-1,y),f(x+1,y),f(x,y-1),f(x,y+1)$ 之一，拉普拉斯算子得到的是对该点进行微小扰动后可能获得的增益 （或者说是总变化）。

2、图普拉斯算子推导

我们现在将这个结论推广到图: 假设具有 $N$ 个节点的图 $G$, 此时以上定义的函数 $f$ 不再是 二维，而是 $N$ 维向量： $f=\left(f_1,f_2,\dots ,f_N\right)$, 其中 $f_i$ 为函数 $f$ 在图中节点 $i$ 处的函 数值。类比于 $f(x,y)$ 在节点 $(x,y)$ 处的值。如图5所示，对 $i$ 节点进行扰动， 它可能变为任意一个与它相邻的节点 $j\in N_i,N_i$ 表示节点 $i$ 的一阶邻域节点。

$$图5$$

我们上面已经知道拉普拉斯算子可以计算一个点到它所有自由度上微小扰动的增益，则通过图来表示就是任意一个节点 $j$ 变化到节点 $i$ 所带来的增益, 考虑图中边的权重相等 (简单说就是1) 则有:

$$\Delta f_i=\sum _{j\in N_i}(f_i-f_j)\text{\hspace{1em}(11)}$$
设边 $E_{ij}$ 得权重为 $W_{ij}$ , 则有：
$$\Delta f_i=\sum _{j\in N_i}{W}_{ij}\left(f_i-f_j\right)\text{\hspace{1em}(12)}$$
由于当 $W_{ij}=0$ 时表示节点 $i,j$ 不相邻，所以上式可以简化为 :
$$\Delta f_i=\sum _{j\in N}{W}_{ij}(f_i-f_j)\text{\hspace{1em}(13)}$$
继续推导有：
$$\begin{array}{l}\Delta f_i=\sum _{j\in N}{w}_{ij}(f_i-f_j)\\ =\sum _{j\in N}{w}_{ij}{f}_i-\sum _{j\in N}{w}_{ij}{f}_j\\ =d_i{f}_i-w_{i:}f\end{array}\text{\hspace{1em}(14)}$$
其中 $d_i={\sum }_{j\in N}{w}_{ij}$ 是顶点 $i$ 的度
$w_{i:}=\left(w_{i1},\dots ,w_{iN}\right)$ 是 $N$ 维的行向量, $f=\left(\begin{array}{c}{f}_1\\ ⋮\\ f_N\end{array}\right)$ 是 $N$ 维的列向量:
$w_{i:}f$ 表示两个向量的内积。

对于所有的 $N$ 个节点有：
$$\begin{array}{l}\Delta f=\left(\begin{array}{c}\Delta f_1\\ ⋮\\ \Delta f_N\end{array}\right)=\left(\begin{array}{c}{d}_1{f}_1-w_{1:}f\\ ⋮\\ d_N{f}_N-w_{N:}f\end{array}\right)\\ =\left(\begin{array}{ccc}{d}_1& \cdots & 0\\ ⋮& \ddots & ⋮\\ 0& \cdots & d_N\end{array}\right)f-\left(\begin{array}{c}{w}_{1:}\\ ⋮\\ w_{N:}\end{array}\right)f\\ =\mathrm{diag}\left(d_i\right)f-Wf\\ =(D-W)f\\ =Lf\end{array}$$
这里的 $(D-W)$ 就是拉普拉斯矩阵 $L$ 根据前面所述，拉普拉斯矩阵中的第 $i$ 行实际上反应 了第 $i$ 个节点在对其他所有节点产生扰动时所产生的增益累积。直观上来讲，图拉普拉斯反映了当我们在节点 $i$ 上施加一个势，这个势以哪个方向能够多顺畅的流向其他节点。谱域中的拉普拉斯矩阵可以理解为是对图的一种矩阵表示形式。

拉普拉斯矩阵归一化

$X_i$ 代表节点 $i$ 的特征向量

$A$ 代表邻接矩阵, $A_{ij}$ 代表节点 $i,j$ 之间的边的权。

$D$ 代表图的度的矩阵，是一个对角矩阵 (是邻接矩阵的列和或行和) ,即: $D_{ii}={\sum }_{k=1}^N{A}_{ik}$ 。

拉普拉斯矩阵归一化主要是以下2种：

1. $L^{\text{rw}}=D^{-1}L$ ，随机归一化图拉普拉斯算子

2. $L^{\text{sn }}=D^{-\frac{1}{2}}L{D}^{-\frac{1}{2}}$，对称归一化图拉普拉斯算子

3. 为何要归一化？

采用加法规则$L=D-A$时，首先在计算节点新的表征只是考虑了邻居节点的信息，没有自己的信息。然后，只是对邻居节点求和，没有平均，这会导致对于度大的节点特征越来越大，而对于度小的节点却相反，这可能导致网络训练过程中梯度爆炸或者消失的问题。因此需要进行归一化。

2. 如何归一化？

针对第一个问题，我们可以给图中每个节点增加自连接，实现上可以直接改变邻接矩阵：
$$\begin{gathered} \tilde{A}=A+I \\ \tilde{D}=D+I\text{\hspace{1em}(16)} \end{gathered}$$
然后计算拉普拉斯矩阵：
$$L^{sn}={\tilde{D}}^{-1/2}\tilde{A}{\tilde{D}}^{-1/2}\text{\hspace{1em}(17)}$$
简单的随机归一化方法:${\tilde{D}}^{-1}\tilde{A}$ 得到的矩阵是非对称阵，所以使用对称归一化的方法:${\tilde{D}}^{-1/2}\tilde{A}{\tilde{D}}^{-1/2}$

3. 举例

假设存在一个 图

$$A=\left[\begin{array}{ccccc}0& 1& 1& 0& 0\\ 1& 0& 0& 1& 0\\ 1& 0& 0& 1& 1\\ 0& 1& 1& 0& 1\\ 0& 0& 1& 1& 0\end{array}\right],\tilde{A}=\left[\begin{array}{ccccc}1& 1& 1& 0& 0\\ 1& 1& 0& 1& 0\\ 1& 0& 1& 1& 1\\ 0& 1& 1& 1& 1\\ 0& 0& 1& 1& 1\end{array}\right]$$

$$D=\left[\begin{array}{ccccc}2& 0& 0& 0& 0\\ 0& 2& 0& 0& 0\\ 0& 0& 3& 0& 0\\ 0& 0& 0& 3& 0\\ 0& 0& 0& 0& 2\end{array}\right],\tilde{D}=\left[\begin{array}{ccccc}3& 0& 0& 0& 0\\ 0& 3& 0& 0& 0\\ 0& 0& 4& 0& 0\\ 0& 0& 0& 4& 0\\ 0& 0& 0& 0& 3\end{array}\right]$$

$${\tilde{D}}^{-1}=\left[\begin{array}{ccccc}1/3& 0& 0& 0& 0\\ 0& 1/3& 0& 0& 0\\ 0& 0& 1/4& 0& 0\\ 0& 0& 0& 1/4& 0\\ 0& 0& 0& 0& 1/3\end{array}\right]$$

则
$${\tilde{D}}^{-1}\tilde{A}=\left[\begin{array}{ccccc}1/3& 1/3& 1/3& 0& 0\\ 1/3& 1/3& 0& 0& 0\\ 1/4& 0& 1/4& 1/4& 1/4\\ 0& 1/4& 1/4& 1/4& 1/4\\ 0& 0& 1/3& 1/3& 1/3\end{array}\right]$$
该矩阵不再是对角阵了，为了保持它是对角阵。所以我们对 $\tilde{A}$ 左乘 ${\tilde{D}}^{-1/2}$,右乘 ${\hat{D}}^{-1/2}$, 得到 ${\tilde{D}}^{-1/2}\tilde{A}{\tilde{D}}^{-1/2}$ 。这样既得到了近似的归一化也保持了矩阵对称性。(左乘是行变换，右乘是列变换。)

随机归一化推导

对$X_i$进行聚合，就是归一化的矩阵与特征向量矩阵$X$的乘积：
$$\begin{array}{rl}\text{ aggregate }\left(X_i\right)={\left({\tilde{D}}^{-1}\tilde{A}X\right)}_i& ={\left({\tilde{D}}^{-1}\tilde{A}\right)}_{i}x\\ & =\left(\sum _{k=1}^N{\tilde{D}}_{ik}^{-1}{\tilde{A}}_i\right)X\\ & =\left({\tilde{D}}_{ii}^{-1}{\tilde{A}}_i\right)X\\ & ={\tilde{D}}_{ii}^{-1}\sum _{j=1}^N{\tilde{A}}_{ij}{X}_j\\ & =\sum _{j=1}^N\frac{1}{{\tilde{D}}_{ii}}{\tilde{A}}_{ij}{X}_j\\ & =\sum _{j=1}^N\frac{{\tilde{A}}_{ij}}{{\sum }_{k=1}^N{\tilde{A}}_{ik}}{X}_j\end{array}\text{\hspace{1em}(18)}$$

这种聚合方式其实是对节点的特征求平均，进行了归一化，权值之和归一化为1，避免求和方式所造成的问题。

对称归一化推导

而 ${\tilde{D}}^{-1/2}\tilde{A}{\tilde{D}}^{-1/2}$ 这种归一化方式, 将不再单单地对节点特征取平均, 它不仅考虑了节点$i$对度, 也考虑了邻接节点$j$的度, 当邻居节点$j$度数较大时，它在聚合时贡献会更少。
$$\begin{array}{rl}\text{ aggregate }\left(X_i\right)={\left({\tilde{D}}^{-0.5}\tilde{A}{\tilde{D}}^{-0.5}X\right)}_i& ={\left({\tilde{D}}^{-0.5}\tilde{A}\right)}_i{\tilde{D}}^{-0.5}X\\ & =\left(\sum _{k=1}^N{\tilde{D}}_{ik}^{-0.5}{\tilde{A}}_i\right){\tilde{D}}^{-0.5}X\\ & ={\tilde{D}}_{ii}^{-0.5}\sum _{j=1}^N{\tilde{A}}_{ij}\sum _{k=1}^N{\tilde{D}}_{jk}^{-0.5}{X}_j\\ & ={\tilde{D}}_{ii}^{-0.5}\sum _{j=1}^N{\tilde{A}}_{ij}{\tilde{D}}_{jj}^{-0.5}{X}_j\\ & =\sum _{j=1}^N\frac{1}{\sqrt{{\tilde{D}}_{ii}{\tilde{D}}_{jj}}}{\tilde{A}}_{ij}{X}_j\end{array}\text{\hspace{1em}(18)}$$

显而易见, 通过 ${\tilde{D}}^{-0.5}\tilde{A}{\tilde{D}}^{-0.5}$ 操作, 实现了 ${\tilde{D}}_{ii}$ 和 ${\tilde{D}}_{jj}$ 的几何平均 $\sqrt{{\tilde{D}}_{jj}{\tilde{D}}_{jj}}$, 从而考虑了被聚合节点 $j$ 的度 ${\tilde{D}}_{jj}$的影响。

学习过程的记录，如有侵权删！请大家多多支持我哦！！！文章可以会不定期的修改和添加内容哦。

参考

拉普拉斯算子和拉普拉斯矩阵，图拉普拉斯算子推导

谱聚类方法推导和对拉普拉斯矩阵的理解

拉普拉斯矩阵归一化

helper.ipam.ucla.edu/publications/dlt2018/dlt2018_14506.pdf