图神经网络学习笔记(1)——图信号与图傅里叶变换

本文参考书目为《深入浅出图神经网络:GNN原理解析》

什么是图数据?

在计算机科学中,图数据是一种十分常见的数据结构(参考离散数学、数据结构等学科)。从数据角度出发,图被广泛用以描述、建模关系型数据,例如:社交网络、交通网络等。数学上,图由顶点(Vertex)及连接顶点的边(Edge)构成,即图可以表示为顶点和边的集合,记为G=(V,E),其中V为顶点集,E为边集。图的一些概念,如:邻接矩阵、度、连通性、有向(无向)等在此不做详细介绍。

图信号与图拉普拉斯矩阵

与离散时间信号不同,图信号定义在节点上,节点存在固有的关联结构,图数据处理(Graph Signal Processing, GSP)在考虑节点上信号强度的同时,还应考虑图节点之间的拓扑关系(即图上节点之间的关联)。
以下给出图信号定义:给定图G=(V,E),V为节点集合,长度为N,图信号是一种描述V→R的映射,向量表示:
对应下标节点上的信号强度
每个x代表对应下标的节点上的信号强度,如下图所示。
图神经网络学习笔记(1)——图信号与图傅里叶变换_第1张图片
介绍完图信号,要介绍一个研究图结构性质十分重要的工具——拉普拉斯矩阵。
图的拉普拉斯矩阵定义如下:(图源:百度百科)

图神经网络学习笔记(1)——图信号与图傅里叶变换_第2张图片
由定义知,A为图的邻接矩阵,D为对角矩阵是图的度矩阵,单一节点上定义如下:
对应下标为i的节点v的度
元素级别定义如下(下两张图源:图信号处理学习笔记(1):图信号基本知识及其变换)
图神经网络学习笔记(1)——图信号与图傅里叶变换_第3张图片
也可以对拉普拉斯矩阵元素进行标准化:
图神经网络学习笔记(1)——图信号与图傅里叶变换_第4张图片
拉普拉斯矩阵就简要介绍到此,附上百度百科拉普拉斯矩阵定义及性质链接拉普拉斯矩阵_百度百科

拉普拉斯算子

拉普拉斯矩阵定义来源于拉普拉斯算子,该算子是n维欧式空间中的一个二阶微分算子,定义为梯度的散度(图源百度百科):
拉普拉斯算子定义
给出一阶离散函数导数计算公式(图源:拉普拉斯算子)
在这里插入图片描述
将该算子作用域退化到离散二维图像空间,就是边缘检测算子,示例见下图:
图神经网络学习笔记(1)——图信号与图傅里叶变换_第5张图片
原理如下:
在图信号中,拉普拉斯算子描述了中心节点与邻居节点之间的信号差异。
结论:拉普拉斯矩阵就是图上的拉普拉斯算子,或者说是离散的拉普拉斯算子。拉普拉斯矩阵与拉普拉斯算子的关系

傅里叶变换

传统的傅里叶变换将信号从时域空间转化到了频域空间,表示能将满足一定条件的某个函数表示成三角函数(正弦和/或余弦函数)或者它们的积分的线性组合。(图源:傅里叶变换有什么用?_百度知道)
图神经网络学习笔记(1)——图信号与图傅里叶变换_第6张图片
傅里叶变换公式及逆傅里叶变换公式如下图所示:
图神经网络学习笔记(1)——图信号与图傅里叶变换_第7张图片
以声音信号为例,对输入的声音信号进行傅里叶变换,将其转化到频域中,则可以在频域中对不同特征频率的声音信号进行不同的处理,如提高频率、降噪等操作。
举个比较好理解的例子,电脑、智能手机上都不乏有声音处理软件,通过你输入的声音信号,电脑和智能手机通过其强大的计算能力在极短时间内把你的声音做傅里叶变换,把特定频段频率增加,就可以很轻松地完成男声到女声的转变。网络一线牵,“珍惜”这段缘。
傅里叶变换也广泛应用于数字图像处理,这里就不展开了。

图傅里叶变换

类比傅里叶变化,图傅里叶变换对于图信号的处理,也体现在将其从空域转化到频域。
由于图的拉普拉斯矩阵L是实对称矩阵,都可以被正交对角化,即:
图神经网络学习笔记(1)——图信号与图傅里叶变换_第8张图片
式中V是一个N阶正交矩阵,即:
正交矩阵
V中N个元素表示L的N个特征向量,由于V是正交矩阵,所以其N个特性向量彼此线性无关,λ是特征值组成的矩阵,且特征值矩阵中的元素升序排列,即:
特征值升序排列
由此定义图傅里叶变换(Graph Fourier Transform, GFT):对于任意一个图G上的信号x,其傅里叶变换为:
图傅里叶变换
特征向量为傅里叶基,等式左侧是x在第k个傅里叶基上的傅里叶系数,本质上,傅里叶系数是图信号在傅里叶基上的投影,衡量了二者之间的相似度。矩阵形式计算所有傅里叶系数公式如下:
矩阵计算形式图傅里叶变换
类比于逆傅里叶变换,给出逆图傅里叶变换(Inverse Graph Fourier Transform, IGFT):
逆图傅里叶变换

图傅里叶变换与图信号频率之间的关系

用以描述各条边上信号的差值进行加和,刻画图信号整体平滑度的标量称之为总变差,表达式如下:
图信号总变差
根据图傅里叶变换表达式改写总变差表达式,如下:
图神经网络学习笔记(1)——图信号与图傅里叶变换_第9张图片
由表达式可知,总变差与特征值之间存在非常直接的线性关系,总变差是所有特征值的一个线性组合,其权重是图信号所对应的傅里叶系数的平方。总变差衡量图信号整体平滑度,可将特征值等价于频率,特征值越低,频率越低,相近节点信号趋于一致;频率越高,相近节点上信号差异越大。
图信号所有傅里叶系数合称图信号的频谱。

本文为《深入浅出图神经网络:GNN原理解析》的一篇学习笔记,书中出现的一些概念、定义,不是特别明白的就参考了各方资料(百度百科、CSDN博客、知乎等),仅作为学习分享。

后续还会继续分享图神经网络相关内容,欢迎各位批评指正。

你可能感兴趣的:(笔记,神经网络,人工智能)