GTNs论文笔记（二）

接下来是元路径的产生过程。

图示如下：

看看下面的解释。这里的soft select我一直不太懂什么意思，暂且简称选择。在邻接矩阵集合A（上文提到的NxNxK张量）中选择邻接矩阵，括号内写着边类型。我是这样理解的，A可以看成有K层，每一层都是一个邻接矩阵，这个 邻接矩阵仅包含第k种边，所以选择邻接矩阵实际上是在进行选择一种边的操作。学习到的新元路径图通过选择的两个邻接矩阵Q1,Q2的乘积表示。选择邻接矩阵的过程实际上是通过1x1卷积完成的候选矩阵的加权和，并且权重是经过softmax的非负数。

上图表示的是成为Graph Transformer Layer(GT)的过程。接下来进行详细的解释。

元路径生成包括两部分，第一部分进行图结构的选择，第二部分将两个选择的关系进行复合产生新的图结构，这里采用的是矩阵乘法的方式。

在这个过程中，产生A中邻接矩阵的凸组合，那么什么是凸组合呢，就是给定一组对象x1-xn,有一组常数a1-an,满足a1+……an=1,则a1x1+a2x2+……anxn成为x1-xn的凸组合。实际上这个过程就是加权求和的过程。

在这个公式里，tl是一种边类型，α是这种边的权重，A是该种边的邻接矩阵。这个公式的计算是通过1x1卷积实现的，可以表示为

表示卷积层，是卷积的参数。1x1卷积的过程就是对所有的候选矩阵进行加权求和的过程，最终将得到一个NxN矩阵，就是我们选择的矩阵Q。

这里我仔细观察了一下图，为了选择两个矩阵，有两个W参数，不过为什么画法是这样的一直很困扰我，这点我先暂时忽略了，因为实在想不通。两个权重进行softmax的作用就是化为0-1之间的数并且和为1。

仔细观察softmax后的两个权重，分别只有一个格子有颜色。再看后面的图，以上面的为例，在卷积的作用下，所有的邻接矩阵生成了一个Q矩阵，再仔细观察图片，这个Q长得和原集合中最前面那片矩阵是一样的，我认为这是因为这一片的权重被设为1了，所以实际上完全地选择了一片矩阵。下面的也是如此，只不过是选择了最后一片。那么为什么要做乘法呢，看最后得到的结果虚线是Q1,Q2的的边，红线是最终得到的结果，原本没有边的两个点之间产生了边。回看产生它的两个矩阵Q1,Q2，可以看出这两个本无缘的点的关系是通过Q1,Q2得到的。如果原本的邻接矩阵是无权的，得到的结果就可以看做两个点之间有路径的概率。

现在问题的下一步是检查GTN是否能学习包含任意边类型和路径长度的元路径。任意长度的元路径邻接矩阵可通过来计算，实际上这个式子只是把上文的带入了。

这个结构的问题在于每增加一个GT层，就会增加元路径的长度，但并不允许原始的边。（这里不是很懂，先带过）

解决的办法就是在所有候选矩阵里加入一个单位矩阵。我记得在哪里看见过单位矩阵的作用，下次补充在文章里。以上都是比较好懂的部分了，后面的部分我看的一头雾水，属实很困难，希望在记笔记的过程中能有新的理解。