GAT 图注意力网络

GAT 提出了一种自学习边的权重的方法。

在GNN里,权重是人为给定的,在GCN里,权重是跟结点的度有关系的,而在GAT里,权重跟结点所具有的特征有关系。

怎么计算的呢?还是看原来那副图。

GAT 图注意力网络_第1张图片

其中,A,B结点之间边的权重可以这么来计算

其中,W是一个可以将高维向量转化为低维向量的转换矩阵,a是一个向量。

||操作符表示把两个向量并在一起。

再来看原论文中给出的图和计算公式

GAT 图注意力网络_第2张图片GAT 图注意力网络_第3张图片

多头注意力机制

GAT 图注意力网络_第4张图片GAT 图注意力网络_第5张图片

         多头注意力机制就是根据不同的特征依据,采用多套W和a来进行图注意力网络的计算,把结果拼接起来或者作平均来得出最终值。

 

参考资料:

简单快速教你理解图注意力网络graph attention network_哔哩哔哩_bilibili

你可能感兴趣的:(图学习,人工智能)