论文阅读：基于图神经网络的分类法自动更新模型

Evolving Taxonomy Based on Graph Neural Networks

摘要

分类法是人类对领域知识的理解和组织。在这个知识爆炸的世界中，如何自动进化分类法变得至关重要。在本文中，我们介绍了一种以半监督学习方式自动更新分类法的模型。在我们的模型中，目标是训练一个图神经网络模型，该模型可以有效地将新添加术语与现有术语之间的边分类为三种类型：真正的下位词-上位词关系、转导下位词-上位词关系和假下位词- 上位关系。我们探索了图卷积神经网络、双曲图卷积神经网络和图注意力网络完成这项任务的能力。我们对 SemEval-2016 Task 13 数据进行了实验，以测试通过进化获得的分类法与获胜团队的再生算法相比的质量。

介绍

分类法或概念层次结构是实体的树形语义层次结构（下位词-上位词关系）的组合。我们一直专注于从头开始或使用非常有限的种子术语自动构建分类法。然而，在更常见的实际情况下，我们可能需要在现有分类法的基础上演进分类法。
在本文中，我们提出了一种基于图神经网络的半监督分类进化算法，以识别新添加术语和现有术语的真实下位词-上位词关系、转导式下位词-上位词关系和假下位词-上位词关系。

基于图神经网络的分类法自动更新模型

我们的分类学演变方法包括四个主要步骤：

• (1) 构建真正的下位词-上位词对的初始图，包括图中的转导对。
• (2) 将节点的语义词向量拼接为边表示向量。
• (3) 应用边-节点变换，聚合成以原始边为节点的新图。
• (4) 用图神经网络训练节点分类模型。

边缘表示：我们使用下位词和上位词的预训练词向量（Glove、fastText 和 ELMo）的串联作为边向量表示。

边缘节点转换：边节点转换简单直接。对于每两条边，如果它们有一个公共节点，则这两条边将是节点，该节点将是连接的边。该算法可以很容易地用折线图来实现。
对于图 G，LineGraph[G] 中的每个节点对应于 G 中的一条边。
我们在图 1 中展示了从原始图到边节点转换图的图处理示例。对于有向原始图，我们可以添加另外两条用黄色点线表示的转换边。然后我们应用边节点转换，产生孤立节点 $E_{ce}，E_{dc}，E_{be}，E_{de}$ 。然后将这些孤立节点附加到根节点。

图神经网络：在本文中，我们探索了图神经网络从噪声图中学习并预测正确标签的能力的最新进展：图卷积神经网络 (GCN) 、双曲图卷积神经网络 (HGCN) 和图注意网络。

总结

在本文中，我们提出了基于图神经网络的方法来进化分类法。然而，与最近最先进的算法相比，我们并没有取得太大的成功。我们总结了失败的几个原因：首先，我们只使用一小部分分类作为训练数据。其次，边节点变换导致完全不同的图拓扑，在某些情况下会导致很多孤立节点，环境域就是这种情况。

图卷积网络和双曲图卷积神经网络是分类学构建中很有前途的工具。未来，我们将进一步探索设计这两种算法的损失函数，以优化真实关系类和转导关系类的性能。另一个方向是直接对边缘进行分类