SUBGRAPH REPRESENTATION LEARNING WITH HARD NEGATIVE SAMPLES FORINDUCTIVE LINK PREDICTION

摘要

知识图(KGs)中的归纳链接预测通常用于诱导捕获实体无关的关系语义的逻辑规则。最近的研究表明，图表示学习可以在局部子图结构中编码这些逻辑规则。通过这种方法，该模型具有处理不可见实体的归纳能力，这对于真实世界kg的演化性质是实用的。然而，尽管高质量的负样本在链路预测中很重要，但目前还没有方法选择硬负来进行链路归纳预测。为了克服这一限制，我们提出了一种新的抽样方法，在给定一个正三元组的情况下选择硬负样本。我们还提出了一种新的归纳链接预测模型子图信息max (SGI)，其新提出的训练目标是最大化目标关系和封闭子图之间的互信息(MI)。我们使用预先训练好的SGI MI估计量来选择硬负样本。然后使用选定的硬负样本对模型进行微调。在经验上，我们证明了我们的模型在归纳KGC基准的多个数据集上的优越性能，显示了目标关系嵌入和子图表示之间的增强连通性。

我们提出了一种新的KGs归纳链接预测方法，我们提出了一种新的模型，称为SGI，它使目标关系与其封闭子图之间的MI最大化。我们还提出了一种利用SGI预训练MI估计量选择硬NS的新采样方法。我们的模型在两个归纳KGC基准上显示了优越的性能，显示了目标关系嵌入和子图表示之间增强的连通性。高性能的微调SGI证明了质量的硬底片提取由我们的方法。

什么是hard negative mining - 重大的小鸿 - 博客园

为了在选择高质量的负样本，Kwak等人提出了SGI，它使目标关系与其封闭子图之间的交互信息最大化，该模型利用预先训练好的SGI相互信息估计量来选择困难负样本，然后使用选定的困难负样本对模型进行微调，显示了目标关系嵌入和子图表示之间增强的连通性。