ReCoLe Relation-dependent Contrastive Learning withCluster Sampling for Inductive Relation Predicti

摘要

关系预测是为了补全知识图而设计的任务，旨在预测实体之间缺失的关系。近年来，基于子图的归纳关系预测模型受到越来越多的关注，该模型可以根据候选三元组周围提取的子图来预测不可见实体的关系。然而，由于它们不能预测看不见的关系，它们不是完全归纳的。此外，他们没有充分重视关系的作用，仅仅依靠模型学习参数化的关系嵌入，导致长尾关系预测不准确。本文引入关系依赖对比学习(ReCoLe)进行归纳关系预测，该方法将对比学习与基于聚类算法的抽样方法相结合，增强关系的作用，提高对不可见关系的泛化能力。ReCoLe不是直接学习关系的嵌入，而是为每个关系分配一个预先训练好的基于gnn的编码器，以加强关系的影响。基于gnn的编码器通过对比学习进行优化，保证了长尾关系的良好性能。此外，聚类抽样方法使ReCoLe具有处理不可见关系和实体的能力。实验结果表明，ReCoLe在常用的归纳数据集上优于最先进的方法。

1.介绍

虽然这几组方法都表现出了良好的性能，但由于处理kg的技术原因，它们都存在一些不足之处。具体来说，基于嵌入的方法基于学习到的实体和关系的嵌入来预测关系，它们无法推断训练集中未出现的实体之间的关系，这些实体仅限于传导设置[6]。最近，研究人员将基于嵌入的模型扩展到归纳版本[7]，[8]，可以对看不见的实体进行预测，无需重新训练。但是，它们需要额外的计算，并且不能处理没有额外信息[9]-[11]的实体。逻辑归纳法[12]、[13]通过学习KGs[14]、[15]中隐藏的统计规律和模式，推导出概率逻辑规则。然而，由于学习统计规律的计算量过大，将逻辑归纳模型应用于大型知识图是不现实的。基于子图的方法受到由相邻三组构造的局部子图可以推断两个实体之间关系的启发，在提取的子图上应用图神经网络(GNN)来获得预测