图神经网络的直推式(Transductive)学习与归纳(Inductive)学习

一般的定义

如何理解 inductive learning 与 transductive learning? - 王晋东不在家的回答 - 知乎  https://www.zhihu.com/question/68275921/answer/2034667107 

Inductive learning,翻译成中文可以叫做 “归纳式学习”,顾名思义,就是从已有数据中归纳出模式来,应用于新的数据和任务。我们常用的机器学习模式,就是这样的:根据已有数据,学习分类器,然后应用于新的数据或任务。

Transductive learning,翻译成中文可以叫做 “直推式学习”,指的是由当前学习的知识直接推广到给定的数据上。其实相当于是给了一些测试数据的情况下,结合已有的训练数据,看能不能推广到测试数据上。

对应当下流行的学习任务:

Inductive learning 对应于 meta-learning (元学习),要求从诸多给定的任务和数据中学习通用的模式,迁移到未知的任务和数据上。

Transductive learning 对应于 domain adaptation (领域自适应),给定训练的数据包含了目标域数据,要求训练一个对目标域数据有最小误差的模型。

如何理解 inductive learning 与 transductive learning? - TechOnly的回答 - 知乎 https://www.zhihu.com/question/68275921/answer/480709225 

图神经网络的直推式(Transductive)学习与归纳(Inductive)学习_第1张图片

在图上的定义

所谓直推式学习(GCN等),就是训练期间可以看得到没有标注的节点(训练需要整个图里面所有的节点参与),那么

        1.需要将整个图作为输入

        2. 模型是基于某个具体的图的,如Cora,换个图,模型就需要从头开始训练

所谓归纳式学习,在训练期间,看不到没有标注的节点常见的有GraphSAGE等

        1. 训练只需要图的局部,不需要整个图都参与训练。对于大型图,可以通过子采样的方法进行训练,不需要一次性输入整个图

        2. 由于这个特性,归纳式学习是可以迁移的。即,在这个图上训练好的模型,可以迁移到另外一个图中使用。

你可能感兴趣的:(小技巧,人工智能,深度学习,机器学习)