inductive learning和transductive learning最最简单易懂的解释 | 算法举例

网上很多大神对inductive learning和transductive learning进行了原理层面的讲解，并且给出了数学符号进行严谨定义。但机器学习小白理解起来还是有些费劲，本文力求用最最简单易懂的语言介绍二者的定义和区别。

概念定义

inductive learning：归纳学习，从特殊到一般；
transductive learning：转导学习，从特殊到特殊。

算法举例

文字性的叙述一大堆很难看明白，但先上例子其实就很容易自己get到二者的区别了。

inductive learning：分类、预测神经网络，各种决策树模型。
transductive learning：SVM，LPA（标签传播），KNN，各种聚类算法，NLP神经网络（如RNN、CNN with encoder and decoder）。

区别

现在对二者区别进行归纳，对照上面的举例应该就很容易理解了。

inductive learning在模型构建时只使用training data；
构建好模型（如分类器）后直接把test data的值待入到模型中，模型就能输出test data的结果（如类别）；
此时如果再来一批test data，直接投入模型中计算结果即可。

而transductive learning在模型的构建时使用training data和test data，只是training data有标签，test data无标签（当然，构建模型时使用的是test data除了标签之外的信息）；
构建好模型基本上就相当于得出了test data的结果（如类别）。此时如果再来一批test data需要重新训练模型（因为模型是基于前一批test data搭建的，已经不适用于新数据了，这就是所谓“从特殊到特殊”）。

实例

假设我们有如下数据进行分类，有颜色的是有标签数据（分别属于两类），无颜色的是无标签数据。
首先使用inductive learning，即用四个training data训练出一个一般性的模型（注意，这里要将无颜色的点忽略），那么很可能计算得出一条分界线，左下是红色类，右上是绿色类：

得到的结果如下。此时如果再来一个数据，只需要判断其在分界线哪边，就可以直接得出分类结果。

假设我们除了类别信息，还有其他信息（比如关系信息），这时候可以尝试使用所有data构造一个transductive model，此时test data也被利用了关系信息。

这时候，训练出的分类模型可能是下面这样的。但是，如果新来一个数据模型就需要重新训练了，不能直接得出其类别。

你学废了吗？