增量学习的定义

增量学习

• 定义： 增量学习(Incremental Learning)是指一个学习系统能不断地从新样本中学习新的知识，并能保存大部分以前已经学习到的知识。增量学习非常类似于人类自身的学习模式。

增量学习作为机器学习的一种方法，现阶段得到广泛的关注。在其中，输入数据不断被用于扩展现有模型的知识，即进一步训练模型，它代表了一种动态的学习的技术。对于满足以下条件的学习方法可以定义为增量学习方法：

• 可以学习新的信息中的有用信息
• 不需要访问已经用于训练分类器的原始数据
• 对已经学习的知识具有记忆功能
• 在面对新数据中包含的新类别时，可以有效地进行处理

为什么需要增量学习算法？

1）数据库中的数据是动态变化的

2）数据量（训练样本）的变化引起重复学习

3）应避免在海量数据的情况下重复学习

4）˜只需修改因数据变化而涉及的规则

5）增量学习算法是数据挖掘算法走向实用化的关键问题之一

增量式算法的重要性体现在2个方面：

1）在实际的数据库中，数据量往往是逐渐增 加的，因此，在面临新的数据时，学习方法应能对训练好的系统进行某些改动，以对新数据中蕴涵的知识进行学习。

2） 对一个训练好的系统进行修改的时间代价通常低于重新训练一个系统所需的代价。

增量式算法：就是每当新增数据时，并不需要重建所有的知识库，而是在原有知识库的基础上，仅做由于新增数据所引起的更新，这更加符合人的思维原理。