机器学习学习笔记-持续学习（Continual Learning/ Life-long Learning）

任务：

将旧任务学习的知识应用到新的任务上，同时在旧任务上的表现不会出现太大的损失。

问题：

（1）将旧任务的知识利用，从而更快适应新任务。
（2）在学习新任务的同时在旧任务上的表现不会出现太大下降。

两个任务的关系：

（1）新旧任务目标一致，但数据分布不同。
如：普通话的语音识别和方言的语音识别，建模单元是一样的，输入的特征空间分布会不同。
（2）新旧任务目标不一致，但相似。
如：普通话的语音识别和英语语音识别，建模单元不一样，输入的特征空间分布也不同，但都是语音识别任务。
（3）新旧任务目标不相似。
如：语音识别和图片分类。

解决方法：

（1）增加对旧任务学习到的参数进行限制，把模型学习新任务对旧任务表现的影响降到最低。
如：EWC（Elastic Weight Consolidation）
（2）增加新的参数。
如：PathNet
（3）将旧任务的数据复用。
（4）设置长时记忆和短时记忆参数。
（5）让旧任务的知识储存在稀疏的参数中。
推荐阅读：
[1] Continual Lifelong Learning with Neural Networks: A Review [paper]
[2] A continual learning survey: Defying forgetting in classification tasks [paper]
[3] Class-incremental learning: survey and performance evaluation [paper]
参考：
[1] 持续学习-Continual learning [CSDN]
[2] 介绍几篇incremental/continual/lifelong learning的综述论文 [知乎]