持续学习(continual learning/ life-long learning)

        持续学习，泛化知识的能力是强人工智能的重要特征。人工智能的重要研究目标是构建具备持续学习能力的智能体，该智能体可以根据自身经验构建对世界的复杂理解，从而利用更复杂的知识进行自主的渐进式的训练与改进。

        深度学习模型的学习过程通常是局部或孤立任务中的固定数据集，这令模型难以产生更复杂和自主的智能行为。持续学习（Continual Learning），也称终身学习（Life-long learning）是解决此类问题的研究方向，它的目标是扩展模型适应能力，令模型能够在不同时刻学习不同任务的知识，同时不会遗忘先前任务的特征。

        在深度神经网络上进行持续学习有两个目标：一是应对神经网络由于其自身的设计天然存在的灾难性遗忘问题 (McCloskey and Cohen, 1989)，二则是使训练模型更为通用，即令模型同时具备可塑性（学习新知识的能力）和稳定性（对于旧知识的记忆能力）。

        可以持续学习的深度学习系统的难点在于设计一个对新输入敏感但不会受到颠覆性干扰的系统。当前主流的针对神经网络模型的持续学习方法可以分为一下几类：

• Regularization： 在网络参数更新的时候增加限制，使得网络在学习新任务的时候不影响之前的知识。这类方法中，最典型的算法就是EWC。
• EWC https://github.com/GMvandeVen/continual-learning
• Ensembling： 当模型学习新任务的时候，增加新的模型（可以是显示或者隐式的方法）࿰