[李宏毅-机器学习]终身学习 Life-long learning

[李宏毅-机器学习]终身学习 Life-long learning_第1张图片

用同一个模型能解决很多任务

[李宏毅-机器学习]终身学习 Life-long learning_第2张图片

 

knowledge retention

[李宏毅-机器学习]终身学习 Life-long learning_第3张图片

在task1上训练的model,在用于task2的训练后,发现在task1上的performance就下降了

[李宏毅-机器学习]终身学习 Life-long learning_第4张图片

[李宏毅-机器学习]终身学习 Life-long learning_第5张图片

让在新任务上学习到的参数,使得其与之前任务上得到的参数的距离不是很远,每个参数都有一个b来控制它的重要程度

[李宏毅-机器学习]终身学习 Life-long learning_第6张图片

[李宏毅-机器学习]终身学习 Life-long learning_第7张图片

[李宏毅-机器学习]终身学习 Life-long learning_第8张图片

 

knowledge transfer

[李宏毅-机器学习]终身学习 Life-long learning_第9张图片

[李宏毅-机器学习]终身学习 Life-long learning_第10张图片

[李宏毅-机器学习]终身学习 Life-long learning_第11张图片

 

model expansion

[李宏毅-机器学习]终身学习 Life-long learning_第12张图片

 

[李宏毅-机器学习]终身学习 Life-long learning_第13张图片

 

 

你可能感兴趣的:(深度学习)