机器学习基础--各种学习方式（28）--元学习方法

元学习方法MAML

　　Meta Learning（Learning to learn），让机器学习如何学习。元学习学习到的是学习能力，而不是知识本身。
　　智能很重要的一方面在于它的多功能性（versatility）——即可以处理多种不同事情的能力。而我们人类却可以在新的未知条件下表现出十分智慧的行为和适应性。那么我们如何才能教会我们的智能系统学会各种能力，从容面对变化的世界呢？

元学习的理解

　　近年来研究人员们开发了许多方来解决这一问题，我将在文章中进行全面的介绍，同时还将讨论我们实验室最近研发的新技术，我们称为：未知模型元学习法（model-agnostic meta-learning）。
　　然而我们希望它可以通过复用曾经的经验来学会如何快速学习新技能，而不是孤立地考量每一个新的任务。像这样实现学会如何学习（也叫作元学习，meta-learning）的能力，是实现多样性AI的关键一步，从而可以连续的学习广泛技能，充满灵活性与适应性。
　　Meta Learning，元学习或者叫做 Learning to Learn，学会学习 已经成为继Reinforcement Learning 增强学习之后又一个重要的研究分支。
　　这里考虑的是学会学习方法论与深度学习结合的研究，这个研究方向就非常短了，可以说也就是去年才真正火起来，涌现出了多篇关于学会学习的论文。我在github上也总结了一些学会学习的papers：
songrotek/Meta-Learning-Papers

元学习算法

　　元学习系统通过大量的任务来进行训练，随后利用新的任务来测试系统的学习能力。
　　元学习中模型是通过元学习训练集中的不同任务来进行训练的。它需要两个方面的优化：分别是学习新任务的学习器和训练学习器的元学习器。下面我们将主要介绍元学习的三种典型方法：递归模型、度量学习和学习优化器。

一些具体的论文

　　《Meta-Critic Network》：让AI在学习各种任务后形成一个核心的价值网络，从而面对新的任务时，可以利用已有的核心价值网络来加速AI的学习速度！ Meta-Critic Network作为一种全新的Meta Learning方法，通过训练出一个核心指导网络（也就是核心价值观），从而能够指导新任务的快速学习，具备非常大的潜力。