Meta-learning(元学习)

Meta-learning       

       meta-learning是learning to learn

       meta learning是和machine learning并列的

      相较于之前的机器学习算法,meta learning 是让机器学会学习。传统的机器算法只是希望机器学习到一个函数f,通过这个函数f,来判断这个图片属于究竟属于哪个类别,一条微博的评论是正面还是负面。但是meta learning 是希望机器在学习了一些图片分类任务之后,可以学会文本分类的任务。

     就是说,我们期待做到的事情是,机器学过一大堆的任务以后,根据在这些任务中积累的经验,变成了一个更厉害的学习者,以后如果有一个新的任务,它会学习得更快,因为它从过去的任务里面学习到了学习技巧


Meta-learning(元学习)_第1张图片

 

Meta Learning的建模思路

前面的概念描述可能依然比较抽象,下面我们用具体的模型架构来解释一下Meta Learning实际上在做的事情。

Meta-learning(元学习)_第2张图片

首先,上图描述的是传统机器学习在做的事情——由人来设计一套学习算法,然后这个算法会输入一堆训练资料,通过长时间的训练得到算法里的参数,这堆参数拟合出一个函数f ,然后用测试资料来测试这个f,如果效果达标就证明机器学到了该特定任务的实现函数f。

而Meta Learning做的事情与上述描述不同的地方在于,将其中由人来设计学习方法的过程,改成了由机器来设计一套学习方法。

简言之,如果机器学习的定义表述为:根据资料找一个函数f的能力

那么Meta Learning的定义就可以表述为:根据资料找一个能够找到一个函数f的函数 F 的能力

 

meta learning中主要的几种方法:

Meta-learning(元学习)_第3张图片

 

Meta Learning的简单实例:MAML

https://blog.csdn.net/hxxjxw/article/details/108134387

 

 

 

meta-learning中比较常见的一种训练方式的N-classes-k-shot

 

meta learning已经被证明在少样本学习上取得了较好的效果

 

meta learning将GANs的传统训练思维,由用数据去匹配模型,转变为用模型去匹配数据,为解决生成模型的少样本学习问题提供了突破口

你可能感兴趣的:(元学习,meta-learning)