Meta learning - metric-based approach 李宏毅机器学习笔记

Siamese Network

孪生网络，通常不会放在meta learning里面

但是李宏毅就要把这个网络放在meta learning里面讲

所以为什么孪生网络可以看成meta learning呢？

一、直观解释 Intuitive Explanation

可以将train和test看成一组输入，就是一个简单的二分类问题。

                     

原理：用CNN将人脸图片投影到同一个空间上，考量这个空间上两张图片的距离（similarity）

计算similarity的方法的reference

 

二、与meta learning相关解读

crazy idea： 找个function 同时做到learn和predication，训练资料和测试资料同时放进去，就可以吐出测试资料的答案

可以用孪生网络实现，孪生网络就是特意设计了网络的架构来完成这件事，用一个general的net work很难实现

引用https://blog.csdn.net/jesseyule/article/details/103808456这篇文章中的一句话

目前有一种说法认为，深度学习模型在数据量较大的情况下才能取得较好的效果，当数据量较少，更偏向于使用传统的机器学习模型。想办法从深度学习的方向构建模型，使得模型在数据量较小的情况下也能取得较好效果，就是meta learning的目标

也就是说，孪生网络在应用到真实场景例如手机解锁之前，以及经过了很多个task的训练，得到了最好的参数初始化，在实际应用的时候就可以直接使用。

question：直接使用pre-train 的network不就好了吗？

 

相关网络：Relation Network

测试图片的embedding放在训练的embedding的后面，相似度用g,而不用人手工去算