meta-learning的新的理解---以Relation Network为契机的新的感触

本文的核心价值：

模拟人在区分物体的过程，比如iPhone和其他安卓机的区别，一个人会找，看哪个手机有空气刘海，ok，这个有，那它就是iPhone咯！
这里边有两个过程，一个是人脑中的空气刘海—这个是人对于手机所提取到的特征；另一个是，ok，这个有，就做出它是iPhone的判断—这对应着人用先前提取的特征来在待测样本中判断待测样本和这个特征关系的过程。
文章的embedding module就对应上面的第一个过程；relation module就对应上面的第二个过程。
可以看出，本文的embedding module其实和matchnet或者prototype是一样的，不论从结构还是作用上来看都是！
本文的创新点在与relation
module！用来描述和计算待测样本间的关系，利用这些关系进行分类。BUT，关系的说法太过抽象，具体来说，relation
module就是用来算query样本和support样本间的距离的。这个距离不是我们定义的，而是模型自己学到的，这有别于matchnet和prototype！它们的关系网络分别对应于cosine距离和欧式距离，是手工设计的一种度量。

最后是关于这个模型带个我关于元学习的启发吧：该模型学习到了一种度量。这种学习度量的能力，正是元学习的体现！与此对应的还有：学习模型初始化参数、学习模型超参数、学习模型优化器以及学习模型网络结构等。只要是模型能自己学到的东西，都属于元学习的范畴，它的典型特征你就是非人手工设计或者提取的！