小样本学习之关系网络:让机器自己学习如何度量
论文:2018-CVPR-《Learning to Compare: Relation Network for Few-Shot Learning》
之前讲过一篇有关度量学习的论文--原型网络。那篇论文中讨论了如何将样本投影到一个嵌入空间中,使得相似样本间的距离较近,他学习的是如何投影这个过程,而样本间的距离度量方法是人为设定的,这样的话那个投影过程也就是基于人为设定的度量方法来学习的了。就像我之前所说,度量学习的一个问题就是度量两个样本间相似性的方法,使用一个单纯的距离来判断是否合理?或者说使用一个我们认为的某种维度上的距离来判断是否合理?
在这篇论文中,抛弃了之前所说的人为设定的距离度量方法,而是选择让机器自己去学习如何度量两个样本间的相似性。毕竟对于机器能理解的相似性和我们所理解的相似性我们是无法判断是否是一样。
先上图:
f函数就是之前所讲的嵌入函数,我们将五个类别的训练图片通过嵌入函数投影至一个空间中,再将另外一个属于之前五个类别中一类的一张图片同样投影到这个空间中,然后我们将这个图片与之前的五张图片的数据拼接起来,通过一个关系网络g来输出一个one-hot向量,训练阶段我们是知道他们的标签的,故我们的目标函数便是让狗那个类别在One-hot向量中所对应的那位最大。
通过这样的方法,我们就能学到一种起码在机器来看比较好的度量方法,能够较好的判断两个样本间的相似性。
其中f和g都是带参数的网络,需要去学习。
这篇论文的想法真的挺好,我们在向通用人工智能方向研究的过程中,应该就是一个不断将人为设定的内容摒弃的过程,我相信自主学习的机器是不需要人为设定过多东西的,所以这篇论文相比之前的度量学习方法是一个很大的进步。