李宏毅unsupervised learning-Neighbor Embedding 课堂笔记

凭借的是降维前的空间中,每一个点和它的邻居之间的关系进行降维。 

也叫流形学习Manifold Learning。

李宏毅unsupervised learning-Neighbor Embedding 课堂笔记那个点离黄色点更远还是离红色点更远呢,表面上好像黄色点更远,但是按照形状其实红色更远,就像要降维之后再观察

 

 方法一:局部线性嵌入(LLE)

李宏毅unsupervised learning-Neighbor Embedding 课堂笔记LLE目的也是降维,第一步找出wij李宏毅unsupervised learning-Neighbor Embedding 课堂笔记

 

 李宏毅unsupervised learning-Neighbor Embedding 课堂笔记K不能太大也不能太小。

 

 方法二:Laplacian Eigenmaps

李宏毅unsupervised learning-Neighbor Embedding 课堂笔记根据graph来测距离,进行降维

 

 supervised:李宏毅unsupervised learning-Neighbor Embedding 课堂笔记 unsupervised:李宏毅unsupervised learning-Neighbor Embedding 课堂笔记希望minS,但是当zi和zj都是0时,自然S最小,降维成了一个点,所以要对z有限制,希望填满降维后的空间

 

方法三:t-SNE

LLE缺点:李宏毅unsupervised learning-Neighbor Embedding 课堂笔记

 

 TSNE原理:李宏毅unsupervised learning-Neighbor Embedding 课堂笔记李宏毅unsupervised learning-Neighbor Embedding 课堂笔记