第二章补充:浅层神经网络——SVM,Autoencoder,RBM,

一、支持向量机SVM

第二章补充:浅层神经网络——SVM,Autoencoder,RBM,
分类的边界附近的向量为支持向量

线性

非线性

#用核函数计算低维两个向量在高维空间的内积(可以理解为距离)
将非线性的向量通过核函数映射到高维空间,进而线性可分

二、自编码器

高维->低维->高维
输出=输入(理想状态)
训练好后便可用来新数据解码。
第二章补充:浅层神经网络——SVM,Autoencoder,RBM,

一次无法提取出全部特征–>多次提取(增加隐含层数量):深度自编码器,也称栈式自编码器(易于收敛)
第二章补充:浅层神经网络——SVM,Autoencoder,RBM,

三、深度置信网络(DBN)

受限玻尔兹曼机(RBM)

受限:层间节点不相互连接
效果比自编码器好

特征提取

加入了**函数
第二章补充:浅层神经网络——SVM,Autoencoder,RBM,

重建

第二章补充:浅层神经网络——SVM,Autoencoder,RBM,