机器学习与模式识别【神经网络】

怎样创造能模仿人的机器
①飞行：从观察和模仿鸟类开始
②智能：从观察和模仿大脑开始
神经元：树突、轴突
人工神经元（感知机）：净输入（加权求和）—>**函数----->输出（净输入超过阈值输出1，否则输出0）
感知机：感知机的输入是x，权重是w，x首先和w加权求和得到净输入，在经过**函数得到输出
**函数
阶跃函数是非连续的，对于求导比较复杂
学习感知机的权重：通过训练样本
1.寻找一个能正确划分所有样本点的直线
2.从随机初始化开始，逐步调整权重
3.对每个样本点（x,y），计算o，更新权重（从错误中学习）
4.如果训练集线性可分，感知机算法可在有限步内收敛
异或问题：感知机不能找到分类界面，感知机无法拟合异或函数（非线性可分函数）
多层感知机——解决异或问题（模拟异或函数的多层感知机）
用两层神经元，两层神经元直接要由**函数带来非线性变换
多层感知机的学习：
①超参数（预先设定）：神经元个数，隐藏层个数，**函数等
②主要学习内容：链接神经元的边的权重
③如何学习：数值优化——拟合训练数据，最小化网络在训练数据上的误差
误差与损失函数