机器学习笔记(XV)神经网络(II)感知机和多层网络
感知机(Perceptron)
组成
感知机(Perceptron)由两层神经元组成
输入层:接收外界的输入信号,传递给输出层,
输出层:输出层时
图解:
感知机和与或非运算
前提
输入向量:
权值向量:
输出结果:
- 与运算:
(x1∧x2) :令w1=w2=1,θ=2 ,则y=f(1⋅x1+1⋅x2−2) ,则:x1=x2=1 时,y=1 ; - 或运算:
x1∨x2 :令w1=w2=1,θ=0.5 ,则y=f(1⋅x1+1⋅x2−0.5) ,则:x1=1 或者x2=1 时,y=1 ; - 非运算:
¬x1 :令w1=−0.6 ,w2=0,θ=−0.5 ,则y=f(−0.6⋅x1+0⋅x2−0.5) ,则:x1=1 ,y=0 ;x1=0 ,y=1 ;(其实这里w1 可以取其他值)
权值调整
权重和阈值可以通过学习得到,如果将
输入向量:
权值向量:
输出结果:
调整方法
其中
缺点
不能处理异或问题,
异或问题
两层感知机: