知识卡片 感知机

知识卡片 感知机

前言:本文介绍神经网络的基础算法感知机学习算法,并通过实例进行讲解。

感知机 Perceptron

什么是感知机?

知识卡片 感知机

y=g(w dot x + b) 中,w是权值向量,b是偏置,对含有n个变量x的数据进行有监督的训练学习,得到参数w 和 b,通过激励函数g实现分类,结果为+1 则为阳性, -1 为阴性,再将新的样本测试模型,可以进行预测分类。

感知机模型的损失函数

知识卡片 感知机

蓝红两点是错误分类点,如果统计错误点的数量,作为损失的计算,它是不连续和不可导,无法进行优化,因而改算误分类点到一个分类超平面的距离,距离越近,损失越小;此外,双竖线代表L2范数。

损失函数是针对误分类点的,yi和(w*xi + b)相反,当(w*xi + b)的分类结果是-1时,实际上yi 是+1,此时损失函数前有负号,因而大于0;(w*xi + b)的分类结果是+1时,yi是-1,损失函数大于0。

感知机模型的优化‐随机梯度下降法

知识卡片 感知机

感知机算法的损失函数极小化过程中,算梯度的误分类点不是全部计算,而是每次随机选取一个样本点,使其梯度下降,然后不断的迭代更新,直到优化的参数w和b使得所有的样本点的距离小于等于0,误分类点的个数为0。

感知机学习算法

知识卡片 感知机

感知机迭代实例

知识卡片 感知机

知识卡片 感知机

知识卡片 感知机

知识卡片 感知机

知识卡片 感知机

知识卡片 感知机

好文章,我 在看❤