深度学习理论篇之 (三) -- 感知机的横空出世

科普知识

     人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互连接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

前言

     在上一期的深度学习理论篇文章中,我们主要介绍了入门深度学习的理论基础与计算机基础,说明了数学理论和计算机编程在一定程度上的促进作用,同时也说明了入门深度学习具有一定的软件和硬件门槛,当然了,不要担心这些,兴趣是最好的老师,这条路,属于我们每一个人,最终,只为了,遇见,更好的你们,我们!

     今天,我们将会进入深度学习了理论篇的正式开篇文章--感知机的横空出世,一起往后看看吧!

感知机

深度学习理论篇之 (三) -- 感知机的横空出世

     开篇之时,我们依旧问一个问题,为什么在深度学习理论篇中,我们要首先学习感知机这个概念,它到底有什么用,它在深度学习中又处于怎样的地位,带着对问题的思考,我们先来了解感知机的概念。    

     在深度学习的早期,也就是传统机器学习横行的年代,有一类算法叫做人工神经网络算法,它抽象于生物神经细胞,意图在于模仿人类大脑神经元对外物感知并经过计算做出决策的过程,因此,人工神经网络的基础结点为一个个神经元,而感知机就是以神经元为基本单元的结构,如下图:                                    

最简单的感知机

                                    

深度学习理论篇之 (三) -- 感知机的横空出世

                               标准的感知机结构

深度学习理论篇之 (三) -- 感知机的横空出世

深度学习理论篇之 (三) -- 感知机的横空出世

1.1 感知机结构分解

     感知机可以接收多个输入信号(如图中的x1,x2,x3...),输出一个或者多个信号(如图中的y), 不同的输入x与其对应的权重w相乘后全部加和,再与偏置值(此处为w0)相加后送入**函数,经**函数(此处为:step function函数)后得到该感知机的输出。

     如上图所示,感知机包括以下几部分:

输入项:1,x2, x3....

权重:w1, w2,w3.....

**函数:将前面的每个输入乘以对应权重的总和(此处为:1*w0+x1*W1+x2*w2......)输入到**函数进行映射到某个特定范围(为啥呢?简单点就是为了不让前面的总和过于吓人,过大或者过小,进过**函数后就进入了我们给定的范围)。

      如下图为**函数之一:x坐标轴即为我们输入的总和的范围,y轴对应我们的**函数输出范围(0-1).

深度学习理论篇之 (三) -- 感知机的横空出世

输出:总和经过**函数后的最终输出,如果设最终的输出为y的话,我们可以表示为:y=f(1*w0+x1*W1+x2*w2......),此处f即为上一步的**函数。

1.2 感知机解读

     经过上面的结构分解,相信大家的已经从数学的角度和图像表示的角度有了一定的理解,但是我们可以更加通俗的说一下感知机到底是啥,感知机可以当作是一种类似加减乘除的或者别的放大缩小的的各种操作,只要你输入数据,它就可以返回经过它处理后的结果,就类似存在一个加法器,我们输入两个数后,加法器返回两数相加后的结果。

    因此,我们来回答感知机在深度学习的地位如何,其实,它的地位就是基石,深度学习的主要组成是深度神经网络,而深度神经网络就是人工神经网络也就是感知机的进化版,无疑这是重中之重,我们必须弄懂其中的每一步,方才能够在后面走的越远。

深度学习理论篇之 (三) -- 感知机的横空出世

结语

本次感知机的分享到此结束了,我们从数学的角度进行了推导,也从图像的角度进行了展示,同时指出了它在深度学习中的重要性,在后面知识中,我们会了解到今天的感知机其实就是前馈神经网络的雏形,期待下一次的分享,我们下期再见!

这条路,没有高低,没有对错,有的只是,更好的你们,我们……

编辑:玥怡居士|审核:小圈圈居士

深度学习理论篇之 (三) -- 感知机的横空出世

深度学习理论篇之 (三) -- 感知机的横空出世

一度暑出处暑时,

秋风送爽已觉迟。

IT进阶之旅

点点点,赞和在看都在这儿!

深度学习理论篇之 (三) -- 感知机的横空出世