写在前面：

这篇是这一系列的第一篇，神经网络，以前只是会用，但总没去了解其中的细节。学了很久，想把知识和心得都写下来，给自己留个笔记。如果赶巧帮到他人，那再好不过了。
神经网络真的是个很有意思的东西，繁复的公式不总是好的，公式的美应该在于简练和对称。
对于这些，神经网络的种种做到了，越往下看，会觉得神经网络很奇妙。
简单的结构堆砌起来就做了许多了不起的事情，简直就是一种玄学。

任技术更迭，原理却永恒。

1.什么是感知器

简单地说，感知器就是一种神经元，也可以理解为我们现在常用的S型神经元的前身。要更深刻的理解S型神经元，就得从感知器说起。

先来看看感知器的工作方式：

输入：有多个输入并产生一个输出，这里取三个输入为例。
权重：为了计算输出，权重的概念被引入。对这三个输入，分别引入三个权重w1，w2，w3，这些权重的数值，就对应着每个输入对输出而言的重要性。这里的运算是将各个权重与对应的x值相乘求和，得到一个值∑j wjxj。
输出：而对于输出，感知器目前比较傻，只能取到0或1这两个数。那如何决定输出是0还是1呢？需要将上面运算得到的乘积和∑j wjxj与一个阈值进行对比，大于这个阈值则输出为1，小于这个阈值，则输出为0。
用代数形式表示就是：

感知器的功能大概就是这样，输出的值为0或1，可以看作一个两项选择题，感知器正是依据给它的几个条件以及你对这些条件的重视程度（权重）来帮你做出合理的选择。
假如输入的事件是确定的，随着权重和阈值的改变，我们的决策模型也做出了变化。
以上就诠释了一个感知器如何做出决定。

2.多层的感知器

单层的感知器看起来十分简单，让我们把单个感知器组合一下：

现在我们得到一个多层的感知器。
第一列，也就是第一层圆圈，通过我们给出的输入做简单的决策，就像上面单个感知器能做得到的一样。
第二列感知器，已经不再简单，他需要根据第一列感知器的决策做出更复杂的决策。
那么同理，第三层能做的就更复杂了。如此，我们能够完成一个更负责的决策问题。

需要特别注意的是，这里和上面的单个感知器一样，每个也只有一个输出，这里的多箭头只是表示将一个输出值作为下一层多个感知器的输入。

3.感知器的优化

现在，对之前的单个感知器做一些简化：
改动1：把之前的相乘求和改成点乘，修改后的w对应权重的向量，而同理x对应输入的向量。

改动2：我们令阈值的相反数为b，并将b加到左边去，让右边等于0。相当于是让两边减掉阈值。这个b叫偏置，可以认为是感知器输出1的概率。
偏置这个概念在之后会经常用到，而不会再说阈值。

用简单的几层感知器，通过人工设置权重和偏置，我们可以完成与非门的构建。有了多个与非门，我们甚至可以构建出任何运算。
感知器的作用远远不在于与非门。通过设计算法，可以实现自动调整人工神经元的偏置b和权重w，因此可以简单的解决许多复杂的问题。

End。