Part 1 (一)深度学习概论

1.1 什么是神经网络

Ex.1 Single neural network

  • 用房子面积房子价格预测
    Part 1 (一)深度学习概论
    我们用一条直线去模拟价格与房子大小的映射关系,这样的拟合函数可看作简单的神经网络。
    我们知道Relu(修正线性单元)函数经常出现在文献里,在这里创造的函数就是Relu函数,它永远不会为负数,所以是零开始。
  • 神经元
    Part 1 (一)深度学习概论
    对于这个神经元,输入的是房子的大小(x),输出的是价格(y),这个神经元代表的就是Relu函数。
    而神经网络就是多个神经元堆叠而成的。

Ex.2 Multiple neural network

  • 通过多个的特征去预测价格
    Part 1 (一)深度学习概论
    通过多个特征的共同作用,估计出房子的价格。
    Part 1 (一)深度学习概论

当我们有了神经网络之后,你需要做的只是输入x,然后总能得到y。
左边是输入的特征,中间的圈是隐藏单元,前一两层全链接。只要我们有大量样本和训练特征,就能更加精确地训练出从x映射到y的函数。

1.2 用神经网络进行监督学习

最常见的一个应用是在线广告,输入大量的广告和用户信息,判断出用户最有可能点开的广告,这样的深度学习应用虽然不是很surprise,但是却能为商家挣很多钱。
Part 1 (一)深度学习概论
不同类型的神经网络,比如CNN(图像处理方面应用比较多),RNN(音频、文本处理等一维序列方面应用)。

结构化数据VS非结构化数据

  • 结构化数据
    每个特征都有明确的定义,存在数据库,如通过房子大小,邮编等预测房价
    Part 1 (一)深度学习概论
  • 非结构化数据
    一些比较抽象的特征,比如图片中的像素特征值,或者音频中的单词等
    Part 1 (一)深度学习概论

神经网络很大程度地改变了监督学习地方式,使之更有效。