深度学习概论：用神经网络进行监督学习

监督学习

事实上，到目前为止，几乎所有由神经网络创造的经济价值都基于其中一种机器学习，我们称之为“监督学习”（supervised learning）。在监督学习中，输入 x，学习得到一个函数，映射到输出 y，比如之前输入房间特征，得到价格。

下面是监督学习的一些例子

深度学习在广告、计算机视觉、语音识别、机器翻译、无人驾驶等方面取得了显著的效果，创造了很多价值，而这些都需要机智地选择 x 和 y 才能解决特定的问题，然后把这个监督学习过的组件嵌入到更大型的系统中，比如无人驾驶等。

应用在房地产和在线广告中的是相对标准的神经网络；图像领域里，经常用到的是卷积神经网络（CNN）；对于序列数据，比如音频中含有时间成分，音频是随着时间传播的，所以音频很自然地被表示为一维时间序列，对于序列数据，经常使用循环神经网络（recurrent neural network, RNN） ，语音、英语和汉语、字母或单词都是逐个出现，所以语音最自然的表示方式也是序列数据，使用更复杂的 RNN；对于更复杂的应用，比如无人驾驶，需要用到混合的神经网络结构。

神经网络种类

上图分别为标准的神经网络，卷积神经网络（Convolutional Neural Network, CNN） ，和 循环神经网络（Recurrent Neural Network, RNN）。卷积神经网络通常用于图像数据，循环神经网络非常适合处理一维序列数据。

结构化数据和非结构化数据

机器学习被应用于结构化数据和非结构化数据，结构化数据是数据的数据库，例如在预测房价的例子中，数据可以是一个数据库或数据列。结构化数据意味着每个特征都有清晰的定义。

非结构化数据指的是比如音频、图像等，这里的特征可能是图像中的像素值，或者文本中的单个单词。

从历史角度看，非结构化数据与结构化数据相比，让计算机理解起来更难，但人类进化到现在，很擅长理解音频信号和图像。神经网络的兴起过程中，最令人兴奋的事情之一就是多亏了深度学习，多亏了神经网络，计算机现在能更好的理解非结构化数据。和那几年前对比的话，这给我们创造了很多令人兴奋的应用机会，比如语音识别，图像识别，自然语言文字处理。

神经网络在很短期创造的经济价值是基于结构化数据的，比如更好的广告系统，因为有更好的能力去处理很多公司拥有的海量数据库，并用这些数据准确预测未来趋势。

神经网络彻底改变了监督学习，正创造着巨大的经济价值。

本文为“吴恩达《深度学习》笔记”系列文章之一，
更多文章：吴恩达《深度学习》笔记：http://blog.****.net/u012318074/article/category/7142959