深层神经网络

1.深层神经网络

计算神经网络的层数时,不计算输入层,只算隐藏层和输出层。
对于一个任务,需要构建多少层神经网络,这个不好预测,因此一般先使用逻辑回归,尝试一层或者两层隐藏层,把隐藏层数当做一个超参数,在交叉验证数据或者开发集数据进行评估。

2.前向传播和反向传播

这一块和之前没啥区别,同样是单样本+向量化的推导,貌似就是最后搞了一个三层的神经网络计算。(两个ReLU和一个sigmoid输出)

3.深层网络中的前向传播

对于深层网络的前向传播来说,可以归纳为多次迭代计算z和a。
深层神经网络

4.核对函数的维数

5.为什么使用深层表示?

6.搭建神经网络块

7.参数VS超参数

8.深度学习和大脑的关联性