深度学习-序列模型

第一周

循环神经网络应用场景

深度学习-序列模型

数学符号

深度学习-序列模型

深度学习-序列模型

循环神经网络简介

循环神经网络与一般网络不同之处在于中间的隐层a的计算输入考虑了之前的a值,也就是说中间的隐藏层实际上有两个w矩阵分别处理来自当前网络前向的输出和这个网络上一次计算保存的中间值。
实际编程时可以把两个矩阵联合起来。
深度学习-序列模型
深度学习-序列模型
深度学习-序列模型

后馈

定义损失函数:时间序列上每个时刻的损失加起来
深度学习-序列模型

不同类型的循环神经网络

多对多
多对多延时网络
多对一
一对一
一对多
深度学习-序列模型
深度学习-序列模型
深度学习-序列模型
深度学习-序列模型