什么是神经网络中的EPOCH？

Question

什么是神经网络中的EPOCH

我想要EPOCH的定义。

EPOCH是更新权重。

那么它是如何工作的？

更改“训练数据（输入数据）”？

更改“Delta规则（激活功能）”？

http://pages.cs.wisc.edu/~bolo/shipyard/neural/local.html

Answer 1

这个进来的有梯度下降训练神经网络的上下文。由于我们通常使用随机或小批量梯度下降来训练神经网络，因此并不是所有训练数据都用于每个迭代步骤。

随机和小批量梯度下降在每次迭代中使用batch_size数量的训练样例，因此在某些时候您将使用所有数据进行训练并可从数据集的开始处重新开始。

考虑到一个时间点是整个训练集中的一个完整通道，意味着它是梯度下降更新的多次迭代，直到您将所有数据显示给NN，然后重新开始。

Answer 2

Epoches是单遍通过整个训练数据集。 传统梯度下降法计算损失函数的梯度与参数有关的给定数量的历元的整个训练数据集。