matlab BP神经网络入门
最近开始试着用matlab来学习BP神经网络,它里面内置的工具函数非常好用,而且有一个很不错的工具箱可用来分析。这里说一下工具箱的组成和使用。
1. Neural Network
图形化的结构,这里是2输入,1输出,中间两个隐藏层,每层5个结点
2. Algorithms
Data Division:数据部分,这里是随机
Training:训练算法 这里是莱文贝格-马夸特方法(Levenberg–Marquardt algorithm)能提供数非线性最小化(局部最小)的数值解,好处就是在于可以调节: 如果下降太快,使用较小的λ,使之更接近高斯牛顿法 ; 如果下降太慢,使用较大的λ,使之更接近梯度下降法
3. Progress
Epoch:迭代次数
Time:时间
Performance: 表现
Gradient:梯度
Mu: trainParam这个结构体的参数,确定学习根据牛顿法还是梯度法
Validation Checks:确认检查值默认是6,它的意思是指随着网络利用训练样本进行训练的过程中,确认样本的误差曲线连续6次迭代不再下降。这时训练终止。我们这里由于很快就达到了期望精度,所以值为零。
4. Plots
Performance:
Training State:
Regression: