关于吴恩达老师所讲的诊断偏差与方差
主要写中心思想吧。
1、偏差大,也就是欠拟合,多与损失函数方程过于简单有关。
2、方差大,也就是过拟合,多与损失函数方程过于复杂有关(比如幂函数的项太大)。
3、怎么判断是欠拟合和过拟合,先看图片:
4、先看左边被红色方框圈起来的图像,损失函数也就是JΘ在训练集上测试的时候很大,然后在交叉检验测试的时候也很大,说明是欠拟合的情况,在训练集损失函数很大说明没有拟合到位,函数过于简单;
5、再看右边被红色方框圈起来的图像,损失函数也就是JΘ在训练集上测试的时候很小,然而在交叉检验测试的时候很大,说明是过拟合的情况,因为在训练集计算时使用了过于复杂的函数,是函数图像过于拟合训练集的数据,就好像为某人量身定做了件衣服(略夸张),所以一般的人就不合适喽,所以图像在训练集表现的很好,但交叉检验测试就表现不尽如人意。
6、在看视频的时候吴恩达老师说有两种情况都存在的情况,暂时没想到,有待下一节的学习。
7、第一次写****,如果那里没有理解到,麻烦请告知,马上修改,以免误导他人。