机器学习方法篇(2)------线性模型
● 每周一言
大道至简,知易行难。
导语
线性模型应该是最直观、最容易理解的一种机器学习模型了。同时也是应用最广泛的一种模型,比如各种模型中常出现的softmax层、全连接层等等,都属于线性模型。那么线性模型到底是什么,其训练方式又是如何?
线性模型
如果在街上看见一个皮肤黝黑的人,我们很可能会猜他来自非洲,而认为黄种人多半来自亚洲,白种人则多半来自欧洲;夏天买西瓜,我们通常先看看色泽与瓜蒂,然后敲一敲听听声响判断是否好吃。其实,在做出类似生活判断的时候,我们用的就是线性模型。
可以说,人的大脑自带各种线性模型,每天的生活经验则作为这些模型的训练数据。如上面提到的夏天买瓜就是一种线性模型,其中瓜蒂、色泽及声响是3种特征。对于线性模型,我们用
那么,这个线性模型具体如何训练呢?为了简化模拟训练过程,我们不妨先看一个拟合直线的过程。有线性函数
1> 初始化模型参数a,假设初始化的值为5,并设定训练步长为
2> 将
3> 参数a减去
不难看出,经过有限轮次训练后,a将趋近于2。 同理,对于
线性模型如果使用
结语
感谢各位的耐心阅读,后续文章于每周日奉上,敬请期待。欢迎大家关注小斗公众号 对半独白!