GBDT的回归、二分类以及多分类教程

GBDT的回归、二分类以及多分类教程

向AI转型的程序员都关注了这个号????????????

人工智能大数据与深度学习  公众号:datayx

GBDT 的全称是 Gradient Boosting Decision Tree,梯度提升树,在传统机器学习算法中,GBDT算的上TOP3的算法。想要理解GBDT的真正意义,那就必须理解GBDT中的Gradient Boosting 和Decision Tree分别是什么?

1. Decision Tree:CART回归树

GBDT的回归、二分类以及多分类教程

2. Gradient Boosting: 拟合负梯度

GBDT的回归、二分类以及多分类教程

3. GBDT算法原理

  

上面两节分别将Decision Tree和Gradient Boosting介绍完了,下面将这两部分组合在一起就是我们的GBDT了。

GBDT的回归、二分类以及多分类教程

4. 实例详解

本人用python以及pandas库实现GBDT的简易版本,在下面的例子中用到的数据都在github可以找到,大家可以结合代码和下面的例子进行理解,欢迎star~

获取方式

关注微信公众号 datayx  然后回复 GBDT  即可获取。

GBDT的回归、二分类以及多分类教程

GBDT的回归、二分类以及多分类教程

GBDT的回归、二分类以及多分类教程

重复此步骤,直到m>5 结束,最后生成5棵树。

GBDT的回归、二分类以及多分类教程

GBDT的回归、二分类以及多分类教程

4. 总结

本文章从GBDT算法的原理到实例详解进行了详细描述,但是目前只写了回归问题,GitHub上的代码也是实现了回归、二分类、多分类以及树的可视化。

原文 https://blog.csdn.net/zpalyq110/article/details/79527653


阅读过本文的人还看了以下:

不断更新资源

深度学习、机器学习、数据分析、python

 搜索公众号添加: datayx  

GBDT的回归、二分类以及多分类教程

长按图片,识别二维码,点关注

AI项目体验

https://loveai.tech

GBDT的回归、二分类以及多分类教程