python实现GBDT算法的回归、二分类以及多分类,算法流程解读并可视化
向AI转型的程序员都关注了这个号????????????
机器学习AI算法工程 公众号:datayx
GBDT 的全称是 Gradient Boosting Decision Tree,梯度提升树,在传统机器学习算法中,GBDT算的上TOP3的算法。想要理解GBDT的真正意义,那就必须理解GBDT中的Gradient Boosting 和Decision Tree分别是什么?
算法原理以及公式推导请前往blog:
https://blog.csdn.net/weixin_41194171/article/details/85042720
https://blog.csdn.net/zpalyq110/article/details/79527653
项目地址
关注微信公众号 datayx 然后回复 GBDT 即可获取。
AI项目体验地址 https://loveai.tech
运行指南
-
回归测试:
python example.py --model = regression
-
二分类测试:
python example.py --model = binary_cf
-
多分类测试:
python example.py --model = multi_cf
-
其他可配置参数:
lr
-- 学习率,trees
-- 构建的决策树数量即迭代次数,depth
-- 决策树的深度,count
-- 决策树节点分裂的最小数据数量,is_log
-- 是否打印树的生成过程,is_plot
-- 是否可视化树的结构.
结果文件:运行后会生成
results
文件夹,里面包含了每棵树的内部结构和生成日志
结果展示
仅展示最后所有树的集合,具体每棵树的详细信息望读者自行运行代码~
阅读过本文的人还看了以下:
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加: datayx
长按图片,识别二维码,点关注
AI项目体验
https://loveai.tech