数据挖掘实践（资金流入流出预测）--Task04：特征工程

数据挖掘实践（资金流入流出预测）–Task04：特征工程

赛题解读
赛题介绍：https://tianchi.aliyun.com/competition/entrance/231573/introduction
数据集介绍及下载：https://tianchi.aliyun.com/competition/entrance/231573/information
阅读完赛题介绍后，总结了一下这个赛题的目的就是预测未来一个月，每天余额宝总的的转入金额和转出金额。是一个回归问题。

数据挖掘“二八原则“
80%的精力 => 选取特征
20%的精力 => 模型融合等
特征工程
基于数据分析与探索提取潜在有价值的特征


离散型特征很重要
可用于设计规则
易于模型拟合，xgboost、lightgbm、catboost等都以决策树为基模型
便于理解
便于做特征组合
在推荐系统等领域很常见
简单粗暴的特征组合方式
简单粗暴的进行加、减、乘、除、log、exp等运算
易于生成大量特征，但会易出现过拟合问题，且不易于解释
建议的特征提取与组合方式
理解问题背景，开发想象力，并做数据分析与探索
以时间序列问题为例，常见的特征类别包括统计量（最大值、最小值、中位数、偏度、峰度等）、排序（各统计量在历史同期的排名）、分位数（各统计量在历史同期排名的分位数）等等； 《03.时间序列规则与baseline》的周期因子可视为特征组合
以推荐系统为例，常见的特征类别包括用户特征、商品特征、行为特征（按时段统计）等等；可对其中的离散型特征直接做组合

特征工程通常会提取出大量特征，该如何选择出好的特征子集？
劣态：剔除几乎无关的特征，保留大量特征
处理自变量间共线性：可通过特征组合处理；A与B存在共线性，保留A，构造A/B

特征工程通常会提取出大量特征，该如何选择出好的特征子集？
劣态：剔除几乎无关的特征，保留大量特征
优胜：挑选出良好特征，组成最优特征子集