python在机器学习中的使用之一--数据预处理
python中的sklearn库里面实现了很多机器学习的算法,而数据预处理是机器学习的第一步也是很重要的一步,sklearn库中的preprocessing类提供了数据标准化的方法。
1.Standardization, or mean removal and variance scaling
scale方法将数据进行了简单快速的标准化:每列的均值为0,每列的方差为1。
preprocessing还提供了StandardScaler这个类,同样可以用对数据进行简单的标准化。
1.1Scaling features to a range
用minmaxScaler和maxabsScaler将数据归一化到某个范围内,通常是[0,1]。
maxabsScaler把数据归一化到[-1,1]
2.Normalization
用normalize或者Normalizer类实现对数据的规范化
3.Binarization
二值化
4.缺失值处理
5.Generating polynomial feature
The features of X have been transformed from to
The features of X have been transformed from to
.
6.Custom transformers
将每个数据用一个函数进行转换
(log1p是指以(1+x)为底的对数)