零基础入门数据挖掘学习路径-2数据的探索性分析(EDA)

2.EDA-数据探索性分析

EDA目标

1.EDA的价值主要在于熟悉数据集,了解数据集,对数据集进行验证来确定所获得数据集可以用于接下来的机器学习或者深度学习使用。
2.当了解了数据集之后我们下一步就是要去了解变量间的相互关系以及变量与预测值之间的存在关系。
3.引导数据科学从业者进行数据处理以及特征工程的步骤,使数据集的结构和特征集让接下来的预测问题更加可靠。
4.完成对于数据的探索性分析,并对于数据进行一些图表或者文字总结

1.载入各种数据科学库

数据科学库:numpy、pandas、scipy;
可视化库:matplotlib、seabon

1.numpy
开源数值计算库,用于快速处理任意维度数组ndarray,效率比python的list更快。
使用方法:
ndarray.方法()
ndarray.函数名()

ndarray属性:
ndarray.shape() #查看形状
ndarray,ndim() #常看维度
ndarray.size() #查看长度
ndarray.itemsize() #查看每个元素长度
ndarray.dtype() #查看类型
ndarray.head(n) ##查看数据前n行,默认前5行零基础入门数据挖掘学习路径-2数据的探索性分析(EDA)
这种求数据基础特性的可以用ndarray.describe()一句代码直接呈现
零基础入门数据挖掘学习路径-2数据的探索性分析(EDA)

2.pandas
专门用于数据挖掘的python库,具有便捷的数据处理能力

2.载入数据

载入训练集和数据集
零基础入门数据挖掘学习路径-2数据的探索性分析(EDA)
简略观察数据(head() + shape)
零基础入门数据挖掘学习路径-2数据的探索性分析(EDA)
零基础入门数据挖掘学习路径-2数据的探索性分析(EDA)

3.数据总览

4.判断数据确实或者异常

5.了解预测值分布

6.特征分为类别特征和数字特征,并对类别特征查看unique分布

7.数字特征分析