机器学习备忘录之类别特征

类别型特征指在有限选项内取值的特征。通常为字符串形式。决策树等少数模型能直接处理字符串形式的输入,逻辑回归、SVM等类别型特征必须处理成数值型特征才能正确工作。

常用方法

序号编码(Ordinal Encoding)

有大小关系的数据用序号编码,保留数据之间的大小关系(程度)。

独热编码(One-hot Encoding)

one-hot编码,类别间不具有大小关系的特征,生成的是多维稀疏向量,可使用向量的稀疏表示来节省空间;配合特征选择,降低维度。
机器学习备忘录之类别特征

二进制编码(Binary Encoding)

先序号,再二进制化。本质是用二进制对ID进行哈希映射。维数少于独热编码,节省空间。
机器学习备忘录之类别特征

参考:
百面机器学习 算法工程师带你去面试