类别型特征指在有限选项内取值的特征。通常为字符串形式。决策树等少数模型能直接处理字符串形式的输入,逻辑回归、SVM等类别型特征必须处理成数值型特征才能正确工作。
常用方法
序号编码(Ordinal Encoding)
有大小关系的数据用序号编码,保留数据之间的大小关系(程度)。
独热编码(One-hot Encoding)
one-hot编码,类别间不具有大小关系的特征,生成的是多维稀疏向量,可使用向量的稀疏表示来节省空间;配合特征选择,降低维度。
二进制编码(Binary Encoding)
先序号,再二进制化。本质是用二进制对ID进行哈希映射。维数少于独热编码,节省空间。
参考:
百面机器学习 算法工程师带你去面试