课程3.3 KNN最邻近分类

什么是分类分析?

分类指的是从数据中选出已经分好类的训练集,在该训练集上运用数据挖掘分类的技术,建立分类模型,对于没有分类的数据进行分类的分析方法。
分类问题的应用场景:分类问题是用于将事物打上一个标签,通常结果为离散值。例如判断一副图片上的动物是一只猫还是一只狗,分类通常建立在回归之上。

KNN最邻近分类算法

最邻近分类算法,简称KNN,最简单的机器学习算法之一
核心逻辑:
在距离空间里,如果一个样本的最接近的K个邻居里,绝大多数属于某个类别,则该样本也属于这个类别

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
% matplotlib inline
from sklearn import neighbors #导入knn模块
import warnings
warnings.filterwarnings('ignore') #不发出警告
data = pd.DataFrame({'name':['北京遇上西雅图','喜欢你','疯狂动物城','战狼2','力王','敢死队'],
                   'fight':[3,2,1,101,99,98],
                   'kiss':[104,100,81,10,5,2], #创建数据
                   'type':['Romance','Romance','Romance','Action','Action','Action']})

knn = neighbors.KNeighborsClassifier() #取得knn分类器
knn.fit(data[['fight','kiss']], data['type'])
print(knn.predict([[18,90]])) #易错点:predict后是数组类型
    
plt.scatter(data[data['type'] == 'Romance']['fight'],
           data[data['type'] == 'Romance']['kiss'],
           color = 'r',marker = 'o',label = 'Romance')
plt.scatter(data[data['type'] == 'Action']['fight'],
           data[data['type'] == 'Action']['kiss'],
           color = 'g',marker = 'o',label = 'Action')
plt.grid() #绘制图表
plt.legend()
plt.scatter(18,90,color = 'r',marker = 'x',label = 'Romance')
plt.ylabel('kiss')
plt.xlabel('fight')
plt.text(18,90,'《你的名字》',color = 'r')

课程3.3 KNN最邻近分类

data2 = pd.DataFrame(np.random.randn(100,2)*50,
                    columns = ['fight','kiss'])
data2['typetest'] = knn.predict(data2)
data2.head()

plt.scatter(data[data['type'] == 'Romance']['fight'],
           data[data['type'] == 'Romance']['kiss'],
           color = 'r',marker = 'o',label = 'Romance')
plt.scatter(data[data['type'] == 'Action']['fight'],
           data[data['type'] == 'Action']['kiss'],
           color = 'g',marker = 'o',label = 'Action')
plt.scatter(data2[data2['typetest'] == 'Romance']['fight'],
           data2[data2['typetest'] == 'Romance']['kiss'],
           color = 'r',marker = 'x',label = 'Romance')
plt.scatter(data2[data2['typetest'] == 'Action']['fight'],
           data2[data2['typetest'] == 'Action']['kiss'],
           color = 'g',marker = 'x',label = 'Action')
plt.grid()
plt.legend()

课程3.3 KNN最邻近分类

#案例二:植物分类
from sklearn import datasets #导入数据
iris = datasets.load_iris()
print(iris.keys())
print('数据长度为:%i条' % len(iris['data']))
print(iris.feature_names)
print(iris.target_names)
#print(iris.target)
print(iris.data[:5])

#feature_names-特征分类:萼片长度,萼片宽度,花瓣长度,花瓣宽度
#目标类别:Iris setosa Iris versicolor Iris virginica
data = pd.DataFrame(iris.data,columns = iris.feature_names)
data['target'] = iris.target
ty = pd.DataFrame({'target':[0,1,2],
                  'target_names':iris.target_names})
df = pd.merge(data,ty,on = 'target')

课程3.3 KNN最邻近分类
课程3.3 KNN最邻近分类

knn = neighbors.KNeighborsClassifier()
#knn.fit(iris.data,iris.target)
knn.fit(iris.data,df['target_names']) #(特征量,目标值)
pre_data = knn.predict([[0.2,0.1,0.3,0.4]])

课程3.3 KNN最邻近分类