第二部分__建模应用篇__第七章__分类与预测

这是学习的第二个部分，第一部分中复习了or学习了一些基础知识，这里进入到第二部分的建模应用篇，还有一个好消息，数模论文被推到省赛区组委会，国奖有希望。下面正式进入学习部分。

分类与预测是机器学习有监督学习任务的代表，要求估计预测值，是“回归任务”，要去判断因变量属于哪个类别时，是“分类任务”。

1.回归分析

1.1线性回归

线性回归，使用矩条件，计量经济学中有系统的学过，需要一定的线性代数基础。

上面的思想必须要知道，实现的时候可以用sklearn库实现，不需要自己再写重复的*，下面使用代码实现：

#波士顿房价预测问题
import numpy as np 
import matplotlib.pyplot as plt
from sklearn.datasets import load_boston
from sklearn.linear_model import LinearRegression

boston=load_boston()

x=boston.data[:,np.newaxis,5]
y=boston.target
lm=LinearRegression()
lm.fit(x,y)
print(lm.score(x,y))#输出R-squre

plt.scatter(x,y,color="green")
plt.plot(x,lm.predict(x),color="blue",linewidth=3)
plt.show()

1.2逻辑回归

逻辑回归是对数几率回归，属于广义线性模型，函数图像为S型，计量经济学同样教授过，一般的因变量取值只有0或1，Logistic函数，确定权重的时候用的极大似然估计。

逻辑回归代码实现：