Regression回归在实际中的应用
Regression回归
三种典型应用
- stock Market Forecast
- self-driving Car
- Recommendation
今天要讲的一种更实用的应用：预测宝可梦的cp（combat Power）值
步骤：
-
Model
y = b + w ∗ x c p y=b+w*x_{cp} y=b+w∗xcp - self-driving Car
- Recommendation
- List item
步骤
1.Model
linear model:
y
=
b
+
∑
w
i
x
i
y=b+\sum{w_ix_i}
y=b+∑wixi
其中
x
i
x_i
xi是指输入
x
x
x的一个属性,
w
i
w_i
wi是weight，
b
b
b是bias。
2.goodness of Function
损失函数：
L
（
f
）
=
L
(
w
，
b
)
L（f）= L(w，b)
L（f）=L(w，b)
∑
n
=
1
10
(
y
^
n
−
(
b
+
w
∗
x
x
p
n
)
)
2
\sum_{n=1}^{10}(\hat y^n-(b+w*x_{xp}^n))^2
∑n=110(y^n−(b+w∗xxpn))2
3.Best Function
f
∗
=
a
r
g
m
i
n
f
L
(
f
)
{f^*=argmin_{f}L(f)}
f∗=argminfL(f)
w
∗
,
b
∗
=
=
a
r
g
m
i
n
w
,
b
L
(
w
,
b
)
w^*,b^* ==argmin_{w,b}L(w,b)
w∗,b∗==argminw,bL(w,b)
Gradient Descent梯度下降
Regularization(规则化 )
实验以一种实际问题得出结论：模型并不是越复杂越好，二十找出最小的L，也就是最适合的w和b。
最后：以一张图片解释过拟合和欠拟合：
也就是说：当你的模型对于训练数据，就不能很好的fitting，那就是欠拟合，这时候修改方向就应该是重新设计模型。
当你的模型对于训练数据有很好的fitting，但是对于测试数据不能很好的fitting，那就是过拟合，这时候解决办法就是：1、找到更多的训练数据，
2、如果实在无法找到或者制造更多的数据，那就选择Regularization（规则化），也就是让曲线越平滑越好。（但是这样有可能会伤害bias）
笔者能力有限，有问题欢迎私信我。