结构风险最小化

从今天起，我们不定期为大家推送大厂的真实面试题，推荐你的朋友关注我们吧！

• 问：你看过哪些机器学习中的书
• 答：周志华的西瓜书，李航的统计学
• 问：李航的那本书叫什么名字
• 答：《统计学习方法》
• 问：那你讲一下第一讲的结构风险最小化是什么吧

什么是结构风险最小化

在机器学习算法中，一般定义一个损失函数$L(y,f(x,\theta))$L(y,f(x,θ))，在所有的训练样本上来评价决策函数的好坏（风险）。
$L(\theta)=\frac{1}{N}\sum_{i=1}^NL(y^{(i)},f(x^{(i)},\theta))$L(θ)=N1​i=1∑N​L(y(i),f(x(i),θ))
风险函数$L(\theta)$L(θ)是在已知的训练样本（经验数据）上计算得来的，因此被称之为经验风险。参数的求解其实就是寻求一组参数，使得经验风险函数达到最小值，就是我们常说的经验风险最小化原则
$\theta^*=\mathop{\arg\min}\limits_{\theta}L(\theta)$θ∗=θargmin​L(θ)

一般我们需要最优化的是期望风险，但是期望风险未知，所以我们用经验风险近似。损失函数度量模型一次预测的好坏，风险函数度量平均意义下模型预测的好坏。

而为了解决过拟合问题，一般在经验风险最小化的原则上加参数的正则化，也叫结构风险最小化原则。

帮到你了的话，点一个在看吧♥◠‿◠ﾉ