机器学习基石-07-3-Physical Intuition of VC Dimension

*度degrees of freedom

机器学习基石-07-3-Physical Intuition of VC Dimension

dvc=d+1的d+1其实也就是感知机的维度,这样就把VC维和感知机的维数联系起来了。hypothesis “power” dvc=d+1:有效的二元分类的*度。VC维的power也就是用来衡量H到底能产生多少种dichotomy的能力,VC维就表示到什么时候我们还能shatter,也就是还能产生最多的dichotomy。

机器学习基石-07-3-Physical Intuition of VC Dimension

从上面两个例子上可以看出,VC维就是算法的参数个数,在positive intervals中的两个参数就是区间的两个端点值。

physical institution物理意义

VC维就是大体上可以调节的参数个数。

机器学习基石-07-3-Physical Intuition of VC Dimension


M和dvc的联系:

机器学习基石-07-3-Physical Intuition of VC Dimension

当dvc太小时,*度的power受到了限制。

FUN TIME

机器学习基石-07-3-Physical Intuition of VC Dimension

要求参数w0=0的感知机,本来是d+1个参数,但是w0被固定住了,所以可以进行调节的参数就只有d个了,所以*度=d,也就是dvc=d。