大数定律

切比雪夫不等式

设随机变量X具有数学期望，方差，则对于任意正数，有不等式

      

由切比雪夫不等式可以看出，若越小，则事件的概率越大，即随机变量X 集中在期望附近的可能性越大.

大数定律的客观背景

设是一个随机变量序列，a是一个常数，若对于任意正数，有，则称序列依概率收敛于a，记作。

性质：设，，又设函数g(X,Y)在点(a,b)连续，则。

切比雪夫大数定律：

设是一个随机变量序列，如果存在常数C，使得，则对于任意正数有，也就是说。

贝努利大数定律

设 是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对于任意任意正数，有

       ，也就是说

在实际应用中，当试验次数很大时，就可以用事件的频率来代替事件的概率。

辛钦大数定律     

设是相互独立，服从同一分布的随机变量序列，且具有数学期望。则对于任意正数，有，也就是说

中心极限定理

中心极限定理的客观背景：在客观实际中，许多随机变量是由大量的相互独立的随机因素的综合影响所形成的。而其中每一个别因素所起的作用都是微小的。这样的随机变量往往近似地服从正态分布！

中心极限定理

定理1（独立同分布情形下的中心极限定理）设随机变量相互独立，服从同一分布，具有数学期望和方差，，则随机变量值和的标准化变量的分布函数对于任意x满足

定理2（德莫佛－拉普拉斯中心极限定理）: 设随机变量服从参数n,p(0<p<1)的二项分布，则对任意x，有

         

定理表明：二项分布的极限分布是正态分布，即

定理3（李雅普诺夫中心极限定理）设随机变量相互独立，具有数学期望和方差，记，若存在正数，使得当时，

，则随机变量值和的标准化量的分布函数对于任意x，满足