概率论与数理统计知识点总结

概率论与数理统计知识点总结（持续更新）

第一章：概率论的基本概念

1、样本空间：对于随机试验来说，由于可以事先明确试验所有可能的结果，因此称随机试验所有可能结果的集合为随机试验的样本空间，记为 Ω \Omega Ω。称随机试验中一个可能结果为一个样本点，记为 ω \omega ω，从而样本空间就是样本点的集合，即 Ω = { ω } \Omega=\{ \omega \} Ω={ω}。
2、随机事件：一般的，称随机试验的样本空间 Ω \Omega Ω的子集为随机试验的随机事件，简称事件。在每次实验中，当且仅当随机事件所包含的样本点重点一个样本点出现时，称为这一事件发生。特别的，有一个样本点组成的单点集，称为基本事件。
3、事件的运算与关系：
Ⅰ.事件的运算
1）和事件：称事件A与事件B中至少有一个发生的事件为事件A和B的和事件。记作 A ∪ B A\cup B A∪B
2）积事件：称事件A和事件B同时发生的事件为A事件与B事件的积事件。记为 A ∩ B A\cap B A∩B
3）差事件：称事件A发生而事件B不发生的事件为事件A和事件B的差事件。记为 A − B A-B A−B
4）运算律：
吸收律： 若 A ⊂ B ， 则 A ∪ B = B ， A B = A 若A\subset B，则A\cup B = B，AB = A 若A⊂B，则A∪B=B，AB=A
交换律： 若 A ∪ B = B ∪ A ， A B = B A 若A\cup B=B\cup A，AB = BA 若A∪B=B∪A，AB=BA
结合律： 若 A ∪ ( B ∪ C ) = ( A ∪ B ) ∪ C ， A ( B C ) = ( A B ) C 若A\cup (B\cup C) = (A\cup B)\cup C，A(BC) = (AB)C 若A∪(B∪C)=(A∪B)∪C，A(BC)=(AB)C
分配律： 若 A ( B ∪ C ) = A B ∪ A C ， A ∪ ( B C ) = ( A ∪ B ) ( A ∪ C ) 若A(B\cup C)=AB\cup AC，A\cup (BC) = (A\cup B)(A\cup C) 若A(B∪C)=AB∪AC，A∪(BC)=(A∪B)(A∪C)
对偶律： ∪ i = 1 n A i ‾ = ∩ i = 1 n A i ‾ ， ∩ i = 1 n A i ‾ = ∪ i = 1 n A i ‾ \overline{\cup_{i=1}^nA_i}=\cap_{i=1}^n\overline{A_i}，\overline{\cap_{i=1}^nA_i}=\cup_{i=1}^n\overline{A_i} ∪i=1n​Ai​​=∩i=1n​Ai​​，∩i=1n​Ai​​=∪i=1n​Ai​​
Ⅱ.事件的关系
1）包含关系：设A与B事件，如果A事件的发生必然导致事件B的发生则称事件B包含事件A，或称事件A是事件B的子事件，记为 A ⊂ B A\subset B A⊂B
2）相等关系：设A与B事件，如果 A ⊂ B A\subset B A⊂B且 B ⊂ A B\subset A B⊂A，则称事件A与事件B相等，记为 A = B A = B A=B
3）互不相容（互斥）关系：设A与B事件，如果事件A和事件B同时发生是不可能的，即 A B = ∅ AB = \emptyset AB=∅，则称事件A与事件B是互不相容的
4）对立关系：设A与B事件，如果 A ∪ B = Ω A\cup B=\Omega A∪B=Ω且 A B = ∅ AB=\emptyset AB=∅，则称事件A与事件B是相互对立的，称事件B是事件A的逆事件或对立事件，记为 A ‾ \overline A A
4、概率：
P ( ∅ ) = 0 P(\emptyset)=0 P(∅)=0
P ( ∪ i = 1 n A i ) = Σ i = 1 n P ( A i ) P(\cup_{i=1}^nA_i)=\Sigma_{i=1}^nP(A_i) P(∪i=1n​Ai​)=Σi=1n​P(Ai​)
P ( B − A ) = P ( B ) − P ( A ) P(B-A)=P(B)-P(A) P(B−A)=P(B)−P(A)
P ( A ) ≤ 1 P(A)\leq 1 P(A)≤1
P ( A ‾ ) = 1 − P ( A ) P(\overline A)=1-P(A) P(A)=1−P(A)
P ( A ∪ B ) = P ( A ) + P ( B ) − P ( A B ) P(A\cup B)=P(A)+P(B)-P(AB) P(A∪B)=P(A)+P(B)−P(AB)
lim ⁡ n → ∞ P ( A n ) = P ( ∪ n = 1 ∞ A n ) \lim_{n\rightarrow \infty} P(A_n)=P(\cup_{n=1}^\infty A_n) limn→∞​P(An​)=P(∪n=1∞​An​)
lim ⁡ n → ∞ P ( A n ) = P ( ∩ n = 1 ∞ A n ) \lim_{n\rightarrow \infty} P(A_n)=P(\cap_{n=1}^\infty A_n) limn→∞​P(An​)=P(∩n=1∞​An​)
5、古典概型（几何概率）
设随机试验的样本空间 Ω = { ω 1 、 ω 2 、 ω 3 、 ω 4 ⋯ ω n } \Omega=\{ \omega_1、\omega_2、\omega_3、\omega_4 \cdots \omega_n\} Ω={ω1​、ω2​、ω3​、ω4​⋯ωn​}，n为有限的正整数，且每个基础事件（两两互不相容的事件） ω i ( i = 1 、 2 、 3 、 4 ⋯ ， n ) {\omega_i}(i=1、2、3、4\cdots，n) ωi​(i=1、2、3、4⋯，n)发生的可能性相同，则称这种随机试验为古典概型，或称等可能概型。
计算公式： P ( A ) = k n = 有 利 于 事 件 A 发 生 的 基 本 事 件 数 Ω 中 基 本 事 件 的 总 数 P(A)=\frac{k}{n}=\frac{有利于事件A发生的基本事件数}{\Omega中基本事件的总数} P(A)=nk​=Ω中基本事件的总数有利于事件A发生的基本事件数​
6、条件概率和概率的三大公式
P ( B ∣ A ) = P ( A B ) P ( A ) P(B|A) = \frac{P(AB)}{P(A)} P(B∣A)=P(A)P(AB)​
1）乘法公式： P ( A B ) = P ( A ∣ B ) P ( B ) = P ( B ∣ A ) P ( A ) P(AB)=P(A|B)P(B)=P(B|A)P(A) P(AB)=P(A∣B)P(B)=P(B∣A)P(A)
2）全概率公式：
P ( A ) = Σ i = 1 n P ( B i ) P ( A ∣ B i ) P(A)=\Sigma_{i=1}^nP(B_i)P(A|B_i) P(A)=Σi=1n​P(Bi​)P(A∣Bi​)
P ( B i ∣ A ) = P ( B i ) P ( A ∣ B i ) Σ j = 1 n P ( B j ) P ( A ∣ B j ) P(B_i|A)=\frac{P(B_i)P(A|B_i)}{\Sigma_{j=1}^nP(B_j)P(A|B_j)} P(Bi​∣A)=Σj=1n​P(Bj​)P(A∣Bj​)P(Bi​)P(A∣Bi​)​
7、事件的独立性
1） P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
2）Ａ，B相互独立，A的运算与B的运算也相互独立
3）Ａ，B，C相互独立，A,B,C任意两者的运算和第三事件的运算相互独立。若事件 A 1 , A 2 ⋯ A n A_1,A_2\cdots A_n A1​,A2​⋯An​相互独立，则其两两独立，但反之不然。
4） A 1 , A 2 ⋯ A n A_1,A_2\cdots A_n A1​,A2​⋯An​相互独立，则
①其中任意k个事件也相互独立
②将其中任意K个事件换成它们各自的对立事件，所得到的n个事件也相互独立
③将 A 1 , A 2 , ⋯   , A n A_1,A_2,\cdots,A_n A1​,A2​,⋯,An​任意分为k个没有相同事件的不同小组，并对每个小组中的事件施以和、积、差、逆运算后，所得到的k个事件也相互独立。

第二章：随机变量及其分布

1、随机变量的分布函数
设X是一个随机变量，称函数 F ( x ) = P ( X ≤ x ) F(x)=P(X\leq x) F(x)=P(X≤x)为随机变量X的分布函数。
从几何上看，如果把X看成数轴上的随机点坐标，那么分布函数F（x）就是在x处的函数值就表示X落在区间 （ − ∞ , x ] （-\infty,x ] （−∞,x]上的（即随机点落在点x的左边）概率。
1） P ( x 1 < X ≤ x 2 ) = F ( x 2 ) − F ( x 1 ) P(x_1<X\leq x_2)=F(x_2)-F(x_1) P(x1​<X≤x2​)=F(x2​)−F(x1​)
2） 0 ≤ F ( x ) ≤ 1 0 \leq F(x)\leq 1 0≤F(x)≤1且 F （ − ∞ ） = 0 , F ( + ∞ ) = 1 F（-\infty）=0,F(+\infty) = 1 F（−∞）=0,F(+∞)=1
3）F（x）函数是单调不递减函数
4）F（x）是右连续的，即 F （ x + 0 ） = F ( x ) F（x+0）=F(x) F（x+0）=F(x)
2、离散型随机变量的分布律
设X是离散型随机变量，其可能的取值为 x 1 , x 2 , ⋯ ， x i ⋯ x_1,x_2,\cdots，x_i\cdots x1​,x2​,⋯，xi​⋯，称 P ( X = X i ) = p i ， i = 1 ， 2 ， ⋯ P(X = X_i) = p_i，i=1，2，\cdots P(X=Xi​)=pi​，i=1，2，⋯为X的分布律。【可能值+可能值出现概率】
或表示为

求离散型随机变量X的分布律，其方法是：X可能的取值便是分布函数F（x）的间断点（分界点） x i ( i = 1 , 2 , ⋯   ) x_i(i=1,2,\cdots) xi​(i=1,2,⋯)，从而X的分布律为 p i = P ( X = x i ) = F ( x i + 0 ) − F ( x i − 0 ) = F ( x i ) − F ( x i − 0 ) p_i=P(X=x_i)=F(x_i+0)-F(x_i-0)=F(x_i)-F(x_i-0) pi​=P(X=xi​)=F(xi​+0)−F(xi​−0)=F(xi​)−F(xi​−0)
3、几种重要的离散型随机变量
1）0-1分布
离散型随机变量X只能取0和1两个值，他的分布律为 P ( X = k ) = p k ( 1 − p ) 1 − k ， 0 < p < 1 ， k = 0 , 1 P(X=k)=p^k(1-p)^1-k，0<p<1，k = 0,1 P(X=k)=pk(1−p)1−k，0<p<1，k=0,1
2）二项分布(记为X~ B （ n ， p ） B（n，p） B（n，p）)
离散型随机变量X的分布律为 P ( X = k ) = C n k p k q n − k ， q = 1 − p ， k = 0 ， 1 ， 2 ， ⋯ ， n P(X=k)=C_n^kp^kq^{n-k}，q =1-p，k=0，1，2，\cdots，n P(X=k)=Cnk​pkqn−k，q=1−p，k=0，1，2，⋯，n
3）Poisson分布(记为X~ P ( λ ) P(\lambda) P(λ))
离散型随机变量X的分布律为 P ( X = k ) = λ k k ! e − λ ， λ > 0 ， k = 0 , 1 , 2 , ⋯ P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda}，\lambda>0，k=0,1,2,\cdots P(X=k)=k!λk​e−λ，λ>0，k=0,1,2,⋯
[Poisson定理]：设 λ > 0 \lambda>0 λ>0是一个常数，n是任意的正整数， n p = λ np=\lambda np=λ，则对任意固定的非负整数k，有 lim ⁡ n → ∞ C n k p k ( 1 − p ) n − k = λ k k ! e − λ \lim_{n\rightarrow\infty C_n^kp^k(1-p)^{n-k}}=\frac{\lambda^k}{k!}e^{-\lambda} limn→∞Cnk​pk(1−p)n−k​=k!λk​e−λ
4）几何分布
离散型随机变量X的分布律为 P ( X = k ) = q k − 1 p ， k = 1 ， 2 ， ⋯ ， 0 < p < 1 , q = 1 − p P(X=k)=q^{k-1}p，k=1，2，\cdots，0<p<1,q=1-p P(X=k)=qk−1p，k=1，2，⋯，0<p<1,q=1−p
5）超几何分布(记为X~ h ( N , n , k ) h(N,n,k) h(N,n,k))
若从N件产品，其中有M件次品中，任取n件，则随机变量X的分布律为 P ( X = k ) = C M k C N − M n − k C M k ， k = 0 ， 1 ， 2 ， ⋯ ， m i n { M ， n } P(X=k)=\frac{C_M^kC_{N-M}^{n-k}}{C^k_M}，k = 0，1，2，\cdots，min\{M，n\} P(X=k)=CMk​CMk​CN−Mn−k​​，k=0，1，2，⋯，min{M，n}
当 N → ∞ N\rightarrow\infty N→∞时， M N → p \frac{M}{N}\rightarrow p NM​→p，则 lim ⁡ N → ∞ C M k C N − M n − k C N n = lim ⁡ N → ∞ P ( X = k ) = C n k p k q n − k \lim_{N\rightarrow\infty}\frac{C_M^kC_{N-M}^{n-k}}{C_N^n}=\lim_{N\rightarrow\infty}P(X=k)=C_n^kp^kq^{n-k} limN→∞​CNn​CMk​CN−Mn−k​​=limN→∞​P(X=k)=Cnk​pkqn−k
4、连续性随机变量的概率密度
设X是随机变量，其分布函数为F（x），如果存在非负可积函数f(x)，使得 F （ x ） = ∫ − ∞ x f ( t ) d t ， − ∞ < x < + ∞ F（x）=\int_{-\infty}^xf(t)dt，-\infty<x<+\infty F（x）=∫−∞x​f(t)dt，−∞<x<+∞则称X为连续型随机变量，称f(x)为X的概率密度函数，简称概率密度。
f ( x ) > = 0 f(x)>=0 f(x)>=0
∫ − ∞ + ∞ f ( x ) d x = 1 \int_{-\infty}^{+\infty}f(x)dx=1 ∫−∞+∞​f(x)dx=1
P ( a < X ≤ b ) = ∫ a b f ( x ) d x = 1 P(a<X\leq b)=\int_a^bf(x)dx=1 P(a<X≤b)=∫ab​f(x)dx=1
在f(x)的连续点x处，有 F ′ ( x ) = f ( x ) F'(x)=f(x) F′(x)=f(x)
[不可能事件的概率是零，但概率是零的事件未必是不可能事件]
5、几种重要的连续型随机变量
1）均匀分布

2）正态分布

3）指数分布

6、随机变量函数及其分布
离散型随即变量的函数的分布按照 x i x_i xi​依次列写
连续性随机变量的函数其概率密度求法：