概率论与数理统计知识点总结
概率论与数理统计知识点总结(持续更新)
第一章:概率论的基本概念
1、样本空间:对于随机试验来说,由于可以事先明确试验所有可能的结果,因此称随机试验所有可能结果的集合为随机试验的样本空间,记为
Ω
\Omega
Ω。称随机试验中一个可能结果为一个样本点,记为
ω
\omega
ω,从而样本空间就是样本点的集合,即
Ω
=
{
ω
}
\Omega=\{ \omega \}
Ω={ω}。
2、随机事件:一般的,称随机试验的样本空间
Ω
\Omega
Ω的子集为随机试验的随机事件,简称事件。在每次实验中,当且仅当随机事件所包含的样本点重点一个样本点出现时,称为这一事件发生。特别的,有一个样本点组成的单点集,称为基本事件。
3、事件的运算与关系:
Ⅰ.事件的运算
1)和事件:称事件A与事件B中至少有一个发生的事件为事件A和B的和事件。记作
A
∪
B
A\cup B
A∪B
2)积事件:称事件A和事件B同时发生的事件为A事件与B事件的积事件。记为
A
∩
B
A\cap B
A∩B
3)差事件:称事件A发生而事件B不发生的事件为事件A和事件B的差事件。记为
A
−
B
A-B
A−B
4)运算律:
吸收律:
若
A
⊂
B
,
则
A
∪
B
=
B
,
A
B
=
A
若A\subset B,则A\cup B = B,AB = A
若A⊂B,则A∪B=B,AB=A
交换律:
若
A
∪
B
=
B
∪
A
,
A
B
=
B
A
若A\cup B=B\cup A,AB = BA
若A∪B=B∪A,AB=BA
结合律:
若
A
∪
(
B
∪
C
)
=
(
A
∪
B
)
∪
C
,
A
(
B
C
)
=
(
A
B
)
C
若A\cup (B\cup C) = (A\cup B)\cup C,A(BC) = (AB)C
若A∪(B∪C)=(A∪B)∪C,A(BC)=(AB)C
分配律:
若
A
(
B
∪
C
)
=
A
B
∪
A
C
,
A
∪
(
B
C
)
=
(
A
∪
B
)
(
A
∪
C
)
若A(B\cup C)=AB\cup AC,A\cup (BC) = (A\cup B)(A\cup C)
若A(B∪C)=AB∪AC,A∪(BC)=(A∪B)(A∪C)
对偶律:
∪
i
=
1
n
A
i
‾
=
∩
i
=
1
n
A
i
‾
,
∩
i
=
1
n
A
i
‾
=
∪
i
=
1
n
A
i
‾
\overline{\cup_{i=1}^nA_i}=\cap_{i=1}^n\overline{A_i},\overline{\cap_{i=1}^nA_i}=\cup_{i=1}^n\overline{A_i}
∪i=1nAi=∩i=1nAi,∩i=1nAi=∪i=1nAi
Ⅱ.事件的关系
1)包含关系:设A与B事件,如果A事件的发生必然导致事件B的发生则称事件B包含事件A,或称事件A是事件B的子事件,记为
A
⊂
B
A\subset B
A⊂B
2)相等关系:设A与B事件,如果
A
⊂
B
A\subset B
A⊂B且
B
⊂
A
B\subset A
B⊂A,则称事件A与事件B相等,记为
A
=
B
A = B
A=B
3)互不相容(互斥)关系:设A与B事件,如果事件A和事件B同时发生是不可能的,即
A
B
=
∅
AB = \emptyset
AB=∅,则称事件A与事件B是互不相容的
4)对立关系:设A与B事件,如果
A
∪
B
=
Ω
A\cup B=\Omega
A∪B=Ω且
A
B
=
∅
AB=\emptyset
AB=∅,则称事件A与事件B是相互对立的,称事件B是事件A的逆事件或对立事件,记为
A
‾
\overline A
A
4、概率:
P
(
∅
)
=
0
P(\emptyset)=0
P(∅)=0
P
(
∪
i
=
1
n
A
i
)
=
Σ
i
=
1
n
P
(
A
i
)
P(\cup_{i=1}^nA_i)=\Sigma_{i=1}^nP(A_i)
P(∪i=1nAi)=Σi=1nP(Ai)
P
(
B
−
A
)
=
P
(
B
)
−
P
(
A
)
P(B-A)=P(B)-P(A)
P(B−A)=P(B)−P(A)
P
(
A
)
≤
1
P(A)\leq 1
P(A)≤1
P
(
A
‾
)
=
1
−
P
(
A
)
P(\overline A)=1-P(A)
P(A)=1−P(A)
P
(
A
∪
B
)
=
P
(
A
)
+
P
(
B
)
−
P
(
A
B
)
P(A\cup B)=P(A)+P(B)-P(AB)
P(A∪B)=P(A)+P(B)−P(AB)
lim
n
→
∞
P
(
A
n
)
=
P
(
∪
n
=
1
∞
A
n
)
\lim_{n\rightarrow \infty} P(A_n)=P(\cup_{n=1}^\infty A_n)
limn→∞P(An)=P(∪n=1∞An)
lim
n
→
∞
P
(
A
n
)
=
P
(
∩
n
=
1
∞
A
n
)
\lim_{n\rightarrow \infty} P(A_n)=P(\cap_{n=1}^\infty A_n)
limn→∞P(An)=P(∩n=1∞An)
5、古典概型(几何概率)
设随机试验的样本空间
Ω
=
{
ω
1
、
ω
2
、
ω
3
、
ω
4
⋯
ω
n
}
\Omega=\{ \omega_1、\omega_2、\omega_3、\omega_4 \cdots \omega_n\}
Ω={ω1、ω2、ω3、ω4⋯ωn},n为有限的正整数,且每个基础事件(两两互不相容的事件)
ω
i
(
i
=
1
、
2
、
3
、
4
⋯
,
n
)
{\omega_i}(i=1、2、3、4\cdots,n)
ωi(i=1、2、3、4⋯,n)发生的可能性相同,则称这种随机试验为古典概型,或称等可能概型。
计算公式:
P
(
A
)
=
k
n
=
有
利
于
事
件
A
发
生
的
基
本
事
件
数
Ω
中
基
本
事
件
的
总
数
P(A)=\frac{k}{n}=\frac{有利于事件A发生的基本事件数}{\Omega中基本事件的总数}
P(A)=nk=Ω中基本事件的总数有利于事件A发生的基本事件数
6、条件概率和概率的三大公式
P
(
B
∣
A
)
=
P
(
A
B
)
P
(
A
)
P(B|A) = \frac{P(AB)}{P(A)}
P(B∣A)=P(A)P(AB)
1)乘法公式:
P
(
A
B
)
=
P
(
A
∣
B
)
P
(
B
)
=
P
(
B
∣
A
)
P
(
A
)
P(AB)=P(A|B)P(B)=P(B|A)P(A)
P(AB)=P(A∣B)P(B)=P(B∣A)P(A)
2)全概率公式:
P
(
A
)
=
Σ
i
=
1
n
P
(
B
i
)
P
(
A
∣
B
i
)
P(A)=\Sigma_{i=1}^nP(B_i)P(A|B_i)
P(A)=Σi=1nP(Bi)P(A∣Bi)
P
(
B
i
∣
A
)
=
P
(
B
i
)
P
(
A
∣
B
i
)
Σ
j
=
1
n
P
(
B
j
)
P
(
A
∣
B
j
)
P(B_i|A)=\frac{P(B_i)P(A|B_i)}{\Sigma_{j=1}^nP(B_j)P(A|B_j)}
P(Bi∣A)=Σj=1nP(Bj)P(A∣Bj)P(Bi)P(A∣Bi)
7、事件的独立性
1)
P
(
A
B
)
=
P
(
A
)
P
(
B
)
P(AB)=P(A)P(B)
P(AB)=P(A)P(B)
2)A,B相互独立,A的运算与B的运算也相互独立
3)A,B,C相互独立,A,B,C任意两者的运算和第三事件的运算相互独立。若事件
A
1
,
A
2
⋯
A
n
A_1,A_2\cdots A_n
A1,A2⋯An相互独立,则其两两独立,但反之不然。
4)
A
1
,
A
2
⋯
A
n
A_1,A_2\cdots A_n
A1,A2⋯An相互独立,则
①其中任意k个事件也相互独立
②将其中任意K个事件换成它们各自的对立事件,所得到的n个事件也相互独立
③将
A
1
,
A
2
,
⋯
,
A
n
A_1,A_2,\cdots,A_n
A1,A2,⋯,An任意分为k个没有相同事件的不同小组,并对每个小组中的事件施以和、积、差、逆运算后,所得到的k个事件也相互独立。
第二章:随机变量及其分布
1、随机变量的分布函数
设X是一个随机变量,称函数
F
(
x
)
=
P
(
X
≤
x
)
F(x)=P(X\leq x)
F(x)=P(X≤x)为随机变量X的分布函数。
从几何上看,如果把X看成数轴上的随机点坐标,那么分布函数F(x)就是在x处的函数值就表示X落在区间
(
−
∞
,
x
]
(-\infty,x ]
(−∞,x]上的(即随机点落在点x的左边)概率。
1)
P
(
x
1
<
X
≤
x
2
)
=
F
(
x
2
)
−
F
(
x
1
)
P(x_1<X\leq x_2)=F(x_2)-F(x_1)
P(x1<X≤x2)=F(x2)−F(x1)
2)
0
≤
F
(
x
)
≤
1
0 \leq F(x)\leq 1
0≤F(x)≤1且
F
(
−
∞
)
=
0
,
F
(
+
∞
)
=
1
F(-\infty)=0,F(+\infty) = 1
F(−∞)=0,F(+∞)=1
3)F(x)函数是单调不递减函数
4)F(x)是右连续的,即
F
(
x
+
0
)
=
F
(
x
)
F(x+0)=F(x)
F(x+0)=F(x)
2、离散型随机变量的分布律
设X是离散型随机变量,其可能的取值为
x
1
,
x
2
,
⋯
,
x
i
⋯
x_1,x_2,\cdots,x_i\cdots
x1,x2,⋯,xi⋯,称
P
(
X
=
X
i
)
=
p
i
,
i
=
1
,
2
,
⋯
P(X = X_i) = p_i,i=1,2,\cdots
P(X=Xi)=pi,i=1,2,⋯为X的分布律。【可能值+可能值出现概率】
或表示为
X | x 1 x_1 x1 | x 2 x_2 x2 | ⋯ \cdots ⋯ | x i x_i xi | ⋯ \cdots ⋯ |
---|---|---|---|---|---|
P | p 1 p_1 p1 | p 2 p_2 p2 | ⋯ \cdots ⋯ | p i p_i pi | ⋯ \cdots ⋯ |
求离散型随机变量X的分布律,其方法是:X可能的取值便是分布函数F(x)的间断点(分界点)
x
i
(
i
=
1
,
2
,
⋯
)
x_i(i=1,2,\cdots)
xi(i=1,2,⋯),从而X的分布律为
p
i
=
P
(
X
=
x
i
)
=
F
(
x
i
+
0
)
−
F
(
x
i
−
0
)
=
F
(
x
i
)
−
F
(
x
i
−
0
)
p_i=P(X=x_i)=F(x_i+0)-F(x_i-0)=F(x_i)-F(x_i-0)
pi=P(X=xi)=F(xi+0)−F(xi−0)=F(xi)−F(xi−0)
3、几种重要的离散型随机变量
1)0-1分布
离散型随机变量X只能取0和1两个值,他的分布律为
P
(
X
=
k
)
=
p
k
(
1
−
p
)
1
−
k
,
0
<
p
<
1
,
k
=
0
,
1
P(X=k)=p^k(1-p)^1-k,0<p<1,k = 0,1
P(X=k)=pk(1−p)1−k,0<p<1,k=0,1
2)二项分布(记为X~
B
(
n
,
p
)
B(n,p)
B(n,p))
离散型随机变量X的分布律为
P
(
X
=
k
)
=
C
n
k
p
k
q
n
−
k
,
q
=
1
−
p
,
k
=
0
,
1
,
2
,
⋯
,
n
P(X=k)=C_n^kp^kq^{n-k},q =1-p,k=0,1,2,\cdots,n
P(X=k)=Cnkpkqn−k,q=1−p,k=0,1,2,⋯,n
3)Poisson分布(记为X~
P
(
λ
)
P(\lambda)
P(λ))
离散型随机变量X的分布律为
P
(
X
=
k
)
=
λ
k
k
!
e
−
λ
,
λ
>
0
,
k
=
0
,
1
,
2
,
⋯
P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda},\lambda>0,k=0,1,2,\cdots
P(X=k)=k!λke−λ,λ>0,k=0,1,2,⋯
[Poisson定理]:设
λ
>
0
\lambda>0
λ>0是一个常数,n是任意的正整数,
n
p
=
λ
np=\lambda
np=λ,则对任意固定的非负整数k,有
lim
n
→
∞
C
n
k
p
k
(
1
−
p
)
n
−
k
=
λ
k
k
!
e
−
λ
\lim_{n\rightarrow\infty C_n^kp^k(1-p)^{n-k}}=\frac{\lambda^k}{k!}e^{-\lambda}
limn→∞Cnkpk(1−p)n−k=k!λke−λ
4)几何分布
离散型随机变量X的分布律为
P
(
X
=
k
)
=
q
k
−
1
p
,
k
=
1
,
2
,
⋯
,
0
<
p
<
1
,
q
=
1
−
p
P(X=k)=q^{k-1}p,k=1,2,\cdots,0<p<1,q=1-p
P(X=k)=qk−1p,k=1,2,⋯,0<p<1,q=1−p
5)超几何分布(记为X~
h
(
N
,
n
,
k
)
h(N,n,k)
h(N,n,k))
若从N件产品,其中有M件次品中,任取n件,则随机变量X的分布律为
P
(
X
=
k
)
=
C
M
k
C
N
−
M
n
−
k
C
M
k
,
k
=
0
,
1
,
2
,
⋯
,
m
i
n
{
M
,
n
}
P(X=k)=\frac{C_M^kC_{N-M}^{n-k}}{C^k_M},k = 0,1,2,\cdots,min\{M,n\}
P(X=k)=CMkCMkCN−Mn−k,k=0,1,2,⋯,min{M,n}
当
N
→
∞
N\rightarrow\infty
N→∞时,
M
N
→
p
\frac{M}{N}\rightarrow p
NM→p,则
lim
N
→
∞
C
M
k
C
N
−
M
n
−
k
C
N
n
=
lim
N
→
∞
P
(
X
=
k
)
=
C
n
k
p
k
q
n
−
k
\lim_{N\rightarrow\infty}\frac{C_M^kC_{N-M}^{n-k}}{C_N^n}=\lim_{N\rightarrow\infty}P(X=k)=C_n^kp^kq^{n-k}
limN→∞CNnCMkCN−Mn−k=limN→∞P(X=k)=Cnkpkqn−k
4、连续性随机变量的概率密度
设X是随机变量,其分布函数为F(x),如果存在非负可积函数f(x),使得
F
(
x
)
=
∫
−
∞
x
f
(
t
)
d
t
,
−
∞
<
x
<
+
∞
F(x)=\int_{-\infty}^xf(t)dt,-\infty<x<+\infty
F(x)=∫−∞xf(t)dt,−∞<x<+∞则称X为连续型随机变量,称f(x)为X的概率密度函数,简称概率密度。
f
(
x
)
>
=
0
f(x)>=0
f(x)>=0
∫
−
∞
+
∞
f
(
x
)
d
x
=
1
\int_{-\infty}^{+\infty}f(x)dx=1
∫−∞+∞f(x)dx=1
P
(
a
<
X
≤
b
)
=
∫
a
b
f
(
x
)
d
x
=
1
P(a<X\leq b)=\int_a^bf(x)dx=1
P(a<X≤b)=∫abf(x)dx=1
在f(x)的连续点x处,有
F
′
(
x
)
=
f
(
x
)
F'(x)=f(x)
F′(x)=f(x)
[不可能事件的概率是零,但概率是零的事件未必是不可能事件]
5、几种重要的连续型随机变量
1)均匀分布
2)正态分布
3)指数分布
6、随机变量函数及其分布
离散型随即变量的函数的分布按照
x
i
x_i
xi依次列写
连续性随机变量的函数其概率密度求法: