概率论与统计

第一章 基本概念

1.1 基础概念

确定性现象：在一定条件下必会发生的现象。

统计规律性：在大量重复试验中呈现出的固有规律性。

随机现象：在个别试验中呈现出不确定性，在大量重复试验中其结果又具有统计规律性的现象。

随机试验：概率论中，我们将具有下面三个特点的试验称为随机试验，

1. 可在相同条件下重复进行；
2. 每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果；
3. 在一次试验之前不能确定哪一个结果会出现。

比如抛硬币 100 次就属于随机试验。

样本空间：随机试验 $E$E 的所有可能结果组成的集合，记作 $S$S 。$S$S 中的单个元素被称为样本点。

随机事件：样本空间 $S$S 的子集，简称事件。在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生。

事件中有一个基本事件或者子集发生，就称这个事件发生。

基本事件：由单个样本点所组成的集合。如抛硬币 $\{头朝上\}${头朝上}，$\{尾朝上\}${尾朝上}。基本事件彼此之间是互不相容的。

必然事件：必然发生的事件，即 $S$S 本身。

不可能事件：不可能发生的事件，记作 $\Phi$Φ。

1.2 事件间的关系与事件的运算

事件是由事件或者基本事件组成的集合，所以可以套用集合论中的知识。

事件间的关系与运算	描述
$A \subset B$A⊂B	A 为 B 的子集
$A = B$A=B	$(A \subset B) \and (B \subset A) $
$A \cup B$A∪B	A 与 B 的和事件
$A \cap B$A∩B	A 与 B 的积事件
$A-B$A−B	A 与 B 的差事件
互斥	$A \cap B = \Phi$A∩B=Φ
对立	$(A \cup B = S) ∧ (A \cap B = \Phi)$(A∪B=S)∧(A∩B=Φ)

运算律	描述
交换律	$A \cup B = B \cup A \\ A \cap B = B \cap A$A∪B=B∪AA∩B=B∩A
结合律	$A \cup (B \cup C) = (A \cup B) \cup C \\ A \cap (B \cap C) = (A \cap B) \cap C$A∪(B∪C)=(A∪B)∪CA∩(B∩C)=(A∩B)∩C
分配律	$A \cup (B \cap C) = (A \cup B) \cap ( A \cup C) \\ A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$A∪(B∩C)=(A∪B)∩(A∪C)A∩(B∪C)=(A∩B)∪(A∩C)
德摩根律	$\overline{A \cup B}=\bar{A} \cap \bar{B} \\ \overline{A \cap B}=\bar{A} \cup \bar{B}$A∪B=Aˉ∩BˉA∩B=Aˉ∪Bˉ

1.3 概率

1.3.1 定义

概率：

任何形式的概率都有三个基本的性质：非负性、规范性、可列可加性。

1.3.2 概率的性质

1. $P(\Phi)=0$P(Φ)=0

2. （有限可加性）若 $A_{1},A_2,\cdots,A_n$A1​,A2​,⋯,An​ 是两两互不相容的事件，则有 $P(A_1 \cup A_2 \cup \cdots \cup A_n) = P(A_1) + P(A_2) + \cdots + P(A_n)$P(A1​∪A2​∪⋯∪An​)=P(A1​)+P(A2​)+⋯+P(An​)

3. 若 $A \subset B$A⊂B，则有 $P(B-A)=P(B)-P(A)$P(B−A)=P(B)−P(A) 和 $P(B)\geq P(A)$P(B)≥P(A)

4. 对于任意事件 $A$A ，$P(A) \leq 1$P(A)≤1

5. $P(\bar{A}) = 1 - P(A)$P(Aˉ)=1−P(A)

6. （加法公式）$P(A \cup B) = P(A) + P(B) - P(AB)$P(A∪B)=P(A)+P(B)−P(AB)

   推广：$P(A_1 \cup A_2 \cup A_3) = P(A_1) + P(A_2) + P(A_3) \\- P(A_1A_2)-P(A_1A_3)-P(A_2A_3)+P(A_1A_2A_3)$P(A1​∪A2​∪A3​)=P(A1​)+P(A2​)+P(A3​)−P(A1​A2​)−P(A1​A3​)−P(A2​A3​)+P(A1​A2​A3​)

1.4 等可能概型（古典概型）

1.4.1 定义

1.4.2 公式

1.5 条件概率

$P(B|A)=\frac{P(A B)}{P(A)}$P(B∣A)=P(A)P(AB)​

1.6 乘法定理

$P(AB)=P(B|A)P(A) \quad (P(A)>0)$P(AB)=P(B∣A)P(A)(P(A)>0)

推广：

$P(ABC)=P(C|AB)P(B|A)P(A)$P(ABC)=P(C∣AB)P(B∣A)P(A)

$P(A_1A_2 \cdots A_n)=P(A_n|A_1A_2 \cdots A_{n-1})P(A_{n-1}|A_1A_2 \cdots A_{n-2}) \cdots P(A_2|A_1)P(A_1)$P(A1​A2​⋯An​)=P(An​∣A1​A2​⋯An−1​)P(An−1​∣A1​A2​⋯An−2​)⋯P(A2​∣A1​)P(A1​)

1.7 全概率公式和贝叶斯公式

划分：

全概率公式：

贝叶斯公式：

1. 8 独立性

1.8.1 定义

如抛硬币，A 事件为第一次抛硬币正面朝上的概率，B 事件为第二次抛硬币正面朝上的概率，很明显这两个事件是相互独立的，显然 $P(AB)=P(A)P(B)$P(AB)=P(A)P(B).

1.8.2 定理

对于定理二可以这么理解：$\bar{A}$Aˉ 的意思是 $A$A 不发生，那么既然 $A$A 发生与否与 $B$B 没有关系，那么 $A$A 不发生与否肯定跟 $B$B 也有没有关系。比如抛硬币，假如 $A$A 指代第一次抛硬币正面朝上的概率，$B$B 事件指代第二次抛硬币正面朝上的概率，那么 $A$A 不发生，也就是第一次抛硬币没有正面朝上，并不会影响 $B$B 事件发生的概率。

推论：

第二章 随机变量及其分布

随机变量：

离散型随机变量及其分布律

离散型随机变量：全部可能取到的值为有限个或可列无限多个的随机变量。

离散型随机变量的分布律：（式 2.1）

分布律也可用表格的形式表示：

为什么叫分布律？概率 1 以一定的规律分布在各个可能值上。

三个重要的离散型随机变量

① (0-1)分布

② 伯努利试验、二项分布

③ 泊松分布

随机变量的分布函数

分布函数的性质：

1. $F(x)$F(x) 是一个不减函数
2. $0 \leq F(x) \leq 1$0≤F(x)≤1，且 $F(-\infty)=\lim_{x \to -\infty}F(x) = 0$F(−∞)=limx→−∞​F(x)=0，$F(\infty)=\lim_{x \to \infty}F(x) = 1$F(∞)=limx→∞​F(x)=1
3. $F(x+0)=F(x)$F(x+0)=F(x)，即 $F(x)$F(x) 是右连续的。

怎样理解离散型随机变量分布函数的右连续性？ - 阿门的回答 - 知乎 https://www.zhihu.com/question/25694816/answer/437574669

连续型随机变量及其概率密度

若对于随机变量 $X$X 的分布函数 $F(x)$F(x)，存在非负函数 $f(x)$f(x)，使对于任意实数 $x$x 有

$F(x)=\int^x_{-\infty}f(t)dt$F(x)=∫−∞x​f(t)dt

则称 $X$X 为连续型随机变量，其中 $f(x)$f(x) 称为 $X$X 的概率密度函数，简称概率密度。

概率密度 $f(x)$f(x) 的性质：

1. $f(x)\geq 0$f(x)≥0
2. $\int^\infty_{-\infty}f(x)dx=1$∫−∞∞​f(x)dx=1
3. 对于任意实数 $x_1$x1​，$x_2$x2​（$x_1\leq x_2$x1​≤x2​），$P\{x_1 < X \leq x_2\} = F(x_2) - F(x_1) = \int^{x_2}_{x_1}f(x)dx$P{x1​<X≤x2​}=F(x2​)−F(x1​)=∫x1​x2​​f(x)dx
4. 若 $f(x)$f(x) 在点 $x$x 处连续，则有 $F'(x)=f(x)$F′(x)=f(x)

三种重要的连续型随机变量

① 均匀分布

② 指数分布

③ 正态分布

第三章 多维随机变量及其分布

性质：


离散型随机变量：