Introduction

Introduction to probability 2nd_edition
Ch06

对于随机过程，我们关注：
1. 相关性
2. long-term averages 均值
3. boundary events

本篇关注两个类型的随机过程
1. 到达模型，伯努利和泊松
2. 马尔可夫模型

The Bernoulli Process

伯努利过程，就像一次接一次地投硬币。事件发生概率p，不发生概率1−p，在伯努利过程中，类似于顾客到达服务台，第k次实验看作，在第k个时间内，有至少一个顾客到达。

更准确地，定义Beonoulli process是一个随机变量序列，随机变量 Xi 满足
P(Xi=1)=P(successattheithtrial)=p
P(Xi=0)=P(failureattheithtrial)=1−p

相互独立 无记忆

Independence and Memorylessness 是 伯努利过程的重要性质。

假设随机变量 Z=(X1+X3)X6X7 如果另一个随机变量和它没有公共的元素，那这两个随机变量应该是相互独立的。

无记忆性

Interarrival Times 到达时距

Yk – 第k次到达的时间。
Tk – k+1次与k次到达的时间间隔

T1=Y1
Tk=Yk−Yk−1

Yk=∑ki=1Ti
由于伯努利的无记忆性，也就是说每一个时间都相当于一个新的开始，同时，由于所以第一次到达前的时间是几何分布，因此每个时间间隔都是独立同分布的几何分布。

The kth Arrival Time

在前 t−1 个时间内有 k−1 次，第 t 次也发生。

Splitting and Merging of Bernoulli Process

The Possion Approximation to the Binomial

当 n 很大 p 很小时，近似为泊松分布

The Possion Process

P(k,t)=P(k arrivals during an interval of length t)

我们假设每个时间内，这个概率相等。

λ – arrival rate 或者 intensity of the process

泊松过程的定义

1. 第一个定义表示，每个时间间隔是等价的，到达的量是“一样”的。
2. 第二个表示，到达的数目与历史无关
3. 小o表示，相比于t的数量级可以忽略不计

Number of Arrivals in an Interval

将一个固定的时间间隔 t 分为t/δ 个时间间隔。δ 非常小，大于一次的到达可以忽略。因此每个时间内到达的概率为 λδ,类似于伯努利过程

时间t内到达k次的概率和n=t/δ次伯努利成功k次大致一样。
当n无穷大时，np趋向于常量，等于λ∗t

也就是说，通过泊松分布的假设，可知泊松过程相当于伯努利过程。

P(0,t)=1−e−λt

Independence and Memorylessness

Interarrival Times

指数分布

也就是说
为了等待第一次成功，伯努利试验的等待时间服从几何分布，而泊松过程则服从指数分布
为了等待第r次成功，伯努利试验的等待时间服从巴斯卡分布，而泊松过程服从埃尔兰分布