接受-拒绝采样算法详细证明
Algorithm 1.1 接受-拒绝采样算法
1. 目标分布 ,分布 和常数 ,通过对 的采样实现对 采样,满足:
- 对 采样比较容易;
- 的形状接近 ,且 , ,即保证
2. 采样过程
- 产生样本 ,和
- 若,则接受样本
- 则接受的样本服从分布
3. 证明过程
等价于
- 产生样本 ,和
- ,若,则接受
证明:
- 的概率密度函数为
- 的概率密度函数为
- 联合概率密度函数为
- 按接受-拒绝采样法抽出的随机数的概率:
即的概率密度函数为
Algorithm 1.2 直接采样法
1. 直接采样的思想是,通过对均匀分布采样,实现对任意分布的采样。因为均匀分布采样好猜,我们想要的分布采样不好采,那就采取一定的策略通过简单采取求复杂采样。
2. 假设服从某项分布,其累积分布函数CDF为,有样本,我们令 ,即 ,结果即为对分布的采样。
- 产生样本
- 令 ,其中为的累积分布函数CDF
- 计算
- 结果即为对分布的采样
3. 示例
4. 证明