威沙特分布和逆威沙特分布(Wishart 分布及逆 Wishart 分布)

Wishart 分布

Wishart 分布是用来描述多元正态分布样本的协方差矩阵的。Wishart 分布的随机变量是一个随机矩阵。

定义

假设XX是一个npn*p的矩阵,其中,每一行XiX_{i}服从多元正态分布:
XiNp(0,Σ)X_{i} \backsim N_{p}(0,\Sigma)
也就是每一个样本XiX_{i}服从pp维的正太分布。

A=iXiTXiA = \sum_{i}X_{i}^TX_{i}
则随机矩阵AAppp*p维)就是wishart分布的随机变量。
AA也常被称作是散度矩阵:
AWp(n,Σ)A \backsim W_{p}(n, \Sigma)
nn是自由度。
威沙特分布和逆威沙特分布(Wishart 分布及逆 Wishart 分布)

逆Wishart分布

如果一个正定矩阵BB的逆矩阵B1Wp(n,Σ)B^{-1} \backsim W_{p}(n, \Sigma),那么称BWp1(n,Σ)B \backsim W_{p}^{-1}(n, \Sigma)

Inverse-Wishart分布常作为Bayes中多元正态分布的协方差阵的共轭先验分布

假设XRnpXiNp(0,Σ)ΣWp1(m,Ω)X \in R^{n*p}, X_{i} \backsim N_{p}(0, \Sigma), \Sigma \backsim W_{p}^{-1}(m, \Omega)
那么Σ\Sigma后验分布:
ΣdataWp1(m+n,A+Ω)A=iXiTXi=nS\Sigma|data \backsim W_{p}^{-1}(m+n, A+\Omega),A = \sum_{i}X_{i}^{T}X_{i}=nS