变分贝叶斯
共轭分布
共轭分布是一种极大简化贝叶斯分析的方法。其作用是，在贝叶斯公式包含多种概率分布的情况下，使这些分布的未知参数在试验前被赋予的物理意义，延续到试验后，便于分析。
在贝叶斯统计中，如果后验分布与先验分布属于同类（分布形式相同），则先验分布与后验分布被称为共轭分布，而先验分布被称为似然函数的共轭先验。
3.1 Beta分布与二项分布共轭； Dirichlet分布与多项分布共轭；高斯分布与高斯分布共轭。
共轭分布的意义
因为后验分布和先验分布形式相近，只是参数有所不同，这意味着当我们获得新的观察数据时，我们就能直接通过参数更新，获得新的后验分布，此后验分布将会在下次新数据到来的时候成为新的先验分布。如此一来，我们更新后验分布就不需要通过大量的计算，十分方便
常用变分逼近分布
下面介绍狄利克雷分布、大概。
狄利克雷分布
描述一个多元随机变量\(\pi=(\pi_1, \cdots, \pi_K)\)且满足\(\pi_k \in (0,1), \sum_k \pi_k=1\)的分布: \[Dir(\pi; \alpha)=\frac{1}{B(\alpha)} \Pi_k \pi_k^{\alpha_k - 1},\] 其中\(B(\alpha)\)等含义见： https://baike.baidu.com/item/%E7%8B%84%E5%88%A9%E5%85%8B%E9%9B%B7%E5%88%86%E5%B8%83/12728892?fr=aladdin