《LDA漫游指南》数学基础阅读笔记

我大概看了看，觉得这本书比较散，也许是我功力不够，所以打算快速刷完看看别的。笔记就这么多吧。

《LDA漫游指南》数学基础阅读笔记

第二章 烧脑的数学公式。。。

廉颇老矣，扶我起来，朕还能算。。。

gamma函数

这个函数主要目的是计算阶乘可以通过这个函数来进行转化。

举个栗子：

这么一看，其实挺简单的哈，无非就是一个积分运算，无非是表现形式有些复杂而已。

再来重复一遍：

第一个烧脑结果: Γ(12) :

运算过程：

首先将 12 带入gamma函数，对于计算结果进行换元，换元之后发现相对容易了一些，然后假设结果为I，对于I^2进行计算，这样能够转换成为整个平面的极坐标，通过雅可比矩阵计算出变换之前和变换之后 Δ(s) 进行计算，以便得出在不同的变量表示下，小面积的对应的比例。这样计算出最后的结果 Γ(12)=π‾‾√

第二个烧脑结果： Γ(x+1)=xΓ(x)

证明如下：

从上面可以看出，其实对于 Γ(x+1) 和 Γ(x) 是相当有规律的，这也符合阶乘的特点。

哦哦哦？很神奇，居然前面提出了x，其实 Γ(x)=(x−1)!

所以 Γ 代表阶乘。

---

二项分布

这个看上去还熟悉点儿。刚刚还在群里告诉学弟学妹如何应对概率考试，然而其实我更想说：你们平时学的效果比现在好得多！然而都考期了。。。

来，言归正传，说说二项分布：

二项分布也叫做伯努利分布，非常有趣，也非常简单。

一种有成功或者失败两种状态，用概率p来表示成功的概率，每次事件相互独立，并没有任何相关关系。当实验次数为1时叫做伯努力分布，当次数大于1的时候，叫做n重伯努力分布：

在matlab中有一个很简单的接口:

ret = nchoosek(n,k);

可以尝试玩耍一下。

---

beta分布

beta分布实际上是个连续的分布，定义在区间(0,1)上面。 α,β>0

其概率密度函数为

实际上这是X服从beta分布的结果。

下面有一个巨长无比的证明，关于欧啦第一公式：是B函数和gamma函数的关系，也被称为第一型欧拉积分：

（看完这个我要去跑个步休息一下）

可以看出 B(α,β)=Γ(α)Γ(β)Γ(α+β)

推倒如下：

不，我不想粘贴了。。。

自己看看吧。我先看看结论，会用再说！

就是他！

我要去跑个步放松一下。

另外，假设我们已知欧拉第一公式，那么计算beta函数的期望就会非常之有趣，会发现就是 αα+β

然后出现了这么一个奇葩的不知道从哪里来的公式：

---

dirichlet districution

狄利克雷分布的简单版本就是beta分布了，不过beta是两项，而狄利克雷分布是多项。

共轭先验分布

---

综上所述：

需要记住的几个公式和中间结果：

gamma函数

Γ(12)=π‾‾√

Γ(x+1)=xΓ(x)