贝叶斯推理

共轭的先验和似然，意味着先验和后验有相同形式（高斯先验加高斯似然导致一个高斯后验）

但其余部分，不能计算后验，采取近似的方法

                                                                                       非共轭模型

精确贝叶斯推理（即共轭）：

β二项分布

高斯-高斯组合

离散和连续数据的多项-狄利克雷（multinomial-Dirichlet）

γ-高斯

二值分类问题的三种近似技术：点估计、近似密度和采样（对于非共轭）

二值响应

先验：高斯密度

似然:sigmoid函数

后验

点估计:最大后验估计方案

最大似然方法，用log函数

然后用牛顿—拉夫森算法估计点

拉普拉斯近似（鞍点近似）

抽样技术：

流行的抽样方法:Metropolls-Hastings

MH算法

二阶偏导数矩阵也就所谓的赫氏矩阵(Hessian matrix). 
一元函数就是二阶导，多元函数就是二阶偏导组成的矩阵. 
求向量函数最小值时用的，矩阵正定是最小值存在的充分条件。 
经济学中常常遇到求最优的问题，目标函数是多元非线性函数的极值问题尚无一般的求解方法，但判定局部极小值的方法是有的，就是用hessian矩阵， 
在x0点上，hessian矩阵是负定的，且各分量的一阶偏导数为0，则x0为极大值点. 
在x0点上，hessian矩阵是正定的，且各分量的一阶偏导数为0，则x0为极小值点. 
矩阵是负定的充要条件是各个特征值均为负数. 
矩阵是正定的充要条件是各个特征值均为正数.