《R实现贝叶斯统计》chapter 1

前言

最近在阅读《贝叶斯统计及其R实现》，这是一本用R语言实现贝叶斯统计的一本书
本书分为七章
1.介绍基本的贝叶斯概念

2.介绍共轭先验分布的基本概念

3.介绍先验分布的基本求法

4.贝叶斯统计推断

5.贝叶斯决策

6.MCMC

7.统计决策

随机事件贝叶斯公式

1.条件概率公式

p(A|B)表示B发生后A发生的概率，由上图可以看出B发生后，A再发生的概率就是 p(A∩B)/p(B)

2.全概率公式

摘自CSDN

也就是说，L1.....Ln是总体事件L里面的子事件，且两两之间没有交集，那么C事件的概率即为上图所示，其中p(L1)*p(C|L1)表示第一步选择L1的概率乘第二步选择

3.贝叶斯公式

这个公式最大作用是已知结果，推断某原因发生的概率。比方说两个盒子，分别有10个球，那么第一个盒子有8个红球，第二个盒子有1个红球，那么我已知结果，我摸到了红球，那么推断该红球来自哪一个盒子的概率大

已知C事件发生，反推是Lk原因的概率

基本概念

1.样本信息

由总体抽取一定样本，这些样本提供的信息成为样本信息

2.先验信息和先验分布

所谓先验信息是人们通过抽样之前，研究者通过对问题长期观察总结积累起来的重要历史信息
对先验信息提炼加工获得的分布为先验分布

后验分布

由贝叶斯公式：

若p(C|Lk)为先验信息，那么p(Lk|C)即为后验信息
那么通常在R中这样计算后验分布

library(BayesianStat)
theta<-c(0,0.2,0.4,0.6,0.8,1)
prior<-c(0.94,0.03,0.02,0.01,0.00,0.00)
Bindiscrete(x = 0,n=10,pi=theta,pi.prior=prior,n.pi=6

#可视化
Binbeta(x,n,a=1,b=1,pi=seq(0.01,0.999,by=0.0010),plot=T)

可以将先验后验的分布密度函数画出来

共轭先验分布

如果后验分布与先验分布属于同类，则先验分布与后验分布被称为共轭分布，而先验分布被称为似然函数的共轭先验。

茆诗松《贝叶斯统计》

这里的同样的函数形式理解为是同一函数族，比方说先验分布：Be（1,1），后验分布为：Be（x+1，n-x+1），这两个属于Be函数族

若已知样本和共轭先验分布（poisson），要画后验的分布密度（gamma分布）我们用R这样做：

library(BayesianStat)
x<-c(3,4,3,2,1)
#参数为1，0的后验分布
Poisgamma(x,1,0)
#参数为1，2的后验分布
Poisgamma(x,1,2)