贝叶斯学习

贝叶斯学习的背景

• 发现两件事情之间的关系 (往往最想要的是因果分析， 先决条件 &结论) • 在我们的日常生活中，医生的疾病诊断可以被认为是一个贝叶斯学习过程
• $A\to B$
  • e.g. 肺炎 $\to$ 肺癌?
  • 很难直接判断（比如血液化验中一项指标阳性，来判断肺癌，其实是很难直接判断的）
  • 而且得肺炎的人要比得肺癌的人要多很多，比较难收集
• 反向思考
  • e.g.比如医生一直看病的过程中，积累了很多经验， 有多少肺癌患者曾经得过肺炎?这样的数据更容易收集，可以通过既往病史得到（执果溯因）
    

贝叶斯定理

$P(h|D)=\frac{P(D|h)P(h)}{P(D)}$

举例: 某项化验测试结果与癌症诊断

• P(h|D) 称为h的后验概率（posterior probability）
  在D条件下，假设h发生的概率
  P(h|D) : 已知测试结果是‘+’（就是D）, 那么得了这种癌症（就是h）的概率
• P(h) 称作h的先验概率（prior probability）
  P(h) : 得这种癌症的概率
• P(D) 称为D的先验概率
  P(D)：测试结果 = ‘+’的概率
• P(D|h) ：给定 h 假设情况下 D出现的概率
  P(D|h)：已知一个人得了这种癌症（h），那么测试结果为‘+’（D）的概率
  $P(D|h)+P(\overline{D}|h)=1$

贝叶斯定理的条件

• P(h)
  • 假设(h): 满足互相排斥的
  • H假设空间: 完全详尽$\sum P(h_i)=1$
    （比如，h1得了癌症，h2没得癌症，如果还有h3，在观察期，可能得可能没得，虽然h1+h2+h3=1满足条件2，但不满足条件1）
• P(D)
  • D：所有可能数据中的一个采样集合
  • 与h相互独立
    （比如做一个血液化验的测试P(+),P(+)=5,不能在肿瘤医院取结果，因为这个已经和假设相关了，是在一部分有强的相关的情况下取的数据）
    比如收集一些发病率数据时，不能在一个收集，可能某个城市就是发病率高，也不能只收集老年人或者大部分是青少年
    写任何一片论文，说一个模型效果好的时候，特别是在experiment set的说明部分，如果data set是公开的数据集，一般容易得到认证，因为收集的时候就考虑到随机性和能反映问题本身，如果是自己收集，要特别说明，不能一言带过，要说明数据怎么取的，有没有和问题相关的数据，比如在一个班级收集的，要特别说明，因为这样的数据可能有一些自带的局限性；要注意数据是不是足够的随机，不能针对假设挑数据
  • 在比较不同假设时可以忽略（P（D）和h没有关系，因为和h没有关系，因此很多时候比较不同假设的时候可以不用计算）
• P(D|h) (似然度 likelihood)
• • log likelihood log(P(D|h)), (通常是对似然度取一个log使用），在给定假设h下，数据D出现的概率（比如癌症中化验为阳性的概率）

likelihood与probability
probability是说的未来发生某事的可能性或概率,比如今天会不会下午，今天降雨概率80%
likelihood是指已经发生的，比如过去一个月的降水率为10%，在中文里可能没有那么明确区分

举例

• 化验测试结果: +，患有某种癌症?
  $P(cancer|+)=?$

我们已知:

• 正确的阳性样本: 98% (患有该癌症, 测试结果为 +)
• 正确的阴性样本: 97% (未患该癌症, 测试结果为 -)
• 在整个人群中，只有0.008 的人患这种癌症
  $$\begin{array}{rlr}& P(cancer)=0.008& P(\neg cancer)=0.992\\ & P(+|cancer)=0.98& P(-|cancer)=0.02\\ & P(+|\neg cancer)=0.03& P(-|\neg cancer)=0.97\\ P(cancer|+)& =P(+|cancer)P(cancer)/P(+)& \\ & =0.98\ast 0.008/(0.98\ast 0.008+0.03\ast 0.992)& \\ & =0.21& \end{array}$$
  P(+)的计算用到全概率公式$$P(+)=\sum _{i}P(+|h_i)P(h_i)$$

概览

• 贝叶斯定理
  • 用先验概率来推断后验概率
    虽然公式简单，但是计算P（D）涉及到全概率公式，枚举所有可能，并计算概率，而且也可以发现P（D）和h没有关系，它只是数据的先验概率
• $MaxAPosterior,MAP,h_{MAP}，极大后验假设$
• $MaximumLikelihood,ML,h_{ML},极大似然假设$
  • • ML vs. LSE (最小二乘，Least Square Error)
    从数学角度上证明满足极大似然的估计就是满足最小二乘的(即平方误差最小的)
• Naïve Bayes, NB, 朴素贝叶斯
  • 独立属性/特征假设
  • NB vs. MAP
• Maximum description length, MDL (最小描述长度)
  • 权衡: 假设复杂度 vs. 假设带来的错误
  • MDL vs. MAP

选择假设— MAP

$P(h|D)=\frac{P(D|h)P(h)}{P(D)}$

• 一般我们需要的是在给定训练集上最有可能的假设
  （一般不需要知道概率是多少、比别的假设概率高多少，也就是说，只要知道它肯定比别的概率高就可以了，而且一般我们不太想知道其它的信息）
• Maximum A Posteriori (MAP): (极大后验假设) $h_{MAP}$
  也就是找到后验值(即P(h|D)值)最大的那个假设h，
  H： 假设空间
  $h\in H:假设空间中的一个假设$
  $\underset{h\in H}{\mathrm{argmax}}P(h|D)P(h)$ 表示使P(h|D)取到最大值的一个参数h
  $$\begin{array}{rl}{h}_{MAP}& =\underset{h\in H}{\mathrm{argmax}}P(h|D)P(h)\\ & =\underset{h\in H}{\mathrm{argmax}}\frac{P(D|h)P(h)}{P(D)}\\ & =\underset{h\in H}{\mathrm{argmax}}P(D|h)P(h)\end{array}$$

比如对比$\frac{P(D|h_1)P(h_1)}{P(D)}$和$\frac{P(D|h_2)P(h_2)}{P(D)}$，对比时，发现P(D)，所以计算极大后验假设时不用考虑P(D),所以$\frac{P(D|h)P(h)}{P(D)}$取到最大值的参数值就是$P(D|h)P(h)$取到最大值的参数

MAP举例

• 实验室测试结果: +，患有某种特定癌症?

• 当我们已知：

  • 正确的阳性: 98% (患癌, 检测结果 +)
  • 正确的阴性: 97% (不患癌, 检测结果 -)
  • 在整个人群中，只有 0.008 患有癌症
    极大后验假设是求最可能的假设，是比较不同的假设，因此计算极大后验假设就不用计算P(D), 只需要计算$\underset{h\in H}{\mathrm{argmax}}P(D|h)P(h)$

  $P(+|cancer)P(cancer)=0.0078,P(+|\neg cancer)P(\neg cancer)=0.0298$
  $h_{MAP}=\neg cancer$
  $$\begin{array}{rl}P(cancer)=0.008& P(\neg cancer)=0.992\\ P(+|cancer)=0.98& P(-|cancer)=0.02\\ P(+|\neg cancer)=0.03& P(-|\neg cancer)=0.97\end{array}$$

  经验：
  在实验或研究中，不用求出实际值，而是用约减公式的相关项来对比用得比较多，
  比如线性加和，$\delta =A-B$描述的比较多，如果问题用的是乘积比较多，一般A/B用的比较多，看它是否大于1，来看哪个更可能，比如argmax就可以将共同项忽略掉，然而求max的时候就只能说正比于…得关系

  选择假设 — 极大似然 ML

  $h_{MAP}=\underset{h\in H}{\mathrm{argmax}}P(D|h)P(h)$
  
  如果知道P(h)，聪明的人总是能最大限度地从经验中学习（经验就是P(D|h)，知道假设中数据D出现的概率）

• 如果我们完全不知道假设的概率分布，或者我们知道所有的假设发生的概率相同，那么MAP 等价于 Maximum Likelihood (h_ML 极大似然假设)
  在极大后验假设中没有引入假设，约去P(D),的确是因为与P(D)无关， 但是这里引入了假设，P(h_i)是一个常数而且是相等的，引入后计算简单
  $h_{ML}=\underset{h_{i}inH}{\mathrm{argmax}}P(D|h_i)$

数学上$P(h|D)\ne P(D|h)$,但是这里相等，是因为：

1. h是使P（D｜h_i)最大的参数h_i
2. 假设所有的P(h_i)是相等的

ML 举例: 抛硬币问题

• 2 个硬币: P₁(H) = p（第一枚硬币朝上的概率为p），P₂(H) = q （第二枚硬币朝上的概率为q）
• 抛1号硬币的概率是 a ，那抛2号硬币的概率为1-a
• 但是 a, p, q 未知的
• 观察到一些产生序列（做四组实验，每次拿了一枚硬币，抛4次）:
  • 2HHHT，1HTHT， 2HHHT， 2HTTH
  • 2HHHT，是拿第二枚硬币抛的，分别是正正正反
  • 1HTHT，是拿第一枚硬币抛的，分别是正反正反
• 估计 a, p, q 最有可能的值
  直观感觉a是1/4， p是2/4， q是(3+3+2)/(3*4) = 8/12

• “简单” 估计: ML (maximum likelihood，极大似然)
  - 抛一个(p,1-p)硬币 m 次，得到k 次 H 和 m-k 次 T
  $$\begin{array}{rl}logL(D|p)& =logP(D|p)\\ & =log(p^k(1-p{)}^{m-k})\\ & =klogp+(m-k)log(1-p)\end{array}$$
  L就是Likelihood，似然度；D就是已知的数据，即所有m次data，
  $P(D|p)=p^k(1-p{)}^{m-k}$有个假定–每次抛硬币是独立的；因为和顺序无关所以=$p^k(1-p{)}^{m-k}$
• 要想Likelihood最大，就是求最大值，对 p 求导令导数为 0:$\frac{d(logL(D|p))}{dp}=\frac{k}{p}-\frac{m-k}{1-p}=0$
• 求解 p，得到:$p=k/m$

• 估计 a, p, q 最有可能的值
a = 1/4（四次有一次取到第一枚硬币）, p = 2/4（抛第一枚硬币，四次有两次正面朝上）, q = 8/12

在实际中的使用，在数数时，根据历史经验，进行n次随机试验中，某个数出现r次，我们就说这个数出现概率就是r/n， 这里其实就用到了极大似然估计

极大似然 & 最小二乘

• 训练数据: $<x_i,d_i>$（x_i是自变量，输入，d_i是label，就是输出）
• $d_i=f(x_i)+e_i$
  • d_i : d_i是独立的样本.
  • f(x_i): 没有噪声的目标函数值
  • e_i: 噪声（残差），独立随机变量，符合正态分布 $N(0,{\sigma }^2)$

    阐述为什么使用正态分布，因为和正态分布相关的中心极限定理有很强的优势，
    根据中心极限定理，如果样本符合独立同分布，如果足够多，那样本均值符合正态分布；
    噪声也是类似的，噪声都是独立的，而且同分布，虽然噪声分布很复杂，而且不知道是什么分布，但是是同分布的，噪声很多时，可以发现噪声的均值符合正态分布
    而且正态分布性质，任意正态分布都可以转化到标准正态分布
    比如白噪声：就是噪声很稳定，就像走在立交桥上听到的噪声，只要没有突然变化的声音（喇叭声之类的），其实噪声就像波浪一样很稳定，这样的噪声均值符合正态分布，是可以通过手段去除的

• $\to$ d_i : 正态分布 $N(f(x_i),{\sigma }^2)$
  因为噪声是$N(0,{\sigma }^2)$ ，叠加到$f(x_i)$上就是$N(f(x_i),{\sigma }^2)$,这是正态分布的性质决定的，可以查看下正态分布的性质
  
  其实D是由（$d_1,d_2,...d_m$)这m个样本组成的，$p(D|h)=p(d_1,d_2,...d_m|h)$,每个样本都是独立的，有概率性质得，$$p(D|h)=\prod _{i=1}^{m}p(d_i|h)$$
  由于数据服从正态$N(h(x_i),{\sigma }^2)$（这里$h(x_i)和上面的f(x_i)一样$，利用正态分布密度函数得$$p(D|h)=\prod _{i=1}^{m}p(d_i|h)=\prod _{i=1}^m\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{1}{2}(\frac{d_i-h(x_i)}{\sigma }{)}^2}$$
  由于求的是参数h，所以可以对${\prod }_{i=1}^m\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{1}{2}(\frac{d_i-h(x_i)}{\sigma }{)}^2}$取log（因为log单调的，而且计算简单，不会影响比较取最大的h）
  
  上面由于求式子最大，所以一些函数可以去掉，得KaTeX parse error: Expected 'EOF', got '}' at position 30: …_i)}{\sigma})^2}̲,有负号，去掉负号就成为求式子最小的参数h
  最后就是求残差平方和最小的参数h，
• 独立随机变量，可以认为是正态分布噪声 $N(0,{\sigma }^2),h_{ML}=h_{LSE}$，极大似然的假设就是服从最小二乘法（最小平方误差）的假设
  （因此我们日常生活中经常用到极大似然估计，就比如上面的数数，因为这样是最小平方误差最小的）

Naïve Bayesian Classifier (朴素贝叶斯分类器)

• 假设目标函数 f : $X\to V$，其中每个样本 x = (a1, a2, …, an). (a_i是属性，不是样本）
  那么最有可能的 f(x) 的值是:
  $$v_{MAP}=\underset{v_j\in V}{\mathrm{argmax}}P(x|v_j)P(v_j)$$

• 朴素贝叶斯假设:
  $$P(x|v_j)=P(a_1,a_2...a_n|v_j)=\prod _{i}P(a_i|v_j)$$
  $每个属性a_1,a_2...a_n独立$

  比如之前的例子，要不要去游泳，就有温度、风、湿度等属性
  经常在文本上使用独立性的假设，每个字都是独立，虽然语法上可能不独立，但是实际往往这样使用，看后面示例

• 朴素贝叶斯分类器:
  $$\begin{array}{rl}{v}_{NB}& =\underset{v_j\in V}{\mathrm{argmax}}P(v_j)\prod _{i}P(a_i|v_j)\\ & =\underset{v_j\in V}{\mathrm{argmax}}\{logP(v_j)+\sum _{i}logP(a_i|v_j)\}\end{array}$$
  如果满足属性之间的独立性，那么 $v_{MAP}=v_{NB}$

举例1：词义消歧 (Word Sense Disambiguation)

• e.g. fly =? bank = ?(fly有苍蝇和飞的意思，bank 有河岸和银行的意思）
• 对于单词 w，使用上下文 c 进行词义消歧（就是明确单词在上下文的意思，让机器知道该使用哪个意思）
  • e.g. A fly flies into the kitchen while he fry the chicken. （他在炸鸡时一只苍蝇飞进了厨房）
  • 上下文 c: 在词 w 周围的一组词w_i(即：特征 / 属性)
  • si: 词 w 的第 i^th 个含义(即：输出标签)

    在上下文中取几个次，并没有明确说法，
    比如前后各取两个，对于fly就是 Na a files into 或H a files into,h:head对于flies就是 a fly into kitchen
    比如fly的含义s₁就是苍蝇，s₂就是飞

• 朴素贝叶斯假设: $$P(c|s_k)=\prod _{w_i\in c}P(w_i|s_k)$$

  朴素贝叶斯假设其实就是P(D|h),D就是这里的c，上下文
  根据$Map=argmaxP(D|h)P(h)$,D在这里就是c，是由独立性的，$P(D|h)=P(c|h)={\prod }_{w_i}P(w_i|h)$
  文本里往往有独立性假设，一个次往往就是就是独立出现的，和它前面和后面没有关系，虽然经常在语言上不成立，比如语言是有语法结构的，我们称独立性假设不完全成立(uni),但简化计算经常使用，
  如果觉得觉得语言是临近两个词相关，可以取两个词作为一个特征，比如Na a作为一个特征， files into作为一个特征，into the， 有时候用3个词作为特征等等，

• 朴素贝叶斯选择: $$s=\underset{s_k}{\mathrm{argmax}}\{logP(s_k)+\sum _{w_i\in c}logP(w_i|s_k)\}$$ (s其实就是h_NB)
  其中:$P(s_k)=\frac{C(s_k)}{C(w)}P(w_i|s_k)=\frac{C(w_i,s_k)}{C(s_k)}$

C(w)就是fly词出现的次数 C(s_k)就是训练样本中有多少次是苍蝇的意思，
P(w_i|s_k)就是（a，fly作为苍蝇)出现的次数/fly作为苍蝇出现的次数
把fly作为苍蝇的特征带入公式求值{(into,苍蝇),(a 苍蝇)等}和fly作为飞的特征值带入，看那种式子值最大那fly就是哪种意思
计算$P(w_i|s_k)=\frac{C(w_i,s_k)}{C(s_k)}$经常是\frac{C(w_i,s_k)+1}{C(s_k)+N},因为使用log，log不能使用0，使用0就没有意思

举例 2: 垃圾邮件过滤

• 垃圾邮件量: 900亿/天，80% 来自 <200 发送者
• 第四季度主要垃圾邮件来源 (数据来自 Sophos)
  • 美国 (21.3% 垃圾信息来源，较28.4%有所下降)
  • 俄罗斯 (8.3%, 较 4.4% 有上升)
  • 中国 (4.2%, 较 4.9% 有下降)
  • 巴西 (4.0%, 较 3.7% 有上升)

垃圾邮件过滤问题中人们学到的经验：

• 不要武断地忽略任何信息
  • E.g. 邮件头信息
• 不同的代价: 假阳性 v.s. 假阴性
  假阳性：本来是垃圾邮件，识别为正常邮件，影响比较大，容易错漏重要信息
  假阴性：本来是正常邮件，识别为垃圾邮件
• 一个非常好的参考报告: http://www.paulgraham.com/better.html

从垃圾邮件过滤中学到的经验

(根据报告:)
早期关于贝叶斯垃圾邮件过滤的论文有两篇，于1998年发表在同一个会议

1) 作者是 Pantel 和 Lin; 2) Microsoft 研究院的一个小组

Pantel 和 Lin的过滤方法效果更好
但它只能捕捉92%的垃圾邮件，且有1.16% 假阳性错误
文章作者实现了一个贝叶斯垃圾邮件过滤器
它 能捕捉 99.5%的垃圾邮件 且 假阳性错误低于0.03%

• 文章作者提到，和前人们有5 处不同

1. 他们训练过滤器的数据非常少:
   • 160 垃圾邮件和466非垃圾邮件
     2.最重要的一个不同可能是他们忽略了邮件头
     3.Pantel 和 Lin **对词进行了stemming (词干化) **—— 做法有些草率了
     stemming是文本操作经典的做法，但是用在邮件识别优点草率（如books就把s去掉，booked就把ing去掉，booking就把ing去掉，恢复到原型，这样做可以很大的节省空间

      //举例
     		Subject*FREE 0.9999 // Subject上出现大写FREE，垃圾邮件识别率0.9999
     			Subject*free 0.9782, // Subject上出现小写free，垃圾邮件识别率0.9782
     			free 0.6546  //正文上出现free，垃圾邮件识别率0.6546
     			free!! 0.9999 //正文上出现free!!，垃圾邮件识别率0.9999
     

   上面示例使用stemming就很容易变成free一个词，识别率会小很多
   4.计算概率的方式不同。他们使用了全部的词，但作者只用了最显著的15个词
   5.他们没有对假阳性做偏置。而作者考虑了：对非垃圾邮件中出现的词频翻倍
   非垃圾中的词加重权重，比如accout在垃圾邮件出现概率10次，非垃圾邮件出现10次，那现在就是有20/30次概率是非垃圾邮件

机器学习不等于算法，机器学习特征很重要，机器学习算法用法很重要

MDL (最小描述长度，Minimum Description Length)

• 奥卡姆剃刀:
  • 偏向于最短的假设
• MDL：
  • 偏向假设 h 使得最小化： $$h_{MDL}=\underset{h\in H}{\mathrm{argmin}}\{L_{C_1}(h)+L_{C_2}(D|h)\}$$
    其中 $L_C(x)$是 x在编码C下的 描述长度 （x就是h或(D|h))

MDL解释（基于信息理论）

• 为随机发送的信息所设计的编码(比如abccde，比如a用一个编码表示，d用一个编码表示等，把一个字符串编码，加入用发报机发送，另一边解码，就可以知道这个代表什么）
  • 遇到消息 i 的概率是 p_i
• 所需的最短编码(最小期望传输位数)是什么？
  • 为可能性较大的消息赋予较短的编码（要没有歧义）
    
• 最优编码对消息i 的编码长度为 -log₂ p 比特 [Shannon & Weaver 1949]
  

MDL 和 MAP

-log₂ p (h): 假设空间H最优编码下，h 的长度
-log2 p (D|h): 最优编码下，给定h 时D 的描述长度

h_MAP=h_MDL,因此符合极大后验假设的那个就设就是符合MDL的那个假设

对MDL的另一个解释

$h_{MDL}=\underset{h\in H}{\mathrm{argmin}}\{L_{C_1}(h)+L_{C_2}(D|h)\}$

• h的长度 和 给定h编码数据的代价
  • 假设实例的序列以及编码规则对发送者和接收者来说都是已知的
  • 没有分类错误: 除h外不需要传输额外的信息
  • 如果 h 错误分类了某些样本，则需要传输:
    • 1. **哪个实例出错了? **（比如，在一长串的01000100111里第6个错了）
         – 最多 log₂m (m: 实例的个数)
    • 2. **正确的分类结果是什么? **（比如，在一长串的012012里错的应该是012中的哪个）
         – 最多 log2k (k: 类别的个数)
         这是给错误的修正
• 权衡: 假设的复杂程度 vs. 由假设造成的错误数
  • 更偏好 一个短的且错误更少的假设
    而不是一个长的但完美分类训练数据的假设$\leftarrow$应对过拟合问题
    

总结

• 贝叶斯定理
  • 用先验概率来推断后验概率
• $MaxAPosterior,MAP,h_{MAP}，极大后验假设$
• $MaximumLikelihood,ML,h_{ML},极大似然假设$
  • • ML vs. LSE (最小二乘，Least Square Error)
• Naïve Bayes, NB, 朴素贝叶斯
  • 独立属性/特征假设
  • NB vs. MAP
• Maximum description length, MDL (最小描述长度)
  • 权衡: 假设复杂度 vs. 假设带来的错误
  • MDL vs. MAP