深度学习--概率图模型(一)

这份资料看了好几遍了,终于有点知识框架了,总结一下,方便以后查看。

一、概率图模型(PGM)引入:

   在实际应用中,变量之间往往存在很多的独立性假设或近似独立,随机变量与随机变量之间存在极少数的关联。PGM根据变量之间的独立性假设,为我们提供了解决这类问题的机制,PGM是以概率论以及图论为基础,通过图的结构将概率模型可视化,让我们能够了解到复杂分布中的变量之间的关系,也把概率上的复杂计算过程理解为在图上进行信息传递的过程,所以不必要过多的在意复杂的表达式计算。


二、PGM体系框架

    深度学习--概率图模型(一)_第1张图片

三、生成模型与判别模型

      今天先记录生成模型与判别模型,下次博客正式进入PGM。

深度学习--概率图模型(一)_第2张图片


1、概率模型是利用训练样本数据,通过学习条件概率分布P(X|Y)来进行推断决策,而非概率模型是通过学习得到决策函数Y=f(X)来进行决策。

2、生成模型的目标是求联合概率分布P(X,Y),然后由条件公式求取条件概率分布P(X|Y)。即P(X|Y) = P(X,Y) / P(X)。

3、判别模型是由训练数据直接求取决策函数Y=f(x)或者条件分布P(X|Y)。它并不需要关心X与Y之间的生成关系,它关心的是对于给定输入X应该得到怎么样的输出Y。

4、机器学习大部分模型都是判别模型,判别模型得到条件概率或者决策函数直接用于预测,准确率会更高;而生成模型用于数据预测,所以它的应用领域会更加广泛。


四、进入图

感觉一次也不要总结太多,一下消化不了,预告一次博客的精彩内容

深度学习--概率图模型(一)_第3张图片


你可能感兴趣的:(深度学习)