第一次看Bishop这本书是4年以前的事情了，那时候的我，对生活还是有太多的憧憬的。当时看到第二章就进行不下去了。几年间又尝试过几次，结果都差不多。新的东西不理解，旧的东西很快就忘。折腾来折腾去，时间就这么被耗掉了。今年情况似乎有了改变。一是我们机器学习方法课程将PRML作为指定教材，二是我积累了足够多的经验，知道如何快速弥补读书过程中数学方面的不足，三是我离毕业也不远了，总想多完成些有意义的事情，比如读完PRML和ESL。到目前为止，700页的书已经看了400多页了。就算没有一个好的开始，没有一个好的过程，至少希望能够争取一个好的结果。
我会尽我所能将整章的材料组织好。目前学到第八章，因此从第八章开始笔记的整理，后面会陆续把其他章节的笔记整理出来。
第八章的话其实Bayesian reasoning and machine learning (David Barber)写的更详细和清楚一些……
8.0 Introduction
Probabilistic graphic models (PGMs): probability distribution + diagrammatic representation
可以这样理解，在PGM中，distribution是单个的成员，而图用来表示distribution之间的独立或者依赖关系
The role of PGMs: modeling (visualization, conditional independence properties) + inference.
(1) Modeling GMs: belief networks, Markov networks, chain graphs and influence diagrams.
(2) Inference GMs: factor graphs, junction trees
各个模型有各自的特点。有的更偏重于建模，在推断时需要转换成另外一类图模型。
Common GMs:
(1) Undirected graphic models: Bayesian networks (causal relationship);
(2) Directed graphic models: Markov networks (soft constraint);
(3) Factor graph (for inference problems)