PRML《模式识别与机器学习》的Python3代码实现

项目地址：
Python实现(6.6k Stars)：https://github.com/ctgk/PRML
Matlab实现：https://github.com/PRML/PRMLT
全书完整的 pdf 下载地址为：
https://www.microsoft.com/en-us/research/uploads/prod/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf
中文版本的pdf 文件下载：
http://blog.sina.com.cn/s/blog_c3b6050b0102xfen.html

PRML是一本有关机器学习的入门必备书籍，与“西瓜书”齐名，目前豆瓣评分9.5分：

书籍评价

引用网友对PRML的评价：
“个人认为这是机器学习领域必读的一本书，甚至是目前最好的书。但这本书太过于 Bayesian, 作者对任何算法都试图从概率和 Bayesian 的角度来进行解释。这本书不适合作为第一本教材，因为其为了将书中内容串联起来，忽视了这些内容的本来面貌，我印象比较深刻的地方有：第1.2.5节从概率模型的角度来解释最小二乘法、第 2.5.2节 中近邻方法先介绍其用于密度估计，然后再将密度估计拓展到用于分类。这很容易让初学者以为所有的机器学习算法都是概率模型，事实上在20世纪80年代 Pearl 将概率统计引入到机器学习领域之前，有很多机器学习的算法都没有用到概率统计知识。”

“个人认为入门还是首推西瓜书，西瓜书几乎涵盖了机器学习领域的方方面面，甚至PAC理论和规则学习都有讲解，且对机器学习中各种算法和理论都是尽量从其原生态的角度进行讲解。在大致过完一遍西瓜书，对机器学习领域各个学派都有了一定的了解后，再来读这本书有醍醐灌顶、融汇贯通之感。”

” PRML 这本书非常精彩，其中第一章尤为精彩，第一遍读时，可能很多东西还无法领会，需要多读几遍，甚至在过了半年一年后看过了其他书籍材料，对机器学习领域有了新的理解后，再返回来读这一章，会有新的体会。 ”

“在Bishop的这本PRML之前，学习machine learning的标准教材一般是Tom Mitchell的machine learning以及Duda&Hart的Pattern Classification (那个年代ML与PR非常大的重合之处)。不可否认，这两本书都是ML领域的经典教材，但是由于成书时间太早，基本上都属于上古读物，已经不大适合现在的学习了。而当这本PRML问世之后，立即便成为ML的又一标准教材，并且很快取代了前两本书 — 即使将近十年以后的今天，它依然是ML的主流教材之一。”

目录

第一章 介绍
第二章 概率分布
第三章 线性回归模型
第四章 线性分类模型
第五章 神经网络
第六章 内核方法
第七章 稀疏内核机器
第八章 图形模型
第九章 混合模型和EM
第十章 近似推断
第十一章 采样方法
第十二章 连续潜在变量
第十三章 顺序数据
第十四章 组合模型

开源代码

就拿原书第4章线性分类模型而言，代码中实现了3中概率分布模型，包括逻辑回归模型，多分类逻辑回归以及贝叶斯回归。

1、逻辑回归模型

2、多分类逻辑回归

3、贝叶斯逻辑回归

配合着代码来阅读书籍，应该会有更好的体验！