--PRML

机器学习笔记（PRML）

转载自：http://nbviewer.jupyter.org/github/lijin-THU/notes-machine-learning/blob/master/ReadMe.ipynb机器学习笔记简介作者：李金 版本：0.0.1邮件：[email protected]机器学习笔记，使用 jupyternotebook(ipythonnotebook) 进行展示。Github 加载
AnneQiQi·2017-06-06 16:00

<教材推荐> PRML_模式识别与机器学习

     ​前两天参加完GMIS_2017全球智能机器峰会，听了很多学术界和工业界的大牛们的精彩分享，后期也会整理视频和PPT，放上来和大家分享。获取最新消息链接：获取最新消息快速通道-lqfarmer的博客-博客频道-CSDN.NET    目前，机器学习技术最新发展的趋势是什么？借用第四范式首席科学家杨强老师观点，机器学习的发展趋势：    昨天：深度学习技术（大量数据，丰富特征和高准确率） 
lqfarmer·2017-05-30 19:00

PRML读书笔记（一）

从多项式拟合开始机器学习中的有监督学习机器学习中的有监督学习，是指训练样本包含输入向量以及对应的目标向量。即(x,y),x和y为向量。对于向量y，若它由离散变量组成，则被称为分类(classification)问题。如对数字识别，输入x为包含数字的图像向量，y为对应的真实值类别0,1,2,⋯,9;若y由连续变量组成，则被称为回归(regression)问题。如多项式拟合问题；多项式拟合例子现在有函
Kyf_Coffee·2017-05-08 20:32

PRML读书笔记——线性分类模型

这一章主要介绍线性分类模型，包括生成模型和判别模型线性模型：决策面是输入向量x的线性函数，决策面是D维输入空间的D-1维超平面前言所谓分类线性模型，是指决策⾯是输⼊向量x的线性函数，因此被定义为D维输⼊空间中的(D−1)维超平⾯。如果数据集可以被线性决策⾯精确地分类（没有任何样本被错分），那么我们说这个数据集是线性可分的一般线性模型如下：y(x)=f(wTx+w0)其中，f被称为激活函数，而它的反
GZGlenn·2017-04-23 15:41

PRML读书笔记——线性回归模型

这一章从线性回归模型的基本形式出发，主要围绕线性基函数的回归模型展开，分析了最大似然估计和最小平方误差函数的关系、最小平方误差函数的几何意义、正则化的最小平方误差，然后用偏置-方差分解的角度理解正则化项；用贝叶斯的思想分析线性回归模型，介绍了模型证据的意义，最后分析线性回归模型的局限性线性基函数模型基础回归问题的最简单模型是输⼊变量的线性组合：y(x,w)=w0+w1x1+...+wDxD这通常被
GZGlenn·2017-04-22 15:47

PRML读书笔记——图模型

本章主要分析贝叶斯网络、条件独立、马尔科夫随机场和图模型的推断0前言概率图模型：用概率分布的图形表示变量之间的依赖关系⼀个图由结点（nodes）和它们之间的链接（links）组成。在概率图模型中，每个结点表⽰⼀个随机变量（或⼀组随机变量），链接表⽰这些变量之间的概率关系。这样，图描述了联合概率分布在所有随机变量上能够分解为⼀组因⼦的乘积的⽅式，每个因⼦只依赖于随机变量的⼀个⼦集。1贝叶斯网络贝叶斯
GZGlenn·2017-04-14 14:32

[NLP] Word Vectors (1)

  最近博客开的分支有点多，PRML、RL、TensorFlow，现在又开一个NLP，有点忙不过来了。
hubin00sx·2017-03-30 01:21

MCMC中的Metropolis–Hastings算法与吉布斯采样

二者在机器学习中具有重要作用，Bishop在他的机器学习经典之作PRML中也专门用了一章的篇幅来介绍随机采样方法。本文将结合R语言实例来探讨这两种算法的相关话题。
baimafujinji·2017-01-06 11:00

PRML读书笔记(四)

分类的线性模型分类的目标是在给定输入，预测具有离散性质的目标值。输入空间被多个决策平面划分成多个决策区域，每个区域代表一个类别。决策平面是输入特征的线性函数(待会会详细介绍)，因此在D维空间上的决策平面是(D-1)维的超平面，如果数据能够被这些决策平面准确划分成n个类别区域，那么数据集线性可分(linearlyseparable)。当有K(>2)类时，我们采用1-of-K编码格式也叫one-hot
Lehyu·2017-01-01 10:29

PRML读书笔记(三)

回归的目标是在给定输入的情况下，预测具有连续性质的目标值。线性回归中的线性是相对于参数而言的。3.1线性基函数模型(LinearBasisFunctionModels)最简单的线性回归模型是：y(x,w)=w0+w1x1+⋯+wDxD，很明显这个模型不足以表达复杂的模型，但是我们能够从这个模型中得出线性回归模型的一般形式y(x,w)=w0+∑j=1Mwjϕj(x)(1)其中ϕj(x)即基函数，该函
Lehyu·2016-12-27 20:54

PRML读书笔记(二)

二值变量伯努利分布对于x∈{0,1},p(x=1|μ)=μ，x的概率分布有Bern(x|μ)E[x]var[x]===μx(1−μ)1−xμμ(1−μ)假设一个数据集D={x1,x2,…,xN}，xi服从伯努利分布，并且独立同分布，那么p(D|μ)=∏n=1Nμxn(1−μ)1−xn(1)我们能够通过最大化似然函数来求解μ，lnp(D|μ)∂lnp∂μ⇒μML⇒μML====∑n=1Nxnlnμ+
Lehyu·2016-12-16 16:53

PRML读书笔记(一)

MachineLearning基础MachineLearning步骤整个机器学习大致可以分为4个步骤：数据分析，数据预处理，模型选择以及训练和优化。比较宏观的流程如下图所示。栗子：PolynomialCurveFitting假设我们现在有一组从f(x)=sin(2πx)+ϵ(x)生成的数据，其中ϵ(x)=N(x|0,β)表示噪声。那么我们就得到原始数据为x=(x1,x2,…,xN)T,xi∈(0,
Lehyu·2016-12-09 20:05

【PRML读书笔记】2.概率分布（上）

概率分布一、二元变量1.简单的随机二元变量假设存在一个简单的随机二元变量x∈{0,1}。例如在投掷硬币的过程中假设由于硬币的损坏是的正反两面的概率是不相等的，令正面为1，反面为0，那么x=1的概率用参数μ来表示，即：其中μ大于等于0，小于等于1，且我们容易得出p(x=0|μ)=1-μ。从而我们得到x的概率分布可以表示为：上式即为伯努利分布（Bernoullidistribution）。下面我们通过
Lawe·2016-12-05 22:21

【PRML读书笔记】1.绪论

绪论一、多项式曲线拟合1.误差函数（errorfunction）假设存在一个训练数据集，其包含N个数据点，表示为{（x1，y1）…..，（xn，yn）},，我们的目标是通过训练这些数据集，找到对于新的x值可预测出其y值的函数。现在我们假定我们拟合数据的函数为一个多项式函数，其为：为了判断对于新的数据函数泛化的准确性，我们给出了一个标准，名为误差函数（errorfunction）,如下所示，即为预测
Lawe·2016-12-05 00:56

机器学习需看书籍

如果你只愿意看一本书，那么推荐Bishop的PRML，全名PatternRecognitionandMachineLearning.这本书是机器学习的圣经之作，尤其对于贝叶斯方法，介绍非常完善。
不良CV研究生·2016-11-09 13:21

计划：深度学习 学习过程

前期书籍prml周志华老师的机器学习第一阶段视频教程NeuralNet
丁磊_Ml·2016-10-30 11:04

PRML读书笔记－我对机器学习的认识

最近有时间把ChristopherMBishop的《PatternRecognitionandMachineLearning》（PRML）温习了一遍，这本书可以说是机器学习的经典学习之作。
Richard_More·2016-10-08 19:27

《机器学习》(西瓜书) 随笔

机器学习不是要看《PRML》么？于是上亚马孙看了下，是今年1月份的新书，然而销量已到计算机类第一了，下边评价也是不错。
伊利殺白·2016-09-04 16:39

PRML抽样方法笔记

0导语参考patternrecognitionandmachinelearning第十一章。主要是笔记，本人没有暂深入和形象的理解。这里要解决的最基本的问题是要求一个函数f(z)的期望,而z又服从某种分布。如上图，如果变量是连续的，我们希望要求的是如果是离散的，就把积分符号换成和。最基本的想法就是要从P(z)中抽出一些样本Z(l)，然后用这些样本的均值来估计上面的期望1基础采样方法(BasicSa
PeaceInMind·2016-08-19 17:29

机器学习中的数学问题

概率论与数理统计浙大版》《数理统计学简史》陈希孺《矩阵分析与应用》张贤达《凸优化（ConvexOptimization）》-StphenBoyd&LievenVandenberghe《统计学习方法》李航《PRML
Alchemist Notes·2016-08-16 18:14

分类的线性方法

分类的线性方法(PRML4.*、ESL4.*)在本章中，我们考虑分类的线性模型。所谓分类线性模型，是指决策⾯是输⼊向量x的线性函数，因此被定义为D维输⼊空间中的(D-1)维超平⾯。
Chaos？·2016-08-06 11:15

机器学习基础与实践（三）----数据降维之PCA

本来想参考PRML来写，但是发现里面涉及到比较多的数学知识，写出来可能不好理解，我决定还是用最通俗的方法解释PCA，并举一个实例一步步计算，然后再进行数学推导，最后再介绍一些变种以及相应的程序。
Charlotte77·2016-07-06 11:00

机器学习基础与实践（三）----数据降维之PCA

本来想参考PRML来写，但是发现里面涉及到比较多的数学知识，写出来可能不好理解，我决定还是用最通俗的方法解释PCA，并举一个实例一步步计算，然后再进行数学推导，最后再介绍一些变种以及相应的程序。
Charlotte77·2016-07-06 11:00

计算机视觉及机器学习的一些学习资源（都是干货）

第一部分PRML笔记来自Bishop的经典书籍PatternRecognitionandMachineLearning。
Coooooooooooooder·2016-06-16 08:09

深度学习如何入门？

computervision161人赞同先了解个大概 ADeepLearningTutorial:FromPerceptronstoAlgorithms神经网络肯定是要学习的，主要是BP算法，可以看看PRML3
GarfieldEr007·2016-05-25 17:00

[Machine Learning & Algorithm]CAML机器学习系列2：深入浅出ML之Entropy-Based家族

写在前面记得在《PatternRecognitionAndMachineLearning》一书中的开头有讲到：“概率论、决策论、信息论3个重要工具贯穿着《PRML》整本书，虽然看起来令人生畏…”。
Poll的笔记·2016-05-21 15:00

PRML读书笔记（三）：模型选择

下面我们将以带惩罚项的多项式模型为例讲解模型选择问题：y(x,m=3)=w0+w1x+w2x2+w3x3Min ∑i=1n[y(xi)−t]2+λwTw首先在给定模型阶数m=3及对模型复杂度的惩罚力度λ=0.1之后，我们可以在样本集上对模型进行学习，得到最优的参数向量w，这一部分样本集就被称为训练集（trainingset）。但问题是目前的m和λ是随意给予的，肯定不是最优的，那么怎么寻找它们的最优
z5718265·2016-05-09 21:00

PRML读书笔记（二）：三种概率推断思想

在概率推断中，最直观的思想是哪一类事件发生的概率越大，我们就预测哪一种事件发生。而这一直观的想法，有三种表达方式：注意下列使用到的数学符号如下：x表示训练集t表示训练集对应的标签（因变量值）θ表示模型参数极大似然估计（MaximumLikelihood）：argmaxθ P(t|x,θ)即寻找一个参数θ使得该训练集出现的概率最大。极大后验概率估计（MaximumPosteriorDensity）M
z5718265·2016-05-09 20:00

PRML读书笔记（一）：重访曲线拟合（最小二乘法的统计学原理）

学过一点统计的人都会知道最小二乘法，最简单的曲线拟合方式。最小二乘法是通过最小化误差平方和来求解模型参数ω的，记为：Min12∑i=1n{y(x,ω)−t}2但这一优化目标难免出现模型过拟合的情况，所以通常会在误差平方和之上在加上一项λωTω，以惩罚过于复杂的模型（以多项式模型为例，系数ω的平方和越大，说明模型的复杂程度越高，而λ表明这个惩罚的力度），记为：Min12∑i=1n{y(x,ω)−t}
z5718265·2016-05-07 21:00

PRML 02 Introduction：贝叶斯概率

引言概率密度期望和协方差Expectationsandcovariances1加权平均值2多变量权重3条件期望4函数方差5协方差BayesianProbability5高斯分布重回多项式拟合1理解误差函数2理解规则化贝叶斯曲线拟合主要讲解了贝叶斯概率与统计派概率的不同。概率论，决策论，信息论（probabilitytheory,decisiontheory,andinformationtheory
bea_tree·2016-05-04 22:00

PRML 01 绪论：引言与引例

1引言2引例PolynomialCurveFitting1泛化性能评价2减小过拟合21增大数据集22beyas23归则化regularization作者ChristopherM.Bishop1引言：模式识别已经有较长的研究历史，甚至在天文和原子光谱（atomicspectra）也有着重要的应用。下面使用手写识别这个例子对相关概念做通俗的介绍（inarelativelyinformedway)我们的
bea_tree·2016-05-03 17:00

机械学习资料

注：本页面主要针对想快速上手机器学习而又不想深入研究的同学，对于专门的researcher，建议直接啃PRML，ESL，MLAPP以及你相应方向的书（比如NumericalOptimization，GraphicModel
qq_20823641·2016-04-27 09:00

随机采样方法整理与讲解（MCMC、Gibbs Sampling等）

PRML的第11章也是sampling，有时间后面写到PRML的笔记中去：)背景随机模拟也可以叫做蒙特卡罗模拟(MonteCarloSimulation)。这个方法的发展始于20世纪40年
justdoithai·2016-04-19 21:00

机器学习笔记（PRML）

转载自：http://nbviewer.jupyter.org/github/lijin-THU/notes-machine-learning/blob/master/ReadMe.ipynb机器学习笔记简介作者：李金版本：0.0.1邮件：[email protected]机器学习笔记，使用jupyternotebook(ipythonnotebook)进行展示。Github加载.ipy
beihangzxm123·2016-04-19 16:34

机器学习笔记（PRML）

转载自：http://nbviewer.jupyter.org/github/lijin-THU/notes-machine-learning/blob/master/ReadMe.ipynb机器学习笔记简介作者：李金 版本：0.0.1邮件：[email protected]机器学习笔记，使用 jupyternotebook(ipythonnotebook) 进行展示。Github 加载
qq_26898461·2016-04-19 16:00

机器学习数学基础（1）

博文以学习PRML为主，并尽力把其主要内容记录下来，希望大家多多指点。
firethelife·2016-04-11 13:00

机器学习数学基础（1）

博文以学习PRML为主，并尽力把其主要内容记录下来，希望大家多多指点。
_bigPo·2016-04-11 13:00

随机采样方法整理与讲解（MCMC、Gibbs Sampling等）

PRML的第11章也是sampling，有时间后面写到PRML的笔记中去：)背景随机模拟也可以叫做蒙特卡罗模拟(MonteCarloSimulation)。
Losteng·2016-04-08 18:00

PRML 学习笔记（2）

2ProbabilityDistribution概述本章讨论的内容包括对限定观察数据集中的随机变量的概率分布进行建模，即密度估计（densityestimation），这里假设所有的数据点都是独立同分布的。对于有限的观测数据集来说，有无数种可能的概率分布和其对应。关键就是要找到一种合适的分布，这就是模型选择问题，也是模式识别中的中心问题。接下来要讨论的是离散随机变量的二项式分布和多项式分布以及连续
RZ_diversity·2016-03-29 21:02

PRML 学习笔记（2）

2ProbabilityDistribution概述本章讨论的内容包括对限定观察数据集中的随机变量的概率分布进行建模，即密度估计（densityestimation），这里假设所有的数据点都是独立同分布的。对于有限的观测数据集来说，有无数种可能的概率分布和其对应。关键就是要找到一种合适的分布，这就是模型选择问题，也是模式识别中的中心问题。接下来要讨论的是离散随机变量的二项式分布和多项式分布以及连续
RZ_diversity·2016-03-29 21:00

PRML 学习笔记（1）

最近在自学Bishop的PRML，在看原著的同时，我按照自己的理解对各章进行了总结，以达到复习巩固、加深理解的目的。同时也希望和广大热爱机器学习的朋友们一起探讨交流这本书中的问题。
RZ_diversity·2016-03-29 00:00

PRML学习笔记（一）

Bishop的PatternRecognitionandMachineLearning读书笔记。转载自：http://1.kaopuer.applinzi.com/?cat=11一个例子：多项式拟合概率论基本知识点贝叶斯概率高斯分布回到多项式拟合决策理论（DecisionTheory）分类问题的决策再次回顾推断过程回归问题的决策信息论（InformationTheory）信息熵条件熵，交叉熵，与互
beihangzxm123·2016-03-28 10:48

一起啃PRML - 1.1 Example: Polynomial Curve Fitting

一起啃PRML-1.1Example:PolynomialCurveFitting  @copyright转载请注明出处 http://www.cnblogs.com/chxer/前言：真是太糟糕了，本地的公式和图片粘上来全都喂汪了
AI_Believer·2016-02-19 15:00

一起啃PRML - 1 Introduction

一起啃PRML-1Introduction @copyright转载请注明出处 http://www.cnblogs.com/chxer/ 这一部分主要是介绍一下PatternRecognition和MachineLearning
AI_Believer·2016-02-16 21:00

一起啃PRML - 前言 Preface

一起啃PRML-前言Preface  @copyright转载请注明出处 http://www.cnblogs.com/chxer/ PRML，PatternRecognitionandMachineLearning
AI_Believer·2016-02-16 19:00

通过贝叶斯logistic回归看拉普拉斯近似

PRMLReadingGroup@(PRML)[拉普拉斯近似,贝叶斯logist回归]首先贝叶斯logistic回归是什么呢？
Cins侯卓·2016-01-29 11:14

机器学习：从线性回归说起

博客中将会提到的算法大多来自机器学习相关的书籍，如AndrewNG的机器学习讲义，李航老师的统计学习方法，机器学习实践，PRML，UnderstandingMachinelearnning，FoundamentationofMachineLearning
caoenze·2015-12-27 19:03

MCMC与Gibbs Sampling

from=page_100505_profile&wvr=6PRML读书会第十一章SamplingMethodshttp://www.cnblogs.com/Nietzsche/p/4255948.htmlMC
u012176591·2015-12-05 13:00

机器学习资料

Pythonlearnpythoninhardway:访问密码048apython简明教程:访问密码0687python学习手册:访问密码154f机器学习统计学习方法：访问密码7b05机器学习实战附源码访问密码2e28PRML
u010414589·2015-11-25 21:00

今天开始学Pattern Recognition and Machine Learning (PRML) ，章节1.1，介绍与多项式曲线拟合(Polynomial Curve Fitting)

原创书写，转载请注明此文出自：http://blog.csdn.net/xbinworld，Bin的专栏   Pattern Recognition and Machine Learning (PRML
·2015-11-13 17:52
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他