极大似然估计

损失函数的选择

1.从原理上来讲，CE就是分类问题的极大似然估计，并不适用于连续变量的回归问题。
MC_Dream·2019-06-22 20:14

极大似然估计 (MLE) 及 Stata 实现

 作者：郭李鹏Stata连享会：知乎||码云|CSDN 连享会计量方法专题…… MLE简介最大似然估计(MLE)在计量经济学中有广泛的应用。本文主要介绍MLE的基本原理和应用，并演示如何在Stata软件中进行最大似然估计。MLE的基本原理计量经济学中，最小二乘估计、最大似然估计和广义矩估计是构造统计量的三种基本方法。最小二乘估计，最合理的参数估计量应该使得模型能最好地拟合样本数据，也就是估计值和观
stata连享会·2019-06-22 19:39

隐马尔可夫模型（HMM）及其算法推导；学习、理解、拓展。

HMM一般被分类到监督学习，但是我个人认为如果使用极大似然估计学习的HMM才是监督
HumDrumJ·2019-06-19 00:54

EM算法-统计学习方法（李航）

何为EM算法：EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计EM算法的迭代步骤分为2步，一个是E步：求期望，一个是M步：求极大。
JerryLoveCoding·2019-06-18 17:24

机器学习（十八）极大似然估计

1极大似然估计简介极大似然估计是在总体类型已知条件下使用的一种参数估计方法。
致Great·2019-06-17 15:57

概率图(三)--最大熵马尔科夫模型

最大熵模型最大熵模型属于log-linearmodel，在给定训练数据的条件下对模型进行极大似然估计或正则化极大似然估计：其中，为归一化因子，w为最大熵模型的参数，fi(x,y)为特征函数——描述(x,
車輪の唄·2019-06-14 13:35

极大似然估计原理解析

本文转载自《知行流浪》的CSDN博文，感谢大牛的付出，特此收纳，以表敬意。原文连接：https://blog.csdn.net/zengxiantao1994/article/details/72787849贝叶斯决策首先来看贝叶斯分类，我们都知道经典的贝叶斯公式：其中：p(w)为先验概率，表示每种类别分布的概率；类p(x|w)为条件概率，表示在某种类别前提下，某事发生的概率；而p(w|x)为后验
进击的路飞桑·2019-06-13 14:07

西瓜书学习——第七章贝叶斯分类器

通过这周对西瓜书第七章的学习，记录笔记如下：第七章贝叶斯分类器——极大似然估计 第七章贝叶斯分类器——朴素贝叶斯分类器第七章贝叶斯分类器——朴素贝叶斯分类器2第七章贝叶斯分类器——半朴素贝叶斯分类器 第七章贝叶斯分类器
jona1987·2019-06-13 00:00

5.【笔记】统计学习方法—EM算法

文章目录1.EM是什么1.1E：求期望1.2M：极大2.代码1.EM是什么EM是含有隐变量的概率模型的极大似然估计回极大后验概率估计的迭代算法。
贫僧不懂·2019-06-11 11:45

从极大似然估计的角度理解深度学习中loss函数

从极大似然估计的角度理解深度学习中loss函数为了理解这一概念,首先回顾下最大似然估计的概念:最大似然估计常用于利用已知的样本结果,反推最有可能导致这一结果产生的参数值,往往模型结果已经确定,用于反推模型中的参数
碌碌无为的人·2019-06-10 22:00

极大似然估计和贝叶斯估计

贝叶斯估计贝叶斯估计简单理解就是建立在贝叶斯公式和假设独立的基础之上进行的估计比极大似然估计就多了这一项极大似然估计是完全使用样本去估计，而贝叶斯估计是通过先验知识和样本联合去估计，当样本量非常大的时候
换头像真麻烦·2019-06-09 14:24

高斯混合模型原理推导与实现（一）

2.极大似然估计的困境对于训练数据集，，假设i来自一个混合高斯概率分布，对数似然函数为：这里log里面有求和，不方便继续求导计算。
To_be_thinking·2019-06-03 22:41

GAN生成对抗网络：数学原理

文章目录1.极大似然估计2.相对熵，KL散度3.KL散度与交叉熵的关系4.JS散度5.GAN框架判别器的损失函数生成器的损失函数1.极大似然估计GAN用到了极大似然估计（MLE），因此我们对MLE作简单介绍
随风秀舞·2019-05-31 23:16

【机器学习实战笔记(3-1)】朴素贝叶斯法相关概念及原理

朴素贝叶斯法前导知识1.1贝叶斯决策理论1.2概率论基本概念2.朴素贝叶斯法2.1朴素贝叶斯法的学习与分类2.1.1朴素贝叶斯法的学习2.1.2朴素贝叶斯法的分类2.2朴素贝叶斯法的参数估计2.2.1极大似然估计
siplifyit·2019-05-22 21:00

【机器学习基础】最小二乘与极大似然估计

最小二乘法最小二乘法是勒让德(A.M.Legendre)于1805年在其著作《计算慧星轨道的新方法》中提出的。它的主要思想就是求解未知参数，使得理论值与观测值之差（即误差，或者说残差）的平方和达到最小：E=∑mie2=∑mi(yi−y^)2E=\sum_{m}^{i}e^2=\sum_{m}^{i}(y_i-\hat{y})^2E=m∑ie2=m∑i(yi−y^)2其中，yiy_iyi为观测样本，
迷你小龙虾·2019-05-21 16:34

EM算法及高斯混合模型算法推导

只含有观测变量的情况下，直接对观测值进行极大似然估计便能够求出参数；比如抛一枚不均匀硬币n次，极大似然估计能够求解出正反面分别出现的概率。
flushest·2019-05-13 17:09

如何提高文本生成任务中的文本多样性

1.引言    在文本生成任务中，经典模型Seq2Seq虽然取得了很大的进步，但是由于其目标函数采用的是极大似然估计，即：1/∣S∣∑(T,S)∈Slog⁡p(T∣S)1/|\mathcal{S}|\sum
林楚海·2019-05-05 17:35

softmax with candidate sampling

Problem：使用softmax时，目标类太多（数万级以上，典型NLP环境），训练时logits的计算量太大，导致使用极大似然估计的时间代价令人难以忍受；下面探讨如何有效解决这个问题（下文中特征向量有时简称样本
宏斌_0860·2019-05-02 11:30

《统计学习方法》：第四章：朴素贝叶斯

该章结构一、朴素贝叶斯的学习和分类二、朴素贝叶斯的参数估计算法1、极大似然估计：2、贝叶斯估计：一、朴素贝叶斯的学习和分类假设训练集：T={(x1,y1),(x2,y2),…,(xN,yN)}T=\{(
大白菜—NLP·2019-04-29 16:15

极大似然估计与贝叶斯估计的比较

极大似然估计已知某个随机样本符合某种概率分布，但是其中某个具体参数不清楚，通过极大似然估计得到，该使这个随机样本出现的概率最大。
韩明宇·2019-04-25 15:54

《统计学习方法》第四章: 朴素贝叶斯法 读书笔记

第四章4.朴素贝叶斯法（naiveBayes）4.1朴素贝叶斯的学习与分类4.1.1基本方法4.1.2分类器模型证明4.2参数估计4.2.1极大似然估计4.2.2贝叶斯估计4.3我的实现一切为了数据挖掘的准备
ErinLiu❤·2019-04-15 15:37

EM算法及代码

EM算法全称为ExpectationMaximization，即期望极大算法，是一种用于处理含有隐变量（hiddenvariable）的概率模型参数的极大似然估计，或极大后验概率估计。
dreamweaverccc·2019-04-10 11:54

线性回归中 LSE MLE MAP之间的关系

P}P维向量，X{X}X为大小为N×P{N\timesP}N×P的矩阵xi{x_i}xi对应的真实值为yi{y_i}yi一、MLE  MLE（MaximumLikelihoodEstimate），也叫极大似然估计
SoCalledHBY·2019-04-06 20:50

机器学习（西瓜书）注解：第7章 贝叶斯分类器

针对该章注解有任何问题欢迎在此留言~    本章内容很多，但读完本章后的感觉可能会是这样的：除了7.3节的朴素贝叶斯分类器看的很爽快，其它似乎什么也没看懂；7.1节的贝叶斯定理和7.2节的极大似然估计本就是本科概率论中的内容
jbb0523·2019-04-06 00:00

极大似然估计、EM算法及高斯混合模型

极大似然估计极大似然估计是一种模型参数估计的方法，它认为已经发生的事情是可能性最大的事情，因此只需让发生事情的概率取最大值来求解模型参数。
chris_xy·2019-04-04 10:59

EM算法--二维高斯混合模型(GMMs)

baolong_zhu/blog/static/196311091201421185531966/《统计学习方法》李航EM算法是一种迭代算法，1977年由Dempster等人总结出，用于含有隐变量的概率模型参数的极大似然估计
触动人生·2019-03-30 20:21

极大似然估计(MLE)、最大后验概率估计(MAP)、贝叶斯估计(BE)

文章目录生成过程与估计过程极大似然估计(MLE)似然函数极大似然估计实际应用最大似然估计与极大似然估计(MLE)常见的概率分布模型直观理解最大后验概率估计(MAP)贝叶斯估计(BE)三者的比较频率派VS
Leon_winter·2019-03-22 23:36

ML-朴素贝叶斯

 参考《西瓜书》P151以前对贝叶斯参数的计算过程不是很清楚，在西瓜书里讲的很详细，原来可以把X属性分为离散型与连续型，离散型的话可以直接按照频率计算，连续型的话，要用极大似然估计，首先假设概率密度函数满足一个分布
透明的胡萝卜·2019-03-20 19:38

极大使然估计对比最小二乘法思想

极大似然估计概述：小样本预测大样本发生的概率下面结合一个例子介绍极大似然估计法的思想和方法:设一个袋子中有黑、白两种球，摸到白球的概率为p，现在要估计p的值。我们令总体X为\[X=\left.
SmartBrain·2019-03-13 11:57

极大使然估计对比最小二乘法思想

极大似然估计概述：小样本预测大样本发生的概率下面结合一个例子介绍极大似然估计法的思想和方法:设一个袋子中有黑、白两种球，摸到白球的概率为p，现在要估计p的值。我们令总体X为\[X=\left.
SmartBrain·2019-03-13 11:57

机器学习之决策树

方法适用问题模型特点模型类别学习策略学习的损失函数学习算法决策树多类分类，回归分类树，回归树判别模型正则化的极大似然估计对数似然损失特征选择，生成，剪枝决策树优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感
明天也要加油鸭·2019-03-11 20:05

极大似然估计理解与应用

极大似然估计理解与应用1.什么是极大似然估计  在日常生活中，我们很容易无意中就使用到极大似然估计的思想，只是我们并不知道极大似然估计在数学中的如何确定以及推导的。
峻峰飞阳·2019-03-11 11:31

朴素贝叶斯算法（NB） 概率图模型（1）

文章目录朴素贝叶斯网络的图表示条件独立性朴素贝叶斯算法极大似然估计与贝叶斯估计的朴素贝叶斯概率估计公式优缺点损失概率图模型分为贝叶斯网络（BayesianNetwork）和马尔可夫网络（MarkovNetwork
promisejia·2019-03-07 20:58

李航 统计学习方法 第一章 习题 参考答案

1.1说明伯努利模型的极大似然估计以及被压死估计中的统计学习方法三要素。统计学习三要素：模型、策略和算法。
AI_Beginner_SYSU·2019-03-01 13:15

ML-朴素贝叶斯-先验分布/后验分布/似然估计

1.数据样本独立同分布2.特征条件独立性假设参考1（最新更新2019-02-26）联合概率分布面试朴素贝叶斯的参数估计极大似然估计贝叶斯估计知识点补充独立事件与非独立事件，条件概率引言介绍先验分布/后验分布
透明的胡萝卜·2019-02-21 22:07

机器学习——EM算法

以下内容均为个人理解，如有错误，欢迎指出文章目录什么是EM算法什么是隐变量什么是极大似然估计为什么需要EM算法EM算法的推导预备知识推导过程EM算法的过程EM算法为什么有效什么是EM算法EM算法是一类通过迭代进行极大似然估计的优化算法
菜到怀疑人生·2019-02-09 15:40

什么是极大似然估计？

在2的情况下，求P(x|)的最大值的过程称为极大似然估计。
脏小明·2019-02-05 22:06

朴素贝叶斯分类器(Naive Bayes，NB)

文章目录朴素贝叶斯分类器贝叶斯定理统计学习方法三要素模型策略学习利用极大似然估计进行学习NB的假设条件算法流程NB的应用NB的分类多项式NB伯努利NB高斯NB朴素贝叶斯分类器  朴素贝叶斯分类器模型属于监督学习模型
Leon_winter·2019-01-28 16:16

朴素贝叶斯分类器(Naive Bayes，NB)

文章目录朴素贝叶斯分类器贝叶斯定理统计学习方法三要素模型策略学习利用极大似然估计进行学习NB的假设条件算法流程NB的应用NB的分类多项式NB伯努利NB高斯NB朴素贝叶斯分类器  朴素贝叶斯分类器模型属于监督学习模型
Leon_winter·2019-01-28 16:16

李航《统计学习方法》习题答案

前言：本系列习题系笔者主观完成，一家之言难免有错误之处持续更新中…第一章1.2经过经验风险最小化推导极大似然估计。证明模型是条件概率分布，当损失函数是对数损失函数时，经验风险最小化等价于极大似然估计。
Mr-Cat伍可猫·2019-01-25 19:10

生成对抗网络 GAN 的数学原理

摘要本文从概率分布及参数估计说起,通过介绍极大似然估计,KL散度,JS散度,详细的介绍了GAN生成对抗网络的数学原理.相关系列文章索引:https://blog.csdn.net/oBrightLamp
BrightLampCsdn·2019-01-20 23:11

极大似然估计与最小二乘法

参考：https://www.zhihu.com/question/20447622极大似然估计与最小二乘法感觉很多地方很相似，但是又感觉哪里又不太一样，学习过程中有点混乱，在这里我找到一个知乎回答感觉挺好
垃圾攻城狮·2019-01-20 09:42

【机器学习算法推导】高斯混合模型GMM与EM算法

文章目录1.高斯混合模型2.Jensen不等式3.EM算法及推导过程4.EM算法的可行性5.EM算法的收敛性6.EM的另一种推导7.应用EM算法求解GMM1.高斯混合模型  极大似然估计是一种应用很广泛的参数估计方法
Mankind_萌凯·2019-01-16 17:57

极大似然估计

简述假设有m个样本，这m个样本服从某种概率分布且独立同分布，但是决定这一概率分布的参数是未知的，极大似然估计就是对这些参数进行估计使得总体样本发生的可能性最大。
zhhu·2019-01-14 19:57

第4章 朴素贝叶斯(NaiveBayes)代码实现

===============================【回到目录】===============================第4章朴素贝叶斯(NaiveBayes)代码实现贝叶斯算法（极大似然估计
breeze_blows·2019-01-13 15:14

cmaes-极大似然估计

参考：https://blog.csdn.net/zengxiantao1994/article/details/72787849极大似然估计先举个例子：极大似然估计就是：利用已知的样本结果，反推最有可能
垃圾攻城狮·2019-01-12 15:47

【机器学习】EM算法从小白到理解，附带案例代码

前言\quad\quad本篇主要介绍EM算法相关内容，首先通过极大似然估计引出EM算法的作用，然后通过例子引出EM算法，旨在尽可能的通俗易懂地让大家理解EM算法，最后在介绍EM算法算法在高斯混合模型（GMM
Daycym·2019-01-10 11:35

【机器学习】EM算法从小白到理解，附带案例代码

前言\quad\quad本篇主要介绍EM算法相关内容，首先通过极大似然估计引出EM算法的作用，然后通过例子引出EM算法，旨在尽可能的通俗易懂地让大家理解EM算法，最后在介绍EM算法算法在高斯混合模型（GMM
Daycym·2019-01-10 11:35

西瓜书课后题——第七章（贝叶斯分类器）

课后题7.1：极大似然估计西瓜数据集3.0前3个属性的类条件概率。其实就是概率论中常见的极大似然估计问题。
乂乂乂乂·2019-01-08 00:24

概率论与统计推断（三）

目录1、概率论与统计推断的关系（大数定理、中心极限定理、直方图）2、箱线图、极大似然估计3、最大后验分布、最大后验估计1、概率论与统计推断的关系（大数定理、中心极限定理、直方图）2、箱线图、极大似然估计
fly_Xiaoma·2019-01-06 17:51
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他