最大熵模型

最大熵用于文本分类

原始数据集和完整的代码见http://download.csdn.net/detail/u012176591/8675665一个相关的论文《使用最大熵模型进行中文文本分类》1.改进的迭代尺度算法IIS:
东明山庄·2015-05-08 10:33

最大熵用于文本分类

http://blog.csdn.net/u012176591原始数据集和完整的代码见http://download.csdn.net/detail/u012176591/8675665一个相关的论文《使用最大熵模型进行中文文本分类
u012176591·2015-05-08 10:00

机器学习实战——最大熵模型

信息熵香农与1948年提出的信息论以其中的信息熵这一基本概念为基础，用来表征人们对客观事件的不确定性的度量，与物理学中的熵表征物质的混乱程度有相似之处。当处理不确定事件时，最常用的方式就是用概率方式描述，一般假定不确定的事件A每种可能的状态都有一个概率与之对应：P(Ai)s.t.∑i=1nP(Ai)=1P(Ai)≥0而总共可能的状态如果是有限个（n个），那么就是离散的事件，用离散的随机变量表示；如
u010487568·2015-05-07 16:00

最大熵开源——openNLP MaxEnt

opennlp.maxentpackage是一个比较成熟的Javapackage，用来训练和使用最大熵模型。本文描述最大熵和使用opennlp.maxentpackage的一些相关细节。
renyp8799·2015-04-10 09:00

广义线性模型

在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。
ACdreamers·2015-03-27 00:27

广义线性模型

在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。 
ACdreamers·2015-03-27 00:00

数学之美笔记（十四）

最大熵模型：在对一个随机事件的概率分布进行预测时，我们的预测应当满足所有已知条件，而对未知情况不作任何主观假设。在这种情况下，概率分布最均匀，预测的风险最小，信息熵最大的模型。
爱开发的小骚年·2015-03-10 14:00

常用分词算法笔记

常用统计语言模型，包括了N元文法统计模型（N-gramModel）、隐马尔科夫模型（HiddenMarkovModel，简称HMM）、最大熵模型（MaximumEntropyModel）。
earbao·2015-01-23 10:00

《统计学习方法，李航》：6、logistic regression model

logistic distribution2）binomial logistic regression model3）multi-nominallogistic regression model4）最大熵原理5）最大熵模型
mmc2015·2015-01-21 08:00

中文分词模型之最大熵模型

于是选取了中文分词任务作为最大熵模型的一个例子。学习最大熵模型之前，先了解一下统计模型处理分词任务的标准方法――字标注法。 基于字标注法的分词思想字标注法是依据汉字在词中的位置，对每
sbp810050504·2015-01-19 09:22

中文分词模型之最大熵模型

于是选取了中文分词任务作为最大熵模型的一个例子。学习最大熵模型之前，先了解一下统计模型处理分词任务的标准方法――字标注法。 基于字标注法的分词思想字标注法是依据汉字在词中的位置，对每
sbp810050504·2015-01-19 09:22

中文分词模型之最大熵模型

于是选取了中文分词任务作为最大熵模型的一个例子。学习最大熵模型之前，先了解一下统计模型处理分词任务的标准方法——字标注法。基于字标注法的分词思想字标注法是依据汉字在词中的位置，对每个汉字标注一个
sbp810050504·2015-01-19 09:22

CRF 条件随机场

条件随机场模型是Lafferty于2001年，在最大熵模型和隐马尔科夫模型的基础上，提出的一种判别式概率无向图学习模型，是一种用于标注和切分有序数据的条件概率模型。
lansatiankongxxc·2014-12-03 14:00

最大熵依存句法分析器的实现

这是一个判别式汉语句法分析器的Java实现，基于最大熵模型和最大生成树模型，实现了中文依存句法的自动分析，在封闭测试集（取自训练集）上取得了99.20%的准确率（UA），分析速度达到 570.7句/秒。
hankcs·2014-11-26 19:00

最大熵模型(Maximum Entropy Model, ME)理解

信息论的创始人Shannon认为，“信息是指人们对事物理解的不确定性的降低或消除”，他称这种不确定的程度为信息熵。可以这样理解，熵就是随机事件的不确定性，熵越小信息就越明确，而越不确定的事情熵就越大。比如，一个正常骰子6个面（1,2,3,4,5,6），投掷时每个面的概率相等；而另一个作弊骰子，也有6个面，在为”6”的那一面灌铅，投掷时永远出现“6”那一面。那么很明显投掷正常骰子的信息更为不确定，熵
qianwenhong·2014-11-25 12:54

数学之美系列十六（上）－ 不要把所有的鸡蛋放在一个篮子里 -- 谈谈最大熵模型

数学之美系列十六（上）－不要把所有的鸡蛋放在一个篮子里--谈谈最大熵模型[我们在投资时常常讲不要把所有的鸡蛋放在一个篮子里，这样可以降低风险。在信息处理中，这个原理同样适用。
XingKong_678·2014-11-10 21:00

对数线性模型之一(逻辑回归), 广义线性模型学习总结

下一篇将是对最大熵模型的学习总结。本篇介绍的大纲如下：1、逻辑斯蒂分
wenyusuran·2014-10-31 10:00

最大熵模型中的数学推导

最大熵模型中的数学推导0引言写完SVM之后，一直想继续写机器学习的系列，无奈一直时间不稳定且对各个模型算法的理解尚不够，所以导致迟迟未动笔。
v_JULY_v·2014-10-27 16:57

最大熵模型中的数学推导

  最大熵模型中的数学推导0引言  写完SVM之后，一直想继续写机器学习的系列，无奈一直时间不稳定且对各个模型算法的理解尚不够，所以导致迟迟未动笔。
v_JULY_v·2014-10-27 16:00

一种利用 Cumulative Penalty 训练 L1 正则 Log-linear 模型的随机梯度下降法

 Log-Linear模型（也叫做最大熵模型）是NLP领域中使用最为广泛的模型之一，其训练常采用最大似然准则，且为防止过拟合，往往在目标函数中加入（可以产生稀疏性的）L1正则。
peghoty·2014-06-11 14:00

最大熵学习笔记（六）优缺点分析

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵学习笔记（五）最优化算法

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
皮果提·2014-05-22 08:49

最大熵学习笔记（三）最大熵模型

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
皮果提·2014-05-22 08:26

最大熵学习笔记（二）最大熵原理

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵学习笔记（四）模型求解

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵学习笔记（五）最优化算法

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵学习笔记（三）最大熵模型

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵学习笔记（零）目录和引言

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵学习笔记（一）预备知识

本文为一则读书笔记，将对最大熵原理以及由此导出的最大熵模型进行介绍，重点给出其中所涉及数学公式的理解和详细推导。
peghoty·2014-05-22 08:00

最大熵模型介绍及实现

转自：http://www.cnblogs.com/hexinuaa/p/3353479.htmlhttp://blog.csdn.net/hexinuaa/article/details/24711675Overview统计建模方法是用来modeling随机过程行为的。在构造模型时，通常供我们使用的是随机过程的采样，也就是训练数据。这些样本所具有的知识（较少），事实上，不能完整地反映整个随机过程
erli11·2014-04-29 15:17

生物信息之ME, HMM, MEMM, CRF

做高端的生物信息理论离不开各种modeling于是乎漫长的digest之路开始...一：最大熵模型MaximumEntropy现从一个简单例子看起（不要把鸡蛋放在一个篮子里）：比如华盛顿和维吉利亚都可以作人
wishchin·2014-01-23 13:00

CRF资料

与最大熵模型相似，条件随机场（Conditionalrandomfields，CRFs）是一种机器学习模型，在自然语言处理的许多领域（如词性标注、中文分词、命名实体识别等）都有比较好的应用效果。
yueyedeai·2013-11-26 20:00

最大熵模型

最大熵模型一直困惑了我很久，直到最近看了exponentialfamily才明白。最大熵解的形式属于exponentialfamily。第一部分首先考虑一个问题：给定一些样本，求估计p(x)的分布。
richard2357·2013-11-20 11:00

条件随机场（Conditional random fields）

条件随机场模型是Lafferty于2001年，在最大熵模型和隐马尔科夫模型的基础上，提出的一种判别式概率无向图学习模型，是一种用于标注和切分有序数据的条件概率模型。
Vincent乐·2013-11-09 22:12

条件随机场（Conditional random fields）

       条件随机场模型是Lafferty于2001年，在最大熵模型和隐马尔科夫模型的基础上，提出的一种判别式概率无向图学习模型，是一种用于标注和切分有序数据的条件概率模型。
chlele0105·2013-11-09 22:00

最大熵模型介绍

Overview统计建模方法是用来modeling随机过程行为的。在构造模型时，通常供我们使用的是随机过程的采样，也就是训练数据。这些样本所具有的知识（较少），事实上，不能完整地反映整个随机过程的状态。建模的目的，就是将这些不完整的知识转化成简洁但准确的模型。我们可以用这个模型去预测随机过程未来的行为。在统计建模这个领域，指数模型被证明是非常好用的。因此，自世纪之交以来，它成为每个统计物理学家们手
喜歌·2013-10-06 11:00

对数线性模型之一(逻辑回归), 广义线性模型学习总结

下一篇将是对最大熵模型的学习总结。本篇介绍的大纲如下：1、逻
lilyth_lilyth·2013-08-17 22:00

熵

最近为了学习最大熵模型，整理了一些熵的资料，深入理解了一下熵。 0.引言。香农熵的定义：这个式子大家应该都熟悉。但为什么要这样定义？为什么会有一个log出现？下面我们来一步步揭开疑惑。 
richard2357·2013-08-04 11:00

最大熵模型

日常生活中，很多事情的发生表现出一定的随机性，试验的结果往往是不确定的，而且也不知道这个随机现象所服从的概率分布，所有的只有一些试验样本或样本特征，统计学常常关心的一个问题，在这种情况下如何对分布作出一个合理的推断？根据样本信息对某个未知分布作出推断的方法，最大熵的方法就是这样一个方法。最大熵原理是在1957年由E.T.Jaynes提出的，其主要思想是，在只掌握关于未知分布的部分知识时，应该选取符
oanqoanq·2013-06-13 14:00

自然语言处理资源

NLP领域自然语言处理计算语言学自然语言理解自然语言生成机器翻译文本分类语音识别语音合成中文分词信息检索信息抽取句法分析问答系统自动摘要拼写检查统计机器翻译NLP专题隐马尔科夫模型最大熵模型条件随机场数学之美支持向量机机器学习
caihongshijie6·2013-03-26 22:00

最大熵模型与最大似然概率

(转)最大熵模型与最大似然概率  2010-03-2500:26:15|  分类： 研究笔记|字号 订阅    对于自然语言处理中的各种模型来说，最大熵模型是一种在形式上最简单，但是在实现上却最复杂的模型
pi9nc·2013-03-18 21:00

最大熵算法笔记

因为这时概率分布的信息熵最大，所以人们称这种模型叫"最大熵模型"。     匈牙利著名数学家、
wuwuwuwuwuwuwuwu·2013-02-22 14:00

ME, HMM, MEMM, CRF

最大熵模型MaximumEntropy现从一个简单例子看起：比如华盛顿和维吉利亚都可以作人名和地名，而从语料中只知道p(人名)＝0.6，那么p(华盛顿＝人名)的概率为多少比较好呢？
chinaliping·2013-01-31 10:00

无约束最优化问题

估计有些读者看到这个题目的时候会觉得很数学，和自然语言处理没什么关系，不过如果你听说过最大熵模型、条件随机场，并且知道它们在自然语言处理中被广泛应用，甚至你明白其核心的参数训练算法中有一种叫LBFGS，
nocml·2012-12-12 17:00

最大熵模型

 最大熵模型：读书笔记  胡江堂，北京大学软件学院 1.物理学的熵2.信息论的熵3.熵和主观概率（一个简单注释4.熵的性质4.1.当所有概率相等时，熵取得最大值4.2.小概率事件发生时携带的信息量比大概率事件发生时携带的信息量多
pi9nc·2012-11-28 21:00

最大熵模型

因为这时概率分布的信息熵最大，这种模型叫“最大熵模型”。最大熵模型应用于：计算量不太大的NLP问题，如词性标
longjing1113·2012-11-28 14:00

无约束最优化

估计有些读者看到这个题目的时候会觉得很数学，和自然语言处理没什么关系，不过如果你听说过最大熵模型、条件随机场，并且知道它们在自然语言处理中被广泛应用，甚至你明白其核心的参数训练算法中有一种叫LBFGS，
dushenzhi·2012-10-13 12:50

无约束最优化

      估计有些读者看到这个题目的时候会觉得很数学，和自然语言处理没什么关系，不过如果你听说过最大熵模型、条件随机场，并且知道它们在自然语言处理中被广泛应用，甚至你明白其核心的参数训练算法中有一种叫
dushenzhi·2012-10-13 12:00

转载-数学之美-系列十六 （下）-不要把所有的鸡蛋放在一个篮子里-最大熵模型

2006年11月16日上午06:50:00发表者：Google研究员，吴军 我们上次谈到用最大熵模型可以将各种信息综合在一起。我们留下一个问题没有回答，就是如何构造最大熵模型。
JackyYong·2012-09-17 02:00

转载-数学之美-系列十六（上）-不要把所有的鸡蛋放在一个篮子里 -- 谈谈最大熵模型

2006年10月8日上午07:27:00发表者：Google研究员，吴军 [我们在投资时常常讲不要把所有的鸡蛋放在一个篮子里，这样可以降低风险。在信息处理中，这个原理同样适用。在数学上，这个原理称为最大熵原理(themaximumentropyprinciple)。这是一个非常有意思的题目，但是把它讲清楚要用两个系列的篇幅。]前段时间，Google中国研究院的刘骏总监谈到在网络搜索排名中，用到的信
JackyYong·2012-09-17 02:00
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他