最大熵

最大熵用于文本分类

http://blog.csdn.net/u012176591原始数据集和完整的代码见http://download.csdn.net/detail/u012176591/8675665一个相关的论文《使用最大熵模型进行中文文本分类
u012176591·2015-05-08 10:00

机器学习实战——最大熵模型

信息熵香农与1948年提出的信息论以其中的信息熵这一基本概念为基础，用来表征人们对客观事件的不确定性的度量，与物理学中的熵表征物质的混乱程度有相似之处。当处理不确定事件时，最常用的方式就是用概率方式描述，一般假定不确定的事件A每种可能的状态都有一个概率与之对应：P(Ai)s.t.∑i=1nP(Ai)=1P(Ai)≥0而总共可能的状态如果是有限个（n个），那么就是离散的事件，用离散的随机变量表示；如
u010487568·2015-05-07 16:00

关于熵的一些理解

热力学第二定律的内容是：热力学过程是不可逆的——孤立系统自发地朝着热力学平衡方向──最大熵状态──演化。然后真正的对这个名词有所理解是在学习《工程热力学》的时候。热
cqu20093154·2015-04-27 21:59

Win8 Metro(C#)数字图像处理--2.57一维最大熵法图像二值化

[函数名称]  一维最大熵法图像二值化WriteableBitmap EntropymaxThSegment(WriteableBitmap src)[算法说明]  一维最大熵法图像分割就是利用图像的灰度分布密度函数定义图像的信息熵
Trent1985·2015-04-21 12:00

常用的图像二值化算法总结

全局阈值，通过全局特性计算阈值，如直方图c、局部阈值，也称自适应阈值化，全局阈值的分块化d、迭代法，给定初始阈值，不断改变该值，直到满足给定的条件，一般条件是前景背景的平均灰度值之和小于某个极限值e、最大熵
Kelvin_Yan·2015-04-17 10:00

影响逻辑斯蒂回归性能的因素

并与最大熵分类器进行对比。1.是否包含默认类别，就是说在进行K元分类时，是否包含第K+1个默认类别。
相门码农·2015-04-14 21:59

最大熵开源——openNLP MaxEnt

opennlp.maxentpackage是一个比较成熟的Javapackage，用来训练和使用最大熵模型。本文描述最大熵和使用opennlp.maxentpackage的一些相关细节。
renyp8799·2015-04-10 09:00

广义线性模型

在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。
ACdreamers·2015-03-27 00:27

广义线性模型

在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。 
ACdreamers·2015-03-27 00:00

数学之美笔记（十四）

最大熵模型：在对一个随机事件的概率分布进行预测时，我们的预测应当满足所有已知条件，而对未知情况不作任何主观假设。在这种情况下，概率分布最均匀，预测的风险最小，信息熵最大的模型。
爱开发的小骚年·2015-03-10 14:00

常用分词算法笔记

常用统计语言模型，包括了N元文法统计模型（N-gramModel）、隐马尔科夫模型（HiddenMarkovModel，简称HMM）、最大熵模型（MaximumEntropyModel）。
earbao·2015-01-23 10:00

《统计学习方法，李航》：6、logistic regression model

）logistic distribution2）binomial logistic regression model3）multi-nominallogistic regression model4）最大熵原理
mmc2015·2015-01-21 08:00

中文分词模型之最大熵模型

中文分词模型之最大熵      学习自然语言处理的相关模型，一直觉得云里雾里。看了好久的《统计学习方法》，也依然无所进益。看了很多博客，也没有具体的，正确率较高分词的实现细节。
sbp810050504·2015-01-19 09:22

中文分词模型之最大熵模型

中文分词模型之最大熵      学习自然语言处理的相关模型，一直觉得云里雾里。看了好久的《统计学习方法》，也依然无所进益。看了很多博客，也没有具体的，正确率较高分词的实现细节。
sbp810050504·2015-01-19 09:22

中文分词模型之最大熵模型

中文分词模型之最大熵学习自然语言处理的相关模型，一直觉得云里雾里。看了好久的《统计学习方法》，也依然无所进益。看了很多博客，也没有具体的，正确率较高分词的实现细节。
sbp810050504·2015-01-19 09:22

基于CRF序列标注的中文依存句法分析器的Java实现

相较于《最大熵依存句法分析器的实现》，分析速度翻了一倍，达到了1077.6443sent/sCRF简介CRF是序列标注场景中常用的模型，比HMM能利用更多的特征，比MEMM更能抵抗标记偏置的问题。
hankcs·2014-12-12 00:00

CRF 条件随机场

条件随机场模型是Lafferty于2001年，在最大熵模型和隐马尔科夫模型的基础上，提出的一种判别式概率无向图学习模型，是一种用于标注和切分有序数据的条件概率模型。
lansatiankongxxc·2014-12-03 14:00

最大熵依存句法分析器的实现

这是一个判别式汉语句法分析器的Java实现，基于最大熵模型和最大生成树模型，实现了中文依存句法的自动分析，在封闭测试集（取自训练集）上取得了99.20%的准确率（UA），分析速度达到 570.7句/秒。
hankcs·2014-11-26 19:00

最大熵模型(Maximum Entropy Model, ME)理解

信息论的创始人Shannon认为，“信息是指人们对事物理解的不确定性的降低或消除”，他称这种不确定的程度为信息熵。可以这样理解，熵就是随机事件的不确定性，熵越小信息就越明确，而越不确定的事情熵就越大。比如，一个正常骰子6个面（1,2,3,4,5,6），投掷时每个面的概率相等；而另一个作弊骰子，也有6个面，在为”6”的那一面灌铅，投掷时永远出现“6”那一面。那么很明显投掷正常骰子的信息更为不确定，熵
qianwenhong·2014-11-25 12:54

最大熵的Java实现

这是一个最大熵的简明Java实现，提供训练与预测接口。训练采用GIS训练算法，附带示例训练集。本文旨在介绍最大熵的原理、分类和实现，不涉及公式推导或其他训练算法，请放心食用。
hankcs·2014-11-23 15:00

数学之美系列十六（上）－ 不要把所有的鸡蛋放在一个篮子里 -- 谈谈最大熵模型

数学之美系列十六（上）－不要把所有的鸡蛋放在一个篮子里--谈谈最大熵模型[我们在投资时常常讲不要把所有的鸡蛋放在一个篮子里，这样可以降低风险。在信息处理中，这个原理同样适用。
XingKong_678·2014-11-10 21:00

条件随机场(conditional random fields) 及代码实现

它在观测序列的基础上对目标序列进行建模,重点解决序列化标注的问题条件随机场模型既具有判别式模型的优点,又具有产生式模型考虑到上下文标记间的转移概率,以序列化形式进行全局参数优化和解码的特点,解决了其他判别式模型(如最大熵马尔科夫模型
wenyusuran·2014-11-07 11:00

对数线性模型之一(逻辑回归), 广义线性模型学习总结

下一篇将是对最大熵模型的学习总结。本篇介绍的大纲如下：1、逻辑斯蒂分
wenyusuran·2014-10-31 10:00

最大熵模型中的数学推导

最大熵模型中的数学推导0引言写完SVM之后，一直想继续写机器学习的系列，无奈一直时间不稳定且对各个模型算法的理解尚不够，所以导致迟迟未动笔。
v_JULY_v·2014-10-27 16:57

最大熵模型中的数学推导

  最大熵模型中的数学推导0引言  写完SVM之后，一直想继续写机器学习的系列，无奈一直时间不稳定且对各个模型算法的理解尚不够，所以导致迟迟未动笔。
v_JULY_v·2014-10-27 16:00

信息量、熵、最大熵、联合熵、条件熵、相对熵、互信息。

一直就对机器学习中各种XX熵的概念比较模糊，现在总结一下自己的学习心得。信息量先说一下信息量的概念，其实熵就是信息量的集合。摘抄个例子：英文有26个字母，假设每个字母出现的概率是一样的，每个字母的信息量就是-log21/26=4.7(这就是个公式，现在不懂先不用管)；常用的汉字有2500个，每个汉字的信息量是-log21/2500=11.3。所以在信息量相同的情况下，使用的汉字要比英文字母要少——
thinking空·2014-10-26 12:00

MALLET简介

MALLET包括复杂的用于文件分类的工具：有效的用于转换文本到“特征”的程序，多种多样的算法（包括朴素贝叶斯，最大熵，和决策树）。以及一些通用的指标用于评估分类器性能。
wuxiaoer717·2014-08-16 18:00

MALLET简介

MALLET包括复杂的用于文件分类的工具：有效的用于转换文本到“特征”的程序，多种多样的算法（包括朴素贝叶斯，最大熵，和决策树）。以及一些通用的指标用于评估分类器性能。
wuxiaoer717·2014-08-16 10:00

标记偏置 隐马尔科夫 最大熵马尔科夫 HMM MEMM

隐马尔科夫模型（HMM）：图1.隐马尔科夫模型隐马尔科夫模型的缺点：       1、HMM只依赖于每一个状态和它对应的观察对象：             序列标注问题不仅和单个词相关，而且和观察序列的长度，单词的上下文，等等相关。       2、目标函数和预测目标函数不匹配：             HMM学到的是状态和观察序列的联合分布P(Y,X)，而预测问题中，我们需要的是条件概率P(Y|
xum2008·2014-07-26 17:00

斯坦福NLP笔记46 —— Maximum Entropy Sequence Models

前面几节都是在探讨命名实体识别的问题，上一节给出用来分类器可以使用的一些特征，wordshape之类的，这一节教授具体阐述了最大熵分类器的实现。
陈清扬·2014-07-20 16:00

ICA算法简介

基于信息论的方法研究中，各国学者从最大熵、最小互信息、最大似然和负熵最大化等角度提出了一系列估计算法。如FastICA算法,Infomax算法，最大似然估计算法等。
whiteinblue·2014-07-02 11:00

最大熵算法及简单例子

好，下面和大家一起来学习最大熵算法。首先，最大熵算法是干什么的呢？一般是用来估计一个分布，至于把分布估计出来之后用来干什么，那要视具体问题而定。那这里的“熵”是什么意思呢？
Kenney_Qin·2014-06-29 13:12

一种利用 Cumulative Penalty 训练 L1 正则 Log-linear 模型的随机梯度下降法

 Log-Linear模型（也叫做最大熵模型）是NLP领域中使用最为广泛的模型之一，其训练常采用最大似然准则，且为防止过拟合，往往在目标函数中加入（可以产生稀疏性的）L1正则。
peghoty·2014-06-11 14:00

最大熵学习笔记（六）优缺点分析

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵学习笔记（五）最优化算法

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
皮果提·2014-05-22 08:49

最大熵学习笔记（三）最大熵模型

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
皮果提·2014-05-22 08:26

最大熵学习笔记（二）最大熵原理

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵学习笔记（四）模型求解

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵学习笔记（五）最优化算法

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵学习笔记（三）最大熵模型

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵学习笔记（零）目录和引言

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵学习笔记（一）预备知识

其实，这里边包含了所谓的最大熵原理（TheMaximumEntropyPrinciple）。
peghoty·2014-05-22 08:00

最大熵原理

最大熵原理是在1957 年由E.T.Jaynes 提出的，其主要思想是，在只掌握关于未知分布的部分知识时，应该选取符合这些知识但熵值最大的概率分布。
wbj0110·2014-05-19 14:00

最大熵原理

最大熵原理是在1957 年由E.T.Jaynes 提出的，其主要思想是，在只掌握关于未知分布的部分知识时，应该选取符合这些知识但熵值最大的概率分布。
wbj0110·2014-05-19 14:00

机器学习算法

PUBLIC、SLIQ和SPRINT （三）神经网络   （四）SVM   （五）KNN   （六）Bagging 和Boosting   （七）最大熵
wbj0110·2014-05-17 10:00

机器学习算法

PUBLIC、SLIQ和SPRINT （三）神经网络   （四）SVM   （五）KNN   （六）Bagging 和Boosting   （七）最大熵
wbj0110·2014-05-17 10:00

SciPy子模块

constans物理和数学常数cluster聚类算法fftpack快速傅立叶变换程序integrate集成和常微分方程求解器interpolate拟合和平滑曲线io输入和输出linalg线性代数maxentropy最大熵法
u010255642·2014-05-07 15:00

最大熵模型介绍及实现

转自：http://www.cnblogs.com/hexinuaa/p/3353479.htmlhttp://blog.csdn.net/hexinuaa/article/details/24711675Overview统计建模方法是用来modeling随机过程行为的。在构造模型时，通常供我们使用的是随机过程的采样，也就是训练数据。这些样本所具有的知识（较少），事实上，不能完整地反映整个随机过程
erli11·2014-04-29 15:17

七种常见阈值分割代码(Otsu、最大熵、迭代法、自适应阀值、手动、迭代法、基本全局阈值法)

一、工具：VC+OpenCV二、语言：C++三、原理(略)四、程序主程序(核心部分) 代码 /*===============================图像分割=====================================*/ /*---------------------------------------------------------------------------
沉默的大绵羊·2014-04-28 20:00

最大熵阈值分割算法

#include #include usingnamespacecv; intHistogramBins=256; floatHistogramRange1[2]={0,255}; float*HistogramRange[1]={&HistogramRange1[0]}; typedef enum{back,object}entropy_state; intQueryHistValue_1D(
yeyang911·2014-04-28 15:00
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他