E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
最大熵
理解
最大熵
模型
最大熵
模型与逻辑斯蒂回归模型一样,属于对数线性模型,因为推导出的
最大熵
模型公式满足输入与输出的对数函数成线性关系,如下:Pw(Y|X)=1Zw(x)exp(∑ni=1wifi(x,y))其中,Zw(x)
shijing_0214
·
2016-04-11 15:00
最大熵模型
最大熵原理
广义线性模型
在机器学习中,有很多模型都是基于广义线性模型的,比如传统的线性回归模型,
最大熵
模型,Logistic回归,softmax回归,等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。
shenxiaoming77
·
2016-04-11 14:00
最大熵
模型中的数学推导
最大熵
模型中的数学推导引言写完SVM之后,早就想继续写机器学习的系列,无奈一直时间不稳定且对各个模型算法的理解尚不够,所以一直迟迟未动笔。
qqh19910525
·
2016-04-11 14:00
红外目标图像中阈值分割方法的比较与研究
红外目标图像中阈值分割方法的比较与研究 摘要:本文主要以红外图像目标检测技术为背景,在图像阈值分割中以
最大熵
准则及遗传算法为基础,研究了一维
最大熵
值法(KSW法)及基于遗传算法的KSW熵法单阈值、双阈值等三种不同的阈值分割方法
chongshangyunxiao321
·
2016-04-09 13:00
《统计学习方法》笔记(6):逻辑斯谛回归&
最大熵
模型
逻辑斯谛回归和
最大熵
模型,从原理上看二者并不十分相关,不知是不是因为篇幅都相对较小,所以将这两部分内容放到一起。本文还是从原理、应用场景以及优缺点来做简要介绍。
峰峰jack
·
2016-04-08 13:01
数据挖掘
记录点隐马尔科夫模型(Hidden Markov Models)的点滴
因为之前HMM、
最大熵
、CRF接触比较少,所以最近想弥补一下这方面的知识。有没有用HMM进行自动谱曲的?自动预测最优美的谱子出来听一听,有空我弄一个看看效果,哈哈。
qqh19910525
·
2016-04-06 15:00
错题记录(1)-机器学习
1、HMM、CRF隐马尔可夫模型(HiddenMarkovModel,HMM),
最大熵
马尔可夫模型(MaximumEntropyMarkovModel,MEMM)以及条件随机场(ConditionalRandomField
qjc937044867
·
2016-04-02 16:00
面试
机器学习
统计学习方法 李航---第6章 逻辑回归与
最大熵
模型
第6章逻辑回归与
最大熵
模型逻辑回归(logisticregression)是统计学习中的经典分类方法。
demon7639
·
2016-03-30 09:29
机器学习
统计学习方法 李航---第12章 统计学习方法总结
感知机、k近邻法、朴素贝叶斯法、决策树是简单的分类方法,具有模型直观、方法简单、实现容易等特点;逻辑斯谛回归与
最大熵
模型、支
demon7639
·
2016-03-30 09:00
逻辑斯蒂回归模型与
最大熵
模型
逻辑斯蒂回归模型逻辑斯蒂回归是统计学习的经典分类方法.
最大熵
是概率模型学习的一个准则,将其推广到分类问题得到
最大熵
模型逻辑斯谛模型和
最大熵
模型都属于对数线性模型逻辑斯蒂分布分布函数:F(X)=p(X0为形状参数
Eloco蔚
·
2016-03-28 21:52
机器学习
逻辑斯蒂回归模型与
最大熵
模型
逻辑斯蒂回归模型逻辑斯蒂回归是统计学习的经典分类方法.
最大熵
是概率模型学习的一个准则,将其推广到分类问题得到
最大熵
模型逻辑斯谛模型和
最大熵
模型都属于对数线性模型逻辑斯蒂分布 分布函数:
qq_20602929
·
2016-03-28 21:00
matlab基于遗传算法的
最大熵
值法的双阈值图像分割
利用最佳直方图熵法(KSW熵法)及传统遗传算法实现灰度图像二阈值分割matlab代码如下:1、main.m(主函数):%%%利用最佳直方图熵法(KSW熵法)及传统遗传算法实现灰度图像二阈值分割%%%主程序%%初始部分,读取图像及计算相关信息clear;closeall;clc;I=imread('D:\MATLAB\work\2.21.jpg');figurefigure(1),imshow(I)
chongshangyunxiao321
·
2016-03-28 16:13
matlab学习笔记
图像处理
matlab基于遗传算法的
最大熵
值法的双阈值图像分割
利用最佳直方图熵法(KSW熵法)及传统遗传算法实现灰度图像二阈值分割matlab代码如下:1、main.m(主函数):%%%利用最佳直方图熵法(KSW熵法)及传统遗传算法实现灰度图像二阈值分割 %%%主程序 %%初始部分,读取图像及计算相关信息 clear; closeall; clc; I=imread('D:\MATLAB\work\2.21.jpg'); figure figure(1),i
chongshangyunxiao321
·
2016-03-28 16:00
matlab
遗传算法-KSW
机器学习笔试题目----网易2016春招
生成式模型:HMM、朴素贝叶斯判别式模型:svm、
最大熵
模型、决策树、神经网络、条件随机场。2、Android的intent都可以传递那些数据类型?
大号小白兔
·
2016-03-25 12:26
机器学习
机器学习笔试题目----网易2016春招
生成式模型:HMM、朴素贝叶斯判别式模型:svm、
最大熵
模型、决策树、神经网络、条件随机场。2、Android的intent都可以传递那些数据类型?
a1b2c3d4123456
·
2016-03-25 12:00
机器学习
标记偏置 隐马尔科夫
最大熵
马尔科夫 HMM MEMM
最大熵
隐马尔科夫模型(MEMM):图2.
最大熵
马尔科夫模型MEMM考虑到相
lcchuguo
·
2016-03-23 21:00
最大熵
模型
一、
最大熵
原理
最大熵
原理是一种选择随机变量统计特性最符合客观情况的准则。[1]热力学第二定律说明,当一个热力学系统达到最后热平衡状态时,该系统的熵会达到最大值。
Herbert002
·
2016-03-19 18:16
转载
最大熵
模型介绍及实现
转自:http://blog.csdn.net/erli11/article/details/24718655http://www.cnblogs.com/hexinuaa/p/3353479.htmlhttp://blog.csdn.net/hexinuaa/article/details/24711675Overview统计建模方法是用来modeling随机过程行为的。在构造模型时,通常供我们
Chrls_Wang
·
2016-03-10 18:29
自然语言处理
机器学习
machine
learning
Nlp
转载
最大熵
模型介绍及实现
转自:http://blog.csdn.net/erli11/article/details/24718655http://www.cnblogs.com/hexinuaa/p/3353479.htmlhttp://blog.csdn.net/hexinuaa/article/details/24711675Overview统计建模方法是用来modeling随机过程行为的。在构造模型时,通常供我们
Chrls_Wang
·
2016-03-10 18:29
自然语言处理
机器学习
machine
learning
Nlp
逻辑斯蒂回归3 --
最大熵
模型之改进的迭代尺度法(IIS)
声明: 1,本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结,不得用作商用,欢迎转载,但请注明出处(即:本帖地址)。 2,由于本人在学习初始时有很多数学知识都已忘记,所以为了弄懂其中的内容查阅了很多资料,所以里面应该会有引用其他帖子的小部分内容,如果原作者看到可以私信我,我会将您的帖子的地址付到下面。 3,如果有内容错误或不准确欢迎大家指正。
xueyingxue001
·
2016-03-01 17:00
算法
机器学习
IIS
逻辑斯蒂回归2 --
最大熵
模型概念
声明: 1,本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结,不得用作商用,欢迎转载,但请注明出处(即:本帖地址)。 2,由于本人在学习初始时有很多数学知识都已忘记,所以为了弄懂其中的内容查阅了很多资料,所以里面应该会有引用其他帖子的小部分内容,如果原作者看到可以私信我,我会将您的帖子的地址付到下面。 3,如果有内容错误或不准确欢迎大家指正。
xueyingxue001
·
2016-03-01 16:00
算法
机器学习
使用RNN解决NLP中序列标注问题的通用优化思路
在深度学习没有广泛渗透到各个应用领域之前,传统的最常用的解决序列标注问题的方案是
最大熵
、CRF等模型,尤其是CRF,基本是最主流的方法。随着深度学习的不断探索和发展,很可能RNN模型会
张俊林博客
·
2016-02-23 19:46
深度学习
自然语言处理
使用RNN解决NLP中序列标注问题的通用优化思路
在深度学习没有广泛渗透到各个应用领域之前,传统的最常用的解决序列标注问题的方案是
最大熵
、CRF等模型,尤其是CRF,基本是最主流的方法。随着深度学习的不断探索和发展,很
tobacco5648
·
2016-02-23 19:00
自然语言处理
NLP
RNN
序列标注
机器学习题目汇总二
1、下列属于无监督学习的是:正确答案:AA、k-meansB、SVMC、
最大熵
D、CRF简单来说,基于已知类别的样本调整分类器的参数,使其达到所要求性能的过程,称为监督学习;对没有分类标记的训练样本进行学习
will130
·
2016-02-20 21:00
机器学习
R语言中的情感分析与机器学习
实际上,Timothy还写了一个针对低内存下多元Logistic回归(也称
最大熵
)的R包maxtent。然而,RTextTools包中不包
王成军
·
2016-02-04 00:00
【读书笔记】---- 数学之美
但至少对TF-IDF,
最大熵
,马尔科夫链,
stoneniqiu
·
2016-02-02 19:17
【语音识别】一文搞懂hmm
描述一件事情的时候,考虑到所有的不确定性,能将风险降到最低
最大熵
:如上,描述一件未知状态时候,要尽量考虑所有的可能结果,以此估计出的结果风险才最低。
luoyinqq
·
2016-01-25 18:00
LR(Logistic Regression)深入理解 (续)
本文要解决的有两个问题:1.LR和ME(
最大熵
)的关系2.LR的并行化把这两个问题分开来学习,也是因为这里边的内容较多,理解起来也更费劲。好了,直奔主题。先来看ME
最大熵
模型。
dp_BUPT
·
2016-01-23 13:00
算法
机器学习
并行计算
LR
笔试
指针数组、数组指针、指向函数的指针、指针函数...】②sizeof计算【比较简单,网上到处都是...】③用C编程实现字符串匹配④用C编程实现一维
最大熵
阈值分割 【需要知道熵的表达式才好做,刚好笔试前我用过此算法
Allyli0022
·
2016-01-21 10:00
R语言中的情感分析与机器学习
实际上,Timothy还写了一个针对低内存下多元Logistic回归(也称
最大熵
)的R包maxtent。然而,RTextTools包中不包
雪晴数据网
·
2016-01-11 17:04
学习方法
开发者
维也纳
R语言中的情感分析与机器学习
实际上,Timothy还写了一个针对低内存下多元Logistic回归(也称
最大熵
)的R包maxtent。然而,RTextTools包中不包
雪晴数据
·
2016-01-11 17:00
机器学习
朴素贝叶斯
R语言文本分析
R语言情感分析
e1071
RtextTools
优化方法之朗格朗日对偶性
学习
最大熵
模型和支持向量机的过程中,涉及优化中对偶性的相关内容,在这里做个小结巩固一下(参考自《统计学习方法》)。
qq_23968185
·
2016-01-08 17:00
优化
机器学习
最大熵
的Java实现
这是一个
最大熵
的简明Java实现,提供训练与预测接口。训练采用GIS训练算法,附带示例训练集。本文旨在介绍
最大熵
的原理、分类和实现,不涉及公式推导或其他训练算法,请放心食用。
超大的雪童子
·
2015-12-27 19:00
【读书笔记】---- 数学之美
但至少对TF-IDF,
最大熵
,马尔科夫链,
stoneniqiu
·
2015-12-08 22:00
七种常见阈值分割代码(Otsu、
最大熵
、迭代法、自适应阀值、手动、迭代法、基本全局阈值法)
http://www.cnblogs.com/skyseraph/archive/2010/12/21/1913058.html
thinkwell12
·
2015-11-28 22:00
HMM MEMM CRF 区别 联系
隐马尔可夫模型(HiddenMarkovModel,HMM),
最大熵
马尔可夫模型(MaximumEntropyMarkovModel,MEMM)以及条件随机场(ConditionalRandomField
xum2008
·
2015-11-27 21:00
基于
最大熵
模型的中文分词
字标注问题先看一个句子:我是一名程序员。将所有字分为4类,S表示单字,B表示词首,M表示词中,E表示词尾。如果我们知道上述句子中每个字的类别,即:我/S是/S一/B名/E程/B序/M员/E。/S那么我们就可以知道这个句子的分词结果:我是一名程序员。从这里可以看出,分词问题转化成了一个分类问题,即对每个字分类。“熵”最初是热力学中的一个概念,上世纪40年代,香农首先在信息论中引入了信息熵的概念。信息
u014568921
·
2015-11-26 17:00
最大熵模型
拉格朗日对偶性和似然函数
在学习
最大熵
模型和SVM的过程中,我们看到,前者需要求解满足所有已知条件并且使得熵最大的模型,后者需要求解满足间隔一致性约束条件并且使得几何间隔最大的超平面,归结起来其求解问题都是带约束的极值问题,其解决方法一般采用拉格朗日对偶原理
qq_18343569
·
2015-11-25 09:00
机器学习笔记_
最大熵
模型
熵的概念引例:如果随机变量x的可能取值为X=x1,x2,...,xk。若用n位的y:y1,⋯,yn(每个y有c种取值)表示,则n的取值期望。∑i=1kp(x=xi)log1p(x=xi)logc熵:H(X)=−∑x∈Xp(x)lnp(x)=>单位nat(奈特)-熵是不确定性的度量-随机变量退化为定值,熵是0-均匀分布熵最大-0≤H(x)≤log|x|联合熵:H(X,Y)条件熵:H(X|Y)=H(X
mijian1207mijian
·
2015-11-25 00:00
最大熵
(一)
熵的定义H(P)=−∑xP(x)logP(x)熵的范围0≤H(p)≤log|X||X|是X的取值个数。熵大于0很显然。下面证明后半部分0≤KL(p|u)=∑xp(x)logp(x)u(x)=∑xp(x)logp(x)−∑xp(x)logu(x)=−H(x)+log|X|即0≤−H(x)+log|X|则H(x)≤log|X|其中,KL(p|u)是KLdivergence,表示概率分布p和u之间的相似
march_on
·
2015-11-21 17:00
最大熵
限制玻尔兹曼机(RBM)
EBM)、限制波尔兹曼机(RBM)产生式模型:用来估计联合概率P(x,y),因此可以根据联合概率来生成样本,如HMM;判别式模型:用来估计条件概率P(y|x),只能判断分类,如SVM,CRF,MEM(
最大熵
gsp_2015
·
2015-11-16 10:51
方法模型
最大熵
学习笔记(三)
最大熵
模型
事实上,这里边包括了所谓的
最大熵
原理(The Maximum Entropy Principle)。
·
2015-11-13 20:51
学习笔记
信息熵 和 算法时间复杂度
前几天虽然看完了吴军先生的《数学之美》,但一直搞不懂信息熵所以连带着也没搞懂
最大熵
的原理,直到今天白天看了TopLanguage的一个讨论信息论的帖子 再经过晚上散步时思考才顿悟信息熵的意义
·
2015-11-13 09:53
时间复杂度
推荐算法相关总结表(包括DM)
推荐算法总结表 表1 推荐算法分类 个性化推荐算法分类 启发式算法 基于模型 基于内容 TF-IDF 聚类
最大熵
相似度度量 贝叶斯分类
·
2015-11-13 08:32
算法
95行代码实现
最大熵
模型训练
关于
最大熵
模型的介绍请看:http://www.cnblogs.com/hexinuaa/p/3353479.html 以下是GIS训练算法的python实现,代码不到100行。
·
2015-11-13 05:58
代码
最大熵
模型
早餐问题 所谓
最大熵
模型,就是遵循两个原则: (1) 为所有已知的信息建模; (2) 对未知不做任何假设,保持均衡。 很多资料在讲
最大熵
模型时,都用骰子做例子,这里就不重复了。
·
2015-11-12 18:23
模型
最大熵
学习笔记(一)预备知识
其实,这里边包含了所谓的
最大熵
原理(The Maximum Entropy Principle)。
·
2015-11-12 17:02
学习笔记
最大熵
学习笔记(零)目录和引言
其实,这里边包含了所谓的
最大熵
原理(The Maximum Entropy Principle)。
·
2015-11-12 17:02
学习笔记
最大熵
学习笔记(二)
最大熵
原理
其实,这里边包含了所谓的
最大熵
原理(The Maximum Entropy Principle)。
·
2015-11-12 17:01
学习笔记
最大熵
学习笔记(三)
最大熵
模型
其实,这里边包含了所谓的
最大熵
原理(The Maximum Entropy Principle)。
·
2015-11-12 17:00
学习笔记
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他