香农

压缩、去重等技术调研笔记

压缩、去重等技术调研一、导论数据压缩的分类压缩的性能指标二、数据压缩的信息论基础信息的定义互信息和自信息熵信源编码定理信道容量信道编码定理（香农第二定理）率失真理论三、统计编码3.1概述变长码最佳变长编码定理
dc199706·2020-07-09 15:36

sklearn学习笔记（7）——决策树、随机森林

信息熵，在1948年由克劳德·艾尔伍德·香农提出，解决对信息的量化度量问题信息增益，特征A对训练数据集D的信息增益g(D,A)，定义为集合D的信息熵H(D)与特征A给定条件下的D的信息条件熵H(D|A)
超时代cc·2020-07-09 13:14

机器学习算法原理总结系列---算法基础之(2)决策树（Decision Tree）

1948年，香农提出了”信息熵(entropy)”的概念。一条信息的信息量大小和它的不确定性有直接的关系，要搞清楚一件非常非常不确
陆壹爵爷·2020-07-09 12:32

11-14计算机类m1803罗琳导论课后总结

计算机导论课后总结本次课程是计算机导论的第二次课程，是来到计算机的第七十五天讲的内容相对来说比较偏向于信息方面，本次课程，承接了上次关于信息的教学，讲了维纳的信息定义，信息是信息差异类的定义，钟义信的信息定义，香农的信息定义
LiderLan·2020-07-09 11:31

计算机导论——第一次课后总结

有维纳的信息定义，钟义信的信息定义，香农的信息定义，属加种差定义。总的来说，一切客观存在都有信息，信息一般是指事物释放出来的消息、情报、指令、数据或信息，它是人们认识客观世界的媒介。按照携带信息的
Cxy_02·2020-07-09 10:35

计算机导论课后总结

1948年，数学家香农在题为"通讯的数学理论"的论文中指出:“信息是用来消
zhou_mumu·2020-07-09 10:45

计科导论课后理解加深（第十一周）

1.在定义方面，老师介绍讲解了维纳、朗高、阿希贝、钟义信和香农等人的信息定义，我也通过这样的讲解意识到，原来“信息”一词的定义如此多样，不同的人对它的定义也体现出很大的差异性，我印象比较深刻的是钟义信的定义方式
weixin_45884734·2020-07-09 09:46

计算机导论（2）

至今信息没有统一，但有几个普遍认同的定义）信息定义朗高反映事物形式、关系、差别的东西维纳首先将“信息”上升到“最基本概念”钟义信本体论（事物运动状态及其变化方式）和认识论（主体的感知和表达）=》反应事物属性香农
weixin_45886926·2020-07-09 09:15

计算机导论第二次课堂总结

（2）信息奠基人香农认为“信息是用来消除随机不确定性的东
白宇露·2020-07-09 09:43

计算机网络——物理层（慕课习题及总结）（很上瘾 &v& 再扩充 @_@ ）

“延时“就是传送时间2.4M是以10为底不是以2为底奈奎斯特定理：求——最大传输率，要——信号级别方案+频率波段香农定理，如果信噪比单位是分贝，记得换算香农定理，用分贝算实际传输速率二.有导向的传输介质局域网用户端常用的介质
WW93570736·2020-07-09 09:41

谈谈5G的信道编码方法

不过，信道编码的效果是有极限的，这就是香农定理所指出的编码极限。在GSM系统中，采用了卷积以及交织等信道编码方式，离编码极限还有一段距离。到了WCDM
readhere·2020-07-09 08:40

计算机导论总结（一）

1948年，数学家香农在题为“通讯的数学理论”的论文中指出：“信息是用来消除随机不定性的东西”。创建一切宇宙万物的最基本单位是信息。以前，我从来没有对信息这个词做出真正的定义，主要可能是
LiSeMn·2020-07-09 07:25

计算机导论课程小结1

计算机导论课程小结1一.强大的信息1.信息的定义（1）维纳的信息定义（2）信息是差异类的定义（3）钟义信的信息定义语法，语义，语用，先验，实得，实在（4）香农的信息定义（5）种加属差定义被定义概念（属概念
Duing_·2020-07-09 07:15

计算机导论第十一周课后总结

包括信息，计算机信息处理，几个例子，最后还讲了一点点图灵机信息首先，就是信息，有维纳的控制论定义，阿希贝的差异论，钟义信从本体论和认识论角度的认识，香农对信息的
Dylan1024·2020-07-09 07:03

信息管理学基础（第二版）马费成

一、信息与信息管理1.信息概念：①信息是用来减少不确定性的东西（香农）②信息是负熵（维纳）③事物存在的方式和运动状态的表现形式（本体论）④主体所感知或表述的事物存在的方式和运动状态（认识论）特征：①普遍性客观性
wzyfhyh·2020-07-09 01:09

45岁艾弗森认爱香农布朗前妻！以后就是8个孩子的爸了！

别左右了，关注/置顶这里有关于篮球的一切忽如一夜春风来，千树万树梨花开前几天营养菌刚和大家聊了KG的小女友今天就来唠唠艾弗森的新恋情吧毕竟都是令人羡慕的退休生活自打答案退役之后坊间关于他破产的消息就没断过咱先不管这个消息是真还是假营养菌倒是知道从上个月开始艾弗森就是有养老金的人了早在2001年时艾弗森曾与锐步签订一份终身合同按照上面的条款从45岁开始直到55岁艾弗森将收到每年320万美元的“薪资也
NBA篮球实用技巧·2020-07-09 00:00

互联网时代的思维方式

从上个世纪70年代，进入到信息时代，维纳的控制论，香农的信息论和贝塔朗菲的系统论成为了信息时代的理论基础，为信息时代的发展指明方向。同时这三种理论也是信息时代的思维方式。
灰太狼_black·2020-07-08 23:57

简单的程序工具：matlab实现香农编码

香农编码的规则非常简单，用matlab实现起来也非常简单~就当作做作业时候的计算器啦。
蜂蜜小饼干·2020-07-08 23:43

《计算机网络》谢希仁第7版学习笔记 之 物理层

7版学习笔记之物理层物理层的基本概念物理层的主要任务数据通信系统的模型常用术语有关信道的几个基本概念调制分为两大类：(1)常用编码方式(2)基本的带通调制方法信道的极限容量信道能够通过的频率范围信噪比香农公式表明物理层下面的传输媒体传输媒体可分为两大类导引型传输媒体双绞线同轴电缆光缆多模光纤与单模光纤光纤通信中使用的光波的波段
眯着小眼睛看着大世界·2020-07-08 22:14

信息熵(香农熵)的通俗理解

2.watermelon的信息熵（香农熵）代码如下：importnumpyasnpdefcancShannonEnt(dataSet):''':paramdataSet:dataSet:retu
weixin_43258017·2020-07-08 21:18

有关香农的信息论的拆书笔记

内容总结香农对于信息论的两点洞见，第一就是一条信息的信息量的大小在于他克服了多少不确定性，因此，一首诗的信息量比一篇科普论文的信息量较大的多。第二就是为了便于信息的传播，必须要增加一些信息的冗余。
上善若水在路上·2020-07-08 20:15

决策树-选择最优的划分数据集的特点

defchooseBestFeatureToSplit(dataset):numFeature=len(dataset[0])-1#划分后特点的数量BasehannonEnt=calcshannonEnt(dataset)#初始的香农熵
stan-zjx·2020-07-08 19:51

用信息重构世界、人生和价值

1948年，数学家香农在题为“
清释·2020-07-08 19:19

高中信息技术知识点汇总（必修）

第一章绪言一、信息1．信息的含义：理解信息的含义：(三种典型的观点)香农的观点：用来消除不确定的东西维纳的观点：区别于物质与能量的第三类资源钟义信的观点：事物运动的状态与方式2．信息的基本特征：依附性、
weixin_30412577·2020-07-08 13:00

如果是初学C语言请看完 一些成功人士的心得

今天，我能够自称是一个混IT的人，并能以此谋生，将来大家能一次谋生，都要感谢两个人：克劳德.香农和约翰.冯.诺依曼，是他们发现了所有的数字化信息，不论是一段程序，一封email，一部电影都是用一连串的1
zsmwl00·2020-07-08 10:33

信号与系统之（三）采样定律

以下是wiki对采样定理的描述：采样定理，又称香农采样定理，奈奎斯特采样定理，是信息论，特别是通讯与信号处理学科中的一个重要基本结论.E.T.Whittaker(1915年发表
Au_hourb_SCUT·2020-07-08 09:54

论程序员之天梯排行

论程序员之天梯排行1.计算机科学之父：图灵、香农、冯·诺依曼等人。
ozil_oo·2020-07-08 06:15

绘本讲师阅读训练营【30期】12/21实践原创《大卫，不可以》

30025–邓艾华文/图：大卫.香农翻译：余治莹封面今天下午下班，把女儿从学校接回来，让女儿当我的摄影师，我带上绘本，带上小凳子，去游乐园给小朋友们讲绘本啦……因为前天讲了一场，有几小朋友已经和我熟悉了
可乐妍妍·2020-07-08 02:37

武汉科技大学计算机网络复习重点

5.香农公式的计算？6.双绞线的特点和分类。7.信道复用技术的作用及其分类8.Internet（局域网）的拓扑结构？
qq_37128219·2020-07-07 23:53

计算机网络通信基础

主要涉及：基带传输与频带传输区别传输速率和信道带宽的计算奈斯准则、香农公式和采样定律归零码与非归零码区别AMI、CMI、HDB3、曼彻斯特码和查分曼特斯特码编码原理调制与解调工作原理各种2ASK、2FSK
mUncleWang·2020-07-07 21:29

机器学习实战（代码部分）-- 决策树（Ⅱ 按照给定特征划分数据集）

则之后可以通过计算prob*香农熵(dataSet[axis]==value)计算信息增益。关于信息增益的计算案例参考：机器学习--决策树（Ⅴ决策树构
m0_38056893·2020-07-07 16:49

第1章 文字和语言 vs 数字和信息

但是，直到半个多世纪前香农博士提出信息论，人们才开始把数学和信息系统自觉地联系起来。
whybask·2020-07-07 15:17

信息论基础（学习笔记整理）

奠基人：美国数学家香农(C.E.Shannon)，1948年发表了著名的论文“通信的数学理论”，为信息论奠定了理论基础。半个世纪以来，以通信理论
canxuezhang·2020-07-07 04:23

信息论基础（考试复习，针对考点）

第一章绪论1．通信系统模型；2．香农信息的概念；香农信息定义：信息是事物运动状态或存在方式的不确定性的描述。3．信源、信道、信源编码研究的核心问题。信源：产生消息和消息序列的源。
canxuezhang·2020-07-07 04:49

信息熵

直到1948年，香农提出了“信息熵”的概念，才解决了对信息的量化度量问题。信息熵这个词是C．E．香农从热力学中借用过来的。热力学中的热熵是表示分子状态混乱程度的物理量。
瀚元_0d0e·2020-07-07 01:24

香农密码理论汇总:熵理论

refbyhttps://www.wikiwand.com/zh-hans/熵_(信息论)信息和熵在信息论中，熵（英语：entropy）是接收的每条消息中包含的信息的平均量，又被称为信息熵、信源熵、平均自信息量。这里，“消息”代表来自分布或数据流中的事件、样本或特征。（熵最好理解为不确定性的量度而不是确定性的量度，因为越随机的信源的熵越大。）来自信源的另一个特征是样本的概率分布。这里的想法是，比较
I-Hsien·2020-07-06 23:06

从香农熵到手推KL散度：一文带你纵览机器学习中的信息论

信息论与信息熵是AI或机器学习中非常重要的概念，我们经常需要使用它的关键思想来描述概率分布或者量化概率分布之间的相似性。在本文中，我们从最基本的自信息和信息熵到交叉熵讨论了信息论的基础，再由最大似然估计推导出KL散度而加强我们对量化分布间相似性的理解。最后我们简要讨论了信息熵在机器学习中的应用，包括通过互信息选择决策树的特征、通过交叉熵衡量分类问题的损失和贝叶斯学习等。>>>>信息论是应用数学的一
算法与数学之美·2020-07-06 21:30

【620】【2.2信息交流的模式】

文章目录申农-维弗的通信模型拉斯韦尔的5W模式施拉姆模型维克利的S-C-R模式米哈依洛夫广义的科学交流系统模式正式交流非正式交流申农-维弗的通信模型信息论创始人香农与维弗在《通讯的数学理论》中，提出了著名的通讯模型
lambor20000216·2020-07-06 17:14

图解最大熵原理（The Maximum Entropy Principle）

这个“熵“并不是指热力学上熵的概念，而是由信息论男神克劳德·艾尔伍德·香农（ClaudeElwoodShannon）在1948年提出的“信息熵“，用来描述信息的不确定程度。
旧人赋荒年·2020-07-06 13:24

信息论，香农第二定理，信道编码和编码理论之间的桥梁

信息论->香农第二定理->极大似然译码->汉明最小码距->以线性代数、有限域、初等数论等为基础的信道编码理论。但是上述线索不都是等
wsnzou·2020-07-06 07:42

通信原理（2）—— 信道模型、特性、噪声（多径）、容量（香农公式）

一、信道概述1.信道：以传输媒质为基础的信号通道。分类狭义信道：根据传输媒质：有线（恒参信道）/无线（随参信道）。广义信道：调制信道/编码信道。信道的特性不同的传输媒质具有不同的属性，包括带宽、速率、距离、环境；适用场合不同。信道的影响信道噪声为有源干扰，加性干扰；信道本身特性不良为无源干扰，乘性干扰。2.电磁波的特性低频电磁波主要束缚在有形的导电体内传递；高频电磁波即可在空间也可在导电体内传播。
Sherry_wang168·2020-07-06 06:11

信息论与编码-python实现三种编码(香农编码,费诺编码,赫夫曼编码)

香农编码，费诺编码，赫夫曼编码（python实现）开始参考了网上其他人的代码，但后来都发现要么代码有错误，要么输出结果不符合自己的预期，于是就重新实现了一下，代码仍存在一些小问题，但是能够满足作业要求，
hangY0.0·2020-07-06 06:26

信息熵为什么要定义成-Σp*log(p)？

信息论之父克劳德·艾尔伍德·香农(ClaudeElwoodShannon)对信息量的定义如下：在解释这个公式之前，先看看下面的例子。
虫小宝·2020-07-06 06:51

c语言实现香农编码

1、设计思想为了设计的方便，我们需要在这个程序里设计一个结构体，以用来存储信源符号、信源符号概率等参数，将每一组参数看成一个结构体来看待，这样我们就可以随时地调用。2、设计流程主函数部分，我们先接收要输入的信源符号个数，再接收每个信源符号的名称以及他的概率。主函数设计好后，我们将各功能的函数分成几个模块来写，第一个是排序函数，如果你坚持从大到小输入则可以不用写；第二个函数计算前几个符号概率的累加；
姜亚轲·2020-07-06 03:33

信号与系统之（三）采样定律

以下是wiki对采样定理的描述：采样定理，又称香农采样定理，奈奎斯特采样定理，是信息论，特别是通讯与信号处理学科中的一个重要基本结论.E.T.Whittaker(1915年发表
weixin_34216036·2020-07-06 00:21

人工智能诞生的故事

群星闪耀达特茅斯会议，香农大神见证人工智能的诞生作者刘韩2017.2.271956年，人工智能元年。
春雨007·2020-07-05 21:50

理解奈奎斯特定理和香农定理

blog.ednchina.com/tengjingshu/179701/message.aspx―――――――――――――――――――――――――――――――――――――――奈奎斯特定理（Nyquist'sTheorem）和香农定理
weixin_30474613·2020-07-05 21:32

香农码，费诺码和霍夫曼码的编码方法与简单比较

香农码编码步骤：将信源符号的发生概率（降序）排序；计算各信源符号的自信息量；码长：自信息量向上取整；（保证是唯一可译码，且无失真编码）排序后的信源符号，计算累加概率（取左端点）；累加概率二进制话，取对应码长
BruderLung·2020-07-05 19:05

N-gram算法

我们先来看一个香农游戏（ShannonGame）：给定前n-1个词(或者字母)，预测下一个
枫叶dandan·2020-07-05 17:23

门 - 各种基础逻辑电路

香农发现了这个关系，转化的关系《继电器和开关电路的符号分析》；主要解决的问题是：使用布尔代数设计开关电路例子：简化布尔表达式，就可以对应的简化电路(MxNx(W+T))+(FxNx(1-W))+B转化为下面
龙龙马·2020-07-05 16:37
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他