香农

从香农信息量到KL散度

一、香农信息量1、定义假设我们听到了两件事，分别如下：事件A：巴西队进入了2018世界杯决赛圈。事件B：中国队进入了2018世界杯决赛圈。仅凭直觉来说，显而易见事件B的信息量比事件A的信息量要大。
Chilia Waterhouse·2021-01-02 22:46

kl散度度量分布_（十二）基于Jensen-Arimoto散度的医学图像配准【香农熵、互信息的优化】...

基于灰度的配准又分两种：一种为灰度的差异作为配准的标准（SAD、SSD：适合单模态的配准）一种为利用图像之间的概率作为相似性度量（信息论）---互信息（基于香农熵）J-A：香农熵的变种，因为香农熵并没有考虑两个独立随机变量的相互作用
中国人口福利基金会·2021-01-01 22:00

绘本讲师训练营《75》期20/21实践原创《大卫惹麻烦》

75002任红利绘本名称《大卫惹麻烦》总课时45分钟对象年龄3-7岁活动人数5人绘本简介《大卫惹麻烦》是2009年1月河北教育出版社出版的图书，作者是大卫·香农。
09c3ae5b2b91·2020-12-28 21:27

第二章 物理层

文章目录主要内容：2.1物理层概述2.1.1物理层基本概念2.1.2数据通信基础知识2.1.3码元、波特、速率、带宽2.1.4奈氏准则&香农定理2.1.5编码与调制（1）2.1.6编码与调制（2）2.2
穆_清·2020-12-23 16:51

python 图像刚性变换_（十）基于信息论的医学图像配准（传统）

香农首次对信息论建立了数学模型，现在，信息论已经渗透到图像处理中，本小结就是研究互信息在医学图像配准中的应用。
weixin_39936558·2020-12-19 03:31

MATLAB图像分割应用GUI设计与制作

章毓晋等人提出基于最大类间后验交叉熵的阈值化分割算法，从目标和背景的类间差异性出发，利用贝叶斯公式估计象素属于目标和背景两类区域的后验概率，再搜索这两类区域后验概率之间的最大交叉熵.这种方法结合了基于最小交叉熵以及基于传统香农
MATLAB粉粉·2020-11-30 18:02

《浪潮之巅——上册》读书笔记

AT&T研究室组->AT&T实验室->香农实验室2005AT&T被SBC公司收购2006朗讯公司被法国的阿尔卡特公司并购1877亚历山大.贝尔创立贝尔电话公司，1885年因业务原因创办AT&T子公司1984
琴之所期·2020-11-19 00:49

Polar SC的C语言实现之编码篇

Part1.PolarSC简介极化码（PolarCode）是一种前向错误更正的编码方式，作为目前唯一能被严格证明可以达到香农极限的方案，它被中国华为的5G方案主推，并在2016年的国际无线电标准化机构3GPP
JOHN-SS·2020-11-11 17:00

Oct.08 《信息简史》3-2：香农的信息论2

香农说，“信息是不确定性，是出人意料，是困难程度，是熵。”不确定性就譬如，你写了个字母，下一个字母是什么，这是无法确定的。
北京杜豆豆·2020-10-12 10:11

信息熵（香农熵）

应用：解决了对信息的量化度量问题，一条信息的信息量大小和它的不确定性有直接的关系。我们要搞清楚一件非常非常不确定的事，或是我们一无所知的事情，就需要了解大量的信息。相反，如果我们对某件事已经有了较多的了解，我们不需要太多的信息就能把它搞清楚。所以，从这个角度，我们可以认为，信息量的度量就等于不确定性的多少。原理：变量的不确定性越大，熵也就越大，把它搞清楚所需要的信息量也就越大。以世界杯赛为例，赛后
YunGo·2020-10-11 16:18

数字通信理论在空时编码估计中的应用

该技术能在不增加带宽的情况下成倍地提高通信系统的容量和频谱利用率，突破了香农容量的界限，使无线传输的容量达到有线传输的水平成为可能，成为下一代无线通信系统研究的热点问题之一。
fpga&matlab·2020-10-10 14:54

星星之火-9：详解信道特性与奈奎斯特定理和香农定理

奈奎斯特定理和香农定理，结论很简单，但理解起来有点费劲，特别是结论背后的原因，本文在不进行数学推导的情况下，对此进行详细的拆解。
文火冰糖的硅基工坊·2020-10-08 13:16

绘本讲师训练营【66期】14/21阅读原创绘本《大雨哗啦哗啦下》读后感

66015王春林《大雨哗啦哗啦下》作者是美国的大卫.香农，也是我最喜爱的作者之一。
绘活·2020-10-07 23:00

信息时代的生产力——算力——都在算些啥？

直到克劳德·香农的出现。他敏锐地意识到，开关电路与逻辑运算之间具有相似性，并在论文中展现了如何利用电子电路来实现逻辑运算。从此，计算的对象，不再只是纯粹的数字，它也可以计算逻辑。
果壳网·2020-09-25 00:00

NOIP2013提高组初赛

4、D，香农信息论鼻祖。5、A，一定是满二叉树时拥有2个字节点的节点数最多，最下一层会有2013-1023=9
z472421519·2020-09-17 14:26

如何培养孩子的责任感？

这位哈小豆就像大卫·香农绘本中的大卫回答的一样:我不是故意的！
lv张小帅·2020-09-17 11:41

计算机通信与网络香农定理

为信道的带宽（以Hz为单位）；S/N常用分贝形式表示，为信道内部的信噪功率比，其计算公式为：dB=10log10（信号功率P1/噪声功率P2）假设一信道带宽为4kHz，信道要达到24kb/s的速率，按香农公式
LaurenceLau4846·2020-09-17 07:49

计算机网络复习——Ch2物理层

Ch2物理层知识点1.物理层的功能：2.物理层协议的内容：3.常见通信术语及含义：4.傅立叶分析及物理含义（信号的分解）5.带宽：6.码元传输速率B和数据传输速率S的关系：7.奈氏准则8.香农公式：9.
chilemaworld·2020-09-16 22:03

计算机网络复习二（物理层）

2.奈氏准则3.香农公式4，码分复用二、要点总结一、基础知识信道的极限容量限制码元在信道上的传输速率的两个因素1.具体的信道所能通过的频率范围总是有限的。信号中的许多高频成分往往不能通过信道。
tednlvn·2020-09-16 22:42

ADC的欠采样应用和技术

这就是所谓的奈奎斯特-香农采样定理。然而，在通信系统以外，还有一些应用可以利用ADC欠采样来实现系统性能目标。逐次逼
北方爷们·2020-09-16 16:00

用人机对话系统设计逻辑探究人工智能产品经理

用人机对话系统设计逻辑探究人工智能产品经理1、人工智能概述在1956年的达特茅斯会议上，麦卡锡、明斯基、香农等科学家首次提出人工智能。
暴走的鹏鹏哥哥·2020-09-16 09:38

小白初学图像压缩算法（一）

方法香农的信息论，在不产生任何失真的前提下，通过合理的编码，对于每个信源符号分配不等长的码字，平均码长可以任意接近于信源的熵。含义将压缩
爱学习的人工智障·2020-09-16 05:59

奈氏准则和香农定理

奈氏准则指出，码元传输速率是受限的；香农定理则给出了信息传输速率的极限。也就是说，奈氏准则认为码元编码足够好，就不会限制信息传输速率。码元传输速率（波特率），是指传输码元的速率（废话）。
notmenotme·2020-09-15 20:02

香农定律和奈奎斯特准则

（1）信道容量与香农定理(ShannonTheroy)我们常常会遇到这样的问题：我的信道上到底可以传输多大的数据，或者指定的信道上的极限传输率是多少。这就是信道容量的问题。
weixin_34034670·2020-09-15 20:00

【Get深一度】香农定理（Shannon Theory）

香农定理给出了信道信息传送速率的上限（比特每秒）和信道信噪比及带宽的关系。香农定理可以解释现代各种无线制式由于带宽不同，所支持的单载波最大吞吐量的不同。
Treysure·2020-09-15 20:01

奈氏准则和香农公式

公式：理想低通信道下的极限数据传输率=2Wlog2V（b/s）香农定理（也称奈奎斯特定理）:在带宽受限且有噪声的信道中,为了不产生误差,信息的数据传输速率有
zzulikang·2020-09-15 20:55

奈奎斯特三大准则和香农定律

奈奎斯特第一准则1924年，奈奎斯特（Nyquist）就推导出在理想低通信道下的最高码元传输速率的公式：理想低通信道下的最高码元传输速率＝2WBaud其中W是理想低通信道的带宽，单位为赫兹；Baud是波特，即码元传输速率的单位，1波特为每秒传送1个码元。奈氏准则的另一种表达方法是：每赫兹带宽的理想低通信道的最高码元传输速率是每秒2个码元。若码元的传输速率超过了奈氏准则所给出的数值，则将出现码元之间
Barry_Zeng·2020-09-15 19:45

信道的极限容量——奈氏准则、奈圭斯特公式、信噪比、香农公式

信道的极限容量——奈氏准则、奈圭斯特公式、信噪比、香农公式1.限制码元在信道上的传输速率的因数有两个1.1信道能够通过的频率范围具体的信道所能通过的频率范围总是有限的。
Cainv89·2020-09-15 19:06

计算机网络(四)-奈氏准则和香农公式

一.奈氏准则1.失真1.1在现实中信道，受到带宽限制，噪声，干扰等的影响，使信号失真。1.2影响失真程度的因素：码元传输速率信号传输距离噪声干扰传输媒体质量1.3失真的一种现象------码间串扰1)对于低频信号，由于在通过信道时，基本衰减掉了，因此不能通过。而对于高频信号，由于信号振动频率过快，导致在信道接收端无法区分信号的高低(码间串扰)，界限不清楚，因此也不能通过。2)信道带宽：即能通过信道
TxyITxs·2020-09-15 19:27

奈氏准则 && 香农公式 && 信噪比

奈氏准则：理想状态下的最高码元传输速率为2wBaud.理想带通信道的最高码元传输速率为1wBaud.香农公式：信道的
杨鑫newlfe·2020-09-15 19:37

奈氏准则和香浓公式

香农公式表明信道的带宽或信道中的信噪比越大，则
6维·2020-09-15 19:38

奈氏准则和香农公式

在物理层的数据通信中，有著名的奈氏准则。奈奎斯特(Nyquist)推导出在理想低通信道下的最高码元传输速率的公式:理想低通信道的最高码元传输速率=2WBaud这里W是理想低通信道的带宽,单位为赫(Hz);Baud是波特,是码元传输速率的单位,1波特为每秒传送1个码元.上式就是著名的奈氏准则.奈氏准则的另一种表达方法是:每赫带宽的理想低通信道的最高码元传输速率是每秒2个码元。“低通”即指低频通过，“
离弦流浪·2020-09-15 18:33

奈奎斯特–香农采样定理

奈奎斯特–香农采样定理——摘选自维基百科在数字信号处理领域，采样定理是连续信号（通常称作“模拟信号”）与离散信号（通常称作“数字信号”）之间的一个基本桥梁。
rolling_ball·2020-09-15 06:19

绘本讲师训练营【64期】13/21实践原创《大卫惹麻烦》

64023朱李成文/图：［美］大卫·香农翻译：余治莹河北出版传媒集团适合0-8岁大卫圈粉无数的感觉每次拿大卫的书，小朋友都说喜欢，哈哈……我自己也爱上了呢！真的十分有趣。看吧！
8309eea4397f·2020-09-15 00:15

百度AI照亮数亿人的生活

作者丨张静波华商韬略原创文章，转载请联系客服微信：hstlkf华商韬略·华商名人堂ID：hstl8888图片：网络、图虫创意1956年夏天，香农、明斯基等一批计算机天才，齐聚达特茅斯，幻想有一天，用人工智能改变世界
华商韬略·2020-09-15 00:00

机器学习基础（五十八）—— 香农熵、相对熵（KL散度）与交叉熵

1.香农熵（Shannonentropy）信息熵（又叫香农熵）反映了一个系统的无序化（有序化）程度，一个系统越有序，信息熵就越低，反之就越高。
Inside_Zhang·2020-09-14 19:54

决策树

blog.csdn.net/jiaoyangwm/article/details/79525237https://blog.csdn.net/chichoxian/article/details/52017815目录1、香农熵
BusyMonkey·2020-09-14 08:34

python实现香农熵计算

#!/usr/bin/envpython#encoding:utf-8"""@author:wanwei@license:(C)Copyright2013-2017,NodeSupplyChainManagerCorporationLimited.@contact:[email protected]@software:pycharm@file:shangnon.py@time:2019/4/414:0
我心依依旧·2020-09-14 01:52

信息量与信息熵

信息量信息奠基人香农（Shannon）认为“信息是用来消除随机不确定性的东西”。也就是说衡量信息量大小就看这个信息消除不确定性的程度。“太阳从东方升起了”这条信息没有减少不确定性。
zhengudaoer·2020-09-13 17:24

计算字符串的信息熵（香农熵）

输入:输入任意一串字符样例输入:aaaabbcd输出:计算出字符串的信息熵样例输出:1.75信息熵的计算公式为：某一事件出现的概率乘以它的对数形式的结果的负数就是该时间的信息熵，把一个集合里面的所有的事件的信息熵都加起来就行了，就可以得到了总的信息熵了，明白了这一点就很容易做这道题目了，因为计算量很小，所以代码几乎就是直接写出来的没有做一点性能上的优化，不过结果AC了，应该是输入的数据量规模也是不
白玉杰·2020-09-13 16:34

决策树（中篇）

预备知识1948年信息论之父克劳德·艾尔伍德·香农从热力学中借用“熵1
帅帅de三叔·2020-09-13 14:40

理解信息熵

1.直观理解题外话香农（信息论创始人）认为，比特是测量信息的单位，本质上，信息和长度、重量这些物理单位一样，是一种可以测量和规范的东西。
休漠·2020-09-13 13:42

深入浅出通信原理MIMO合集

傅立叶级数展开、旋转向量、三维频谱、IQ调制、数字调制等一系列通信原理知识连载503SISO是常规的单输入单输出系统SIMO是单输入多输出系统，采用接收分集技术MIMO是多输入多输出系统连载504-505香农定理
weixin_30765319·2020-09-13 13:02

中兴笔试

②信号处理：傅里叶变换、香农、编码、路由等等③求极限，等价无穷小，求概率，概率分布，求微分，平稳、各阶遍历④数据结构
steelhe·2020-09-12 20:29

交叉熵函数理解

熵熵的本质是香农信息量的期望。交叉熵交叉熵刻
hr_net·2020-09-12 20:57

奈奎斯特定理和香农定理解析

奈奎斯特定理（Nyquist'sTheorem）和香农定理（Shannon'sTheorem）是网络传输中的两个基本定理。
liujc_love·2020-09-12 17:26

软考网络管理员学习笔记2之第二章数据通信基础

第二章、数据通信基础1.奈奎斯特定理与香农理论【考法分析】奈奎斯特定理是理想情况下，求数据速率香农理论是在受到噪声干扰后，求数据速率【要点分析】看题目中是否提及到噪声或信噪比等关键词如果提到噪声或信噪比
鹿鸣天涯·2020-09-12 15:00

香农的信息论

之前只知道香农于1948年发表的那篇举世瞩目的paper，《AMathematicalTheoryofCommunication》，过了一年拉上WarrenWeaver作为共同作者出了个单行本，标题只改了一个字
weixin_30247307·2020-09-12 11:46

技术前沿与经典文章10：信息论之父香农，20世纪伟大的科学家，一个理论改变了一个时代

1948年，香农发表了一篇英文名为《AMathematicalTheoryofCommunication》的论文，翻译过来就是《通信的一个数学原理》，这篇论文引起了巨大的轰动。
snmplink·2020-09-12 11:40

为什么说香农信息论是通信技术的理论基础

1948年香农在BellSystemTechnicalJournal上发表了《AMathematicalTheoryofCommunication》。论文由香农和威沃共同署名。
Kevin_6603·2020-09-12 11:52
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他