香农

关于奈氏准则和香农公式

对于带宽固定的信道，提高信息传输速率有两种方式：提高码元在信道中的传输速率；提高信噪比；我们以高速公路的例子来理解：码元相当于车辆，信道相当于公路，所有的汽车都在运输相同的货物（数据包），在公路的宽度确定的情况下，每排汽车的数量是不能改变的，要想提高货物的运输速度，我们可以增大汽车的行驶速度，也可以限制无关车辆（噪音）的加入。运输货物车辆和无关车辆的比值叫做信噪比。有了这样提高运输速率的办法，我们
彼岸天平·2020-08-19 07:19

Polar码

半个多世纪来，研究人员提出了多种纠错码技术（RS码、卷积码、Turbo码等），但这些编码方法都没有达到香农极限。（1）什么是polar
司徒合羽·2020-08-19 07:25

关于信息论中熵、相对熵、条件熵、互信息、典型集的一些思考

1.电子工程（通信理论）香农（shannon）证明了只要通信速率低于信道容量
weixin_30735391·2020-08-19 04:22

一个基于信息论的人生观

信息论、傅里叶变换和麦克斯韦方程组可以说是改变我世界观的三样东西，加上我研究方向是视频编码，对信息论的理解可能会更深入一些，香农信息论指导我们进行强大的信息编码，大大提高视频传输的稳定、高效和可靠性。
s1314_JHC·2020-08-19 03:24

信息论基础

信息论基础知识信息熵，条件熵，KL散度，三者关系信息增益，最大熵原理信息论信息论即香农信息论，是研究通信系统极限性能的理论。首要问题：对信息进行度量什么是信息？
万勇's Blog·2020-08-19 02:06

信道的极限容量——奈氏准则（公式）、信噪比、香农公式

限制码元在信道上的传输速率的因数有两个1、信道能够通过的频率范围2、信噪比1.1奈氏准则奈氏准则(无噪声情况下)：码元速率的极限值B与信道带宽W关系。理想状态下的最高码元传输速率为2WBaud注：Baud是波特，是码元传输速率的单位，1波特为每秒传送1个码元，单位是码元/秒。  W为信道带宽（Hz）。  码元传输速率：又称为码元速率或传码率。其定义为每秒钟传送码元的数目，单位为”波特”，常用符号”
Lin_SIT·2020-08-19 02:58

香农熵

偶然看到一篇介绍香农熵的文章，写得浅显易懂，翻译过来，与大家一起学习！
卡尔曼和玻尔兹曼谁曼·2020-08-19 01:50

小程序中的大道理

前言以下将用一个小程序来探讨一些大道理，这些大道理包括可扩展性，抽象与封装，可维护性，健壮性，团队合作，工具的利用，可测试性，自顶向下，分而治之，分层，可读性，模块化，松耦合，MVC，领域模型，甚至对称性，香农的信息论等等
weixin_34357962·2020-08-18 23:43

B5G、6G以及未来无线通信技术发展调研

B5G、6G以及未来无线通信技术发展调研通信技术简介B5G发展目标6G发展目标未来无线通信技术展望通信技术简介从1948年香农发表了《通信的数学原理》，七十年来，现代无线通信系统从无到有，使人们的生活发生了翻天覆地的变化
命运是你家·2020-08-18 21:56

数据处理中使用的各种熵

信息论起源于解决通信问题，标志性论著是香农的《通信的数学原理》。随着信息技术的发展，信息论思想不断用于机器学习和数据处理领域，解决数据分析问题。
hunauchenym·2020-08-18 15:35

【机器学习数据集的信息熵】信息熵及其Python计算实现

熵，定义为信息的期望值，是大名鼎鼎的香农提出来的概念。信息的定义：如果待分类的Xi，可能处于多个类别中，那么Xi的信息定义为：L（Xi)=-log2p(xi)，其中p(Xi)是处于该分类的概率为了计
NopDes1re·2020-08-18 12:11

信噪比/香农公式

香农公式：香农(Shannon)用信息论的理论推导出了带宽受限且有高斯白噪声干扰的信道的极限、无差错的信息传输速率。信道的极限信息传输速率C可表达为C=Wlog2(1+S/N)b
冷血痞子·2020-08-18 09:47

信噪比/香农公式

香农公式：香农(Shannon)用信息论的理论推导出了带宽受限且有高斯白噪声干扰的信道的极限、无差错的信息传输速率。信道的极限信息传输速率C可表达为C=Wlog2(1+S/N)b
姜希成·2020-08-18 07:53

trees 香农熵，信息增益计算

#计算香农熵frommathimportlog#条件1，条件2，结果，通过for循环取出每列的结果featVec[-1],然后计算结果所占用的数量labelCounts#然后就是香农熵的计算公式-sum
不再码农·2020-08-18 07:22

信息技术知识点汇总（必修）

目录第一章绪言第二章信息获取第三章信息加工与表达第四章信息资源管理第五章信息技术与社会选修第一章走进多媒体第二章计算机中图的世界第三章计算机中的声音世界第四章动画、视频与虚拟现实第五章多媒体技术应用第一章绪言一、信息1．信息的含义：理解信息的含义：(三种典型的观点)香农的观点
渴望飞的鱼·2020-08-18 01:29

Batch Nuclear-norm Maximization under Label Insufficient Situations梗概

常见的解决办法是最小化香农熵。但是这种办法会使得边界样本分类到样本数多的类别中，这样就使得分类的多样性降低。文章还提到了F范数与香农熵的单调性是相反的，因此也可以用最大化F范数来解决这个问题。
光明顶上的5G·2020-08-17 10:59

奈氏准则和香农公式

码元：在数字通信中常常用时间间隔相同的符号来表示一位二进制数字，这样的时间间隔内的信号称为二进制码元。而这个间隔被称为码元长度。1码元可以携带nbit的信息量。码元传输速率，又称为码元速率或传码率。其定义为每秒钟传送码元的数目，单位为"波特",常用符号"Baud"表示，简写为"B"。例题1：假定某信道受奈氏准则限制的最高码元速率为20000码元/秒。如果采用振幅调制，把码元的振幅划分为16个不同等
请你吃鸡蛋面·2020-08-17 04:25

机器学习之决策树

www.cnblogs.com/fionacai/p/5894142.html回归--平均问题分类--投票问题《优化》：（信息熵--混乱度）1）结合业务优先选择有限的主要特征，划分子表，减低决策树的高度；2）根据香农定理计算根据每一个特征划分子表前后的信
随风奔跑之水·2020-08-17 03:00

决策树分类原理

决策树分类的核心在于确定那一个特征的那一个特征值分类最有效，可能不同的场景，每个人采用的衡量方法也不一样，这里我们采用香农熵。
dianliao7817·2020-08-16 23:44

信息熵的另一解释方法

1948年香农提出信息熵的概念，并以概率为基础给出了相关的定理，从而奠定了信息论的基础。但是学习信息论的朋友们却很鲜知道信息熵的真实意义，以及信息熵在各种编码领域
wjlxueshu·2020-08-16 10:24

1.1 信息系统与信息化

1948年，美国科学家香农（ClaudeE.Shannon）发表的论文《通信的数学理论》作为现代信息论研究
行舟逐梦·2020-08-16 08:22

基于用户最近邻模型的协同过滤算法的Python代码实现

互信息是信息论的鼻祖香农老先生在研究通信理论时引入的，后来研究者发现互信息这个度量在研究两个变量之间的关系具有非常强的作用，在
CalumChambers·2020-08-16 07:12

系统规划与管理师 学习笔记 - （1）信息系统综合知识

信息论信息论中对信息的描述：信息是用来消除不确定性的东西（香农）信息是事先不知道的报道信息是事物普遍联系的方式信息的两个基本层次：本体论层次和认识论层次本体论信息：事物的运动状态和状态变化方式的自我表述
arno_wzkdhr·2020-08-16 04:33

语音识别-语言模型

发布于2017-04-27由AILEMON统计语言模型：从中文拼音到文本前言：自然语言是信息的载体，记录和传播着信息，信息论之父香农对信息的定义是“信息是用于消除随机不确定性的东西”。
Xwei1226·2020-08-15 22:58

开始接单了！SpaceX将于10月送商业宇航员去空间站

图：将乘坐SpaceX载人龙飞船进行首次商业载人航天任务的四名宇航员，从左至右分别是NASA宇航员香农·沃克、维克多·奥利弗和迈克·霍普金斯以及日本宇宙航空研究开发机构宇航员野口宗一网易科技讯8月15日消息
itwriter·2020-08-15 18:00

实用知识点梳理：网络传输介质、以太网、VLAN、HDLC、奈奎斯特定理与香农定理

网络传输介质以双绞线为传输介质的是：10BASE-T和100BASE-T；以同轴电缆为传输介质的是：10BASE5粗缆和10BASE2细缆。以太网以太网采用带冲突检测的载波帧听多路访问（CSMA/CD）机制。以太网中节点都可以看到在网络中发送的所有信息，因此，我们说以太网是一种广播网络。以太网的工作过程如下：当以太网中的一台主机要传输数据时，它将按如下步骤进行：监听信道上是否有信号在传输。如果有的
如化雨·2020-08-15 13:04

纪念机器翻译概念的诞生：重新认识瓦伦·韦弗先生

编者按：这篇文章来自智源青年科学家、中科院自动化所张家俊，主要内容是通过回顾“机器翻译”概念提出者瓦伦·韦弗的研究生涯，介绍了机器翻译诞生的来龙去脉，包括他和信息论提出者香农、控制论维纳等科学巨匠的交集
BAAIBeijing·2020-08-15 05:50

信息熵和冗余度

香农用信息熵的概念来描述信源的不确定度。
single6·2020-08-15 03:02

【计算机网络】物理层 : 基本概念 ( 概述 | 概念 | 机械特性 | 电气特性 | 功能特性 | 规程特性 )

文章目录一、物理层概述二、物理层基本概念三、物理层特性一、物理层概述物理层:通信基础奈氏准则香农公式(重点计算)编码调制传输介质物理层设备二、物理层基本概念"物理层"概念:各种计算机通过传输媒体连接,物理层负责解决在传输媒体上传输数据比特流
韩曙亮·2020-08-15 02:15

如何学好C语言，一个成功人士的心得！

URL:http://blog.csdn.net/yxnk/article/details/5976699/今天，我能够自称是一个混IT的人，并能以此谋生，将来大家能一次谋生，都要感谢两个人：克劳德.香农和约翰
walkersc·2020-08-14 20:08

交叉熵损失函数原理深层理解

要理解交叉熵，需要从信息量、熵、相对熵几个概念开始信息量信息奠基人香农认为“信息是用来消除随机不确定性的东西”
追逐AI的蜗牛·2020-08-14 18:32

《智能时代》吴军

后来学到概率论和信息论，我是有些反感的，觉得这是不确定的玄乎东西,没有数学依据，后来看到了概率的公理化定义和香农对信息的定义，才对概率论和信息论产生了敬畏。
涛歌依旧·2020-08-14 01:54

STM32环境搭建，建立工程及程序烧录

下载最新版的MDK安装包，进入MDK官网，点击download按钮跳转到下载界面，填入必要的信息：然后在页面下方点击提交按钮：如果填写的信息，符合要求，在本页面将会显示下载连接：点击下载MDK(可以看到香农这里的
草香农·2020-08-13 23:15

一些计算和学的皮毛python

信道长度/电磁波在信道上的传播速率总时延：发送+传播+处理+排队时延带宽积：传播时延*带宽极限数据传输率：Cmax=2wLog2M(M是码元状态数，w=f最大-f最小）信噪比=10Log10(S/N）香农公式
颜又舞·2020-08-13 18:44

KL divergence

|Q]=0不对称性：D(P||Q)≠D(Q||P)自信息：符合分布P的某一事件x出现，传达这条信息所需的最少信息长度为自信息，表达为熵：从分布P中随机抽选一个事件，传达这条信息所需的最优平均信息长度为香农熵
deye1979·2020-08-13 13:34

NISP一级考试复习2

密码学发展第一个阶段，是从古代到19世纪–古典密码第二个阶段，是从20世纪初到1949年–近代密码第三个阶段，是从C.E.Shannon（香农）
雪落牧歌·2020-08-12 17:38

使用Python构建决策树

集合信息的度量方式称为香农熵或者简称为熵。我们采用Python计算信息熵，创建名为trees.py的文件，此代码的功能是计算给定数据集的熵（D）。
jm199011·2020-08-12 11:33

自然语言中的重要概念——熵(Entropy)

一、背景熵是热力学中的一个重要的概念，最早是由香农(ClaudeShannon)将熵应用于信息的度量。
zhiyong_will·2020-08-11 21:42

[python函数学习]机器学习实战 - ID3决策树（1）

ID3决策树实现代码frommathimportlogimportoperator#计算香农熵defcalcShannonEnt(dataSet):numEntries=len(dataSet)labelCounts
Void_Pointer -·2020-08-11 10:46

100天搞定机器学习|Day55 最大熵模型

1948年，香农将熵的概念引申到信道通信的过程中，从而开创了”信息论“这门学科。香农用“信息熵”来描述随机变量的不确定程度，也即信息量的数学期望。关于信息熵、条件熵、联合熵、
机器学习算法与Python实战·2020-08-11 03:12

100天搞定机器学习|Day55 最大熵模型

1948年，香农将熵的概念引申到信道通信的过程中，从而开创了”信息论“这门学科。香农用“信息熵”来描述随机变量的不确定程度，也即信息量的数学期望。关于信息熵、条件熵、联合熵、
机器学习算法与Python实战·2020-08-11 03:12

浅谈区块链密码学

时间来到1949年，既香农用比特(bit)量化了信息之后，又重磅发表了《保密系统的通信理论》一文，开辟了用信息论来研究密码学的新思
雨落苏桥·2020-08-10 09:47

大话通信-通信基础知识 第二章 笔记

香农的“信息论”，把通信系统抽象成如下模型：发信--信源编码器--信道编码器--传输媒介--信道译码器--信源译码器--收信|噪声编码问题，可以归纳为“信息用什么格式传送到目的地”的问题的集合，包括信息论中的信源编码和信道编码过程
爱死寂寞人·2020-08-09 21:47

奈氏准则，香农定理

失真现实中的信道(带宽受限，有噪声，干扰)，导致一些信号发生问题影响失真的因素：码元传输速率（越快，失真越严重）信号传输距离（越远越严重）噪声干扰传输媒体质量失真的一种现象：码间串扰码间串扰：码元传播速率太快了，接收端收到的波形失去了码元之间清晰界限的形象为了解决码间串扰，产生了奈氏准则奈氏准则：在理想低通(无噪声，带宽受限)条件下，为了避免码间串扰，极限码元传输速率为2WBaud，w是信道带宽，
Thexin.·2020-08-09 21:58

基于条件熵的特征选择

本篇文章的主要内容就是相关代码，有关香农熵，条件熵的基础知识在网上能
爱吃甜品的小朋友·2020-08-09 16:00

信息和信息技术

信息和信息技术20世纪40年代，信息的奠基人香农（C.E.Shannon）给出了信息的明确定义，此后许多研究者从各自的研究领域出发，给出了不同的定义。
cxzhq2002·2020-08-09 07:50

机器学习算法之决策树

信息熵的概念源自物理热力学，在热力学中用熵表示分子状态的混乱程度，香农在信息论中用熵的来描述信息源的不确定度，可以通过以下公
agve9259·2020-08-09 07:01

信息熵计算权重

信息熵理论及应用1948年美国数学家香农（shanonc.E）为解决信息的度量问题提出了信息熵的概念。
Wake_me_Up123·2020-08-09 06:49

机器学习算法--（二）决策树--代码详解

决策树目录决策树1.计算香农熵：2.按照给定特征划分数据集3.寻找最好的数据集划分方式4.多数表决处理非唯一类别分组5.创建树6.绘制注解树节点7.获取叶节点的数目和树的层数8.绘制9.完整代码1.计算香农熵
掠过的一瞬间·2020-08-09 02:30

Java实现Shazam声音识别算法

1、AudioSystem获取音频奈奎斯特-香农采样定理告诉我们，为了能捕获人类能听到的声音频率，我们的采样速率必须是人类听觉范围的两倍。
llhhzz1989·2020-08-08 17:11
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他