香农信息论第4页

机器学习(第8章信息论模型)

komjay·2023-12-29 09:14

考研复习408计算机网络——物理层

LANGZHIZHEN·2023-12-28 22:40

什么才是重要？

在听了吴军老师讲的信息论之后，对于什么更重要我学到了另外一个角度的

鄢中堡·2023-12-28 14:58

广播电视概论要点

信息论的奠基人申农从通信理论的角度把信息定义为“对不确定性的消除”。

职场小白升级打怪·2023-12-28 08:52

【网络奇缘】——奈氏准则和香农定理从理论到实践一站式服务|计算机网络

计算机网络|数据结构与算法个人格言:"没有罗马,那就自己创造罗马~"目录失真-信号的变化影响信号失真的因素：编辑失真的一种现象：码间串扰奈氏准则：奈氏准则概念及使用条件:奈氏准则相关例题:奈氏准则的四条结论:香农定理

Aileen_0v0·2023-12-26 16:37

王道考研计算机网络——数据链路层

码元和信号变化是一一对应的低通：低于最高频率的可以通过奈氏准则无噪声，香农定理有噪声给出db，利用公式求出S/N放到数字信道上传输就是基带信号，放到模拟信道上传输就是宽带信号把基带信号调制成宽带信号之后

Tandy12356_·2023-12-26 08:11

1.1信息与信息的特征

我国信息论专家钟义信：信息是“失误运动的状态与方式”。二、信息的主要特征1.普遍性信息普遍存在于自然界和人类社会发展的始终。2.依附性一方面，所有的信息都必须依附于某种载体，但是，

梦紫霄·2023-12-26 07:26

️麦豆悦读英文绘本讲师训练营【第15期】---7/21--绘本赏析--《No Daivd》

151505曾小翠今天分享的绘本是《No,David》，这个故事是经典图书大卫系列中的一个（另外两个是大卫上学去和大卫惹麻烦），作者大卫-香农凭借这一绘本获得了凯迪克银奖，内容短小却蕴含哲理，字里行间充满了作者的人文关怀和灵光智慧

b5d08777fdee·2023-12-24 21:54

熵的哲学

1948年，香农提出了“信息熵”的概念，才解决了对信息的量化度量问题。信息熵这个词是C．E．香农从热力学中借用过来的。热力学中的热熵是表示分子状态混乱程度的物理量。

北邮师兄说·2023-12-24 08:58

量子密码学简介

量子密码学最著名的例子是量子密钥分发，而量子密钥分发提供了通信两方安全传递密钥的方法，且该方法的安全性可被信息论所证明。

代码改变世界ctw·2023-12-23 09:41

边界与平衡

人类文明伴随着人类迁徙产生，从现代智人走出非洲、大航海时代以及即将发生的大航天时代；人类也从演绎、归纳、类比的思维实践中依次形成了机械思维、系统思维、大数据思维；人类一步步认知迭代，加快了人类控制论、系统论、信息论的建立

zhang_402d·2023-12-23 08:32

PRML第一章读书小结

PRML第一章读书小结第一章用例子出发，较为简单的引入了概率论、模型、决策、损失、信息论的问题，作为机器学习从业者，读PRML除了巩固已有基础，还受到了很多新的启发，下面将我收到的启发总结如下。

飞剑客阿飞·2023-12-23 03:33

教你基于信息论检测自己的密码强度

前情大多数评估算法强度的工具都是基于密码的长度和所使用的字符集长度,通过加减分来判断密码的强度,而这种方法并不能很好地展现密码的不确定性,为此,我写了一个工具来解决这个问题声明此工具仅适合用于评估随机生成的密码面对暴力破解的强度,也就是说不考虑社会工程学等因素,建议与一些随机生成字符串的工具一起使用算法说明本工具的理论依据来自于以编码理论为中心的信息传输理论在密码学中的应用,根据经验,一个事件出现

ZehangZhu Studio·2023-12-22 18:56

机器学习与人工智能：一场革命性的变革

一场革命性的变革人工智能的概述什么是机器学习定义解释数据集结构机器学习应用场景人工智能的概述1956年8月，在美国汉诺斯小镇宁静的达特茅斯学院中，约翰·麦卡锡（JohnMcCarthy）、马文·闵斯基（MarvinMinsky，人工智能与认知学专家）、克劳德·香农

以山河作礼。·2023-12-22 12:11

你有你的计划世界另有计划之一个基于信息论的人生观

信息论是现代世界非常重要的一种概念。信息论并不仅仅是技术理论，更是一种具有普世价值的思想。了解了信息论，你就多了一种观察世界的眼光，甚至可以从信息论中推导出一种人生观来。

河南王凯凯·2023-12-21 21:36

如何进行本质思考：提升你的逻辑思维

@善用网文：读书提升认知，知识改变命运01“信息论之父”香农说：“你越能触及问题的本质，得到真知灼见的效率就越高。”

水滴识穿·2023-12-21 19:26

计算机网络核心内容整理

计算机网络分层结构2、计算机网络协议、接口、服务等概念3、IS0/OSl参考模型和TCP/IP模型二、物理层(一)通信基础1、信道、信号、带宽、码元、波特、速率、信源与信宿等基本概念2、奈奎斯特定理与香农定理

进击的雷神·2023-12-21 07:52

信息论安全与概率论

目录一.Markov不等式二.选择引理三.Chebyshev不等式四.Chernov上限4.1变量大于4.2变量小于信息论安全中会用到很多概率论相关的上界，本文章将梳理几个论文中常用的定理，重点关注如何理解这些定理以及怎么用

唠嗑！·2023-12-21 02:43

决策树原理及实现(Decision Tree)

在热力学中，熵被用于表示系统的混乱程度；而在信息论中，熵用于表示信息量的大小。在一个有

d518a9b6ae51·2023-12-20 21:38

联合基于信息论的安全和隐蔽通信的框架

这个标题很帅abstractintroductionsystemmodelPROPOSEDJOINTOPTIMIZATIONOFITSANDCOVERTTRANSMISSIONRATE信息论安全（ITS

快把我骂醒·2023-12-20 10:33

【深度学习】序列生成模型（四）：评价方法

困惑度是信息论中的一个概念，用来度量一个分布的不确定性。1.定义对于离散随机变量X∈XX\in\math

QomolangmaH·2023-12-20 07:18

深度学习中的KL散度

1KL散度概述KL散度（Kullback-LeiblerDivergence），也称为相对熵，是信息论中的一个概念，用于衡量两个概率分布间的差异。

智慧医疗探索者·2023-12-20 01:54

DeepCorr:利用深度学习进行Tor的流关联攻击

文章信息论文题目：DeepCorr:StrongFlowCorrelationAttacksonTorUsingDeepLearning期刊（会议）：Proceedingsofthe2018ACMSIGSACConferenceonComputerandCommunicationsSecurity

h0l10w·2023-12-20 00:59

自然语言处理之概率图模型--预备知识

概述本章将介绍一些概率论、图、信息论、马尔可夫等相关基础知识，这些知识点将会贯穿于概率图多个模型的讲解中，在相应模型篇章的开头，也会再次列出这些基础知识。

罗宇翔·2023-12-19 14:55

信息安全概论

信息安全是一门涉及计算机科学、网络技术、通信技术、密码技术、信息安全技术、应用数学、数论、信息论等多

魔都性能自动化AuricChan·2023-12-19 05:18

计算机基础知识

图灵英国人是计算机科学之父，人工智能之父，计算机最高奖——图灵奖冯诺依曼美籍匈牙利人，提出了“存储程序”控制原理（计算机由控制器，运算器，存储器，输入设备，输出设备五大部分组成），将二进制引入计算机，被人们称为计算机之父；香农信息论

Y木子李·2023-12-18 09:42

2.1.3奈氏准则和香农定理

image.pngimage.pngimage.pngimage.pngimage.pngimage.pngimage.pngimage.pngimage.png

蒟蒻不弱·2023-12-17 11:31

新闻传播学——信息论

信息论信息论是研究信息的学科，由香农提出。他提出了信息的概念，并和韦弗一起提出了“数学模式”。他认为信息是不确定性的减少与消除，即两次不确定之差。

哞哞学新传·2023-12-16 22:39

计算机网络快速刷题

自用//奈奎斯特定理和香农定理计算题参考博客：UDP协议是什么？作用是什么？

爱发明的小兴·2023-12-16 18:00

机器学习-KL散度的直观理解+代码

在信息论或概率论中，KL散度（Kullback–Leiblerdivergence），又称为相对熵（relativeentropy），是一种描述两个概率分布P和Q差异的一种方法。

头发没了还会再长·2023-12-16 14:11

Deep Supervised Dual Cycle Adversarial Network for Cross-Modal Retrieval 论文阅读笔记

#1.论文信息论文名称DeepSupervisedDualCycleAdversarialNetworkforCross-ModalRetrieval作者LeiLiao中山大学会议/出版社IEEETransactionsonCircuitsandSystemsforVideoTechnologypdf

wwweiyx·2023-12-16 06:10

clean-label backdoor attacks 论文笔记

#论文笔记#1.论文信息论文名称Clean-LabelBackdoorAttacks作者AlexanderTurner(MIT)会议/出版社ICLR2019pdf本地pdf在线pdf代码trojanzoo-clean-label

wwweiyx·2023-12-16 06:10

斯坦福Dan Boneh密码学——01 香农密码与完美安全

斯坦福DanBoneh密码学——01香农密码与完美安全#网安专硕，在导师推荐下，本周开始学习斯坦福大学DanBoneh教授的密码学教材，全英文900页，密码学真的太难入门了。。

Ataraxia8088·2023-12-16 00:44

斯坦福Dan Boneh密码学——02 计算密码与语义安全

围绕香农定理的唯一方法是放宽我们的安全要求。我们这样做的方式不是考虑所

Ataraxia8088·2023-12-16 00:44

《大卫，不可以》

图片发自App有三组小朋友扮演了霸王龙和小甲龙，昕烜小朋友向来很胆小，但他也积极地举手，上台表演[鼓掌][鼓掌][鼓掌]我们又一起分享了大卫.香农的《大卫，不可以》。这部绘本获得过凯迪克大奖。

云芳yunfang·2023-12-15 20:28

什么是信息量大（信息论）

信息说到底是用于降低或是消除不确定性的。如果讲的事情大部分大家都知道，信息量就很少。信息的价值如何衡量？一是信息的重要性很高，这个信息对你很重要，知道了就能帮你解决问题二是信息量大，你暂时不知道这些新信息有什么用，但是给你提供了一些新思路那什么是信息量大呢？对于一条信息，重要的是找出其中有多少信息量，要搞清楚“信息量”，就要对信息进行量化的度量，所以首先要引入一个对信息进行量化的量度单位“比特”“

疾飞·2023-12-15 18:56

计算机网络：物理层（奈氏准则和香农定理，含例题）

码元和带宽1、什么是码元2、数字通信系统数据传输速率的两种表示方法2.1、码元传输速率2.2、信息传输速率3、例题3.1、例题13.2、例题24、带宽二、奈氏准则（奈奎斯特定理）1、奈氏准则简介2、例题：三、香农定理

浩泽学编程·2023-12-15 12:09

2019-08-03

图片发自App【每日清单】964/1000次记录，20190803，雨【今天约定三件事（to-do）】1.[]上医院2.[]脚部休息3.[]信息论27（超时2天）【今天的小确幸】治疗【想说】低估了疼痛期间

伽蓝214·2023-12-15 10:01

科技的成就（二十）

149、继电器和开关电路的符号分析1938年3月，香农发表划时代论文。

zyhomepage·2023-12-15 06:13

湖科大计网：计算机网络概述

（具体吉大考试用什么待商榷）二、带宽在模拟信号系统中带宽的含义，本课程中用到的地方是：香农定理和奈奎斯特定理公式的应用之中。而在通信时所说的带宽都是最高数据率。

Yorelee.·2023-12-14 23:59

决策树 ID3 算法

ID3算法是以信息论为基础，以信息增益为衡量标准，从而实现对数据的归纳分类ID3算法计算每个属性的信息增益，并选取具有最高增益的属性作为给定的测试属性。

小小程序○·2023-12-06 15:53

2019-07-31

图片发自App【每日清单】961/1000次记录，20190731，台风【今天约定三件事（to-do）】1.[]订单查询2.[]副卡流程30%3.[]信息论21（倒计时2天）【今天的小确幸】台灯降温【想说

伽蓝214·2023-12-06 14:13

第一章：信息化和信息系统

信息（香农）：信息就是能够用来消除不确定性的东西。

哎呀毛爹·2023-12-06 05:02

计算机网络的性能指标

计算机网络的性能七个指标：速率当提到网络的速率时，往往指的是额定速率或标称速率，而并非网络实际上运行的速率比特是信息论中使用的信息量单位速率指的是数据的传送速率，它也称为数据率或比特率单位：k=10^3M

Ylovd_·2023-12-04 13:36

【论文源码解读】（中文拼写检查, CSC）SCOPE：Improving Chinese Spelling Check by Character Pronunciation Prediction

文章目录论文信息论文的贡献与思路模型架构EncoderCharProjectionCSCDecoderCSCTask损失函数L(c)L^{(c)}L(c)PronProjectionCPPDecoderCPPTask

iioSnail·2023-12-03 19:02

中文拼写纠错医疗领域数据集 MCSCSet: A Specialist-annotated Dataset for Medical-domain Chinese Spelling Correction

论文信息论文地址：https://arxiv.org/pdf/2210.11720.pdf（本笔记参考的版本）https://dl.acm.org/doi/pdf/10.1145/3511808.3557636