信息论

信息论基础知识1

1.1自信息定义：把某个消息出现的不确定性大小，用这个消息出现的概率的对数表示：I(X)=-logp(x)1.2在任何一个信息流通的系统中，都有一个发出信息的发送端（信源），有一个接收信息的接收端（新宿），以及信息流通的通道（信道）。在信息传递的过程中不可避免的会有噪声，所以有一个噪声源。为了把信源发出的消息变成适合在信道中传输的信号，还需加入编码器，在送到信宿之前要进行反变换，所以要加入译码器。
vv啊vv·2023-11-04 08:33

论文研读｜An Embarrassingly Simple Approach for Intellectual Property Rights Protection on RNNs

ModelPruning）抗微调攻击（Fine-Tuning）抗水印覆写攻击（Overwriting）抗伪造攻击（Anti-AmbiguityAttacl）隐蔽性迁移性CaseStudy方法评估相关文献论文信息论文名称
_Meilinger_·2023-11-04 02:22

信息论

今日无事：闲聊。。最赚钱的生意就是出售信息。无本还万利。高智商的人贩卖信息。中等人参考信息。平凡人享受信息。剩下的被动接受信息。然后随信息而动。
SYN郭·2023-11-03 01:08

IG-Net：一种用于地铁客流预测的交互图网络模型

文章信息论文题目为《IG-Net:AnInteractionGraphNetworkModelforMetroPassengerFlowForecasting》的一篇2023年4月发表在IEEETRANSACTIONSONINTELLIGENTTRANSPORTATIONSYSTEMS
当交通遇上机器学习·2023-11-02 09:12

适应还是不适应？语义分割的实时自适应方法

文章信息论文题目为《ToAdaptorNottoAdapt?
当交通遇上机器学习·2023-11-02 09:42

【兔子王赠书第4期】用ChatGPT轻松玩转机器学习与深度学习

机器学习所涉及的技术和算法主要包括统计学、概率论、最优化理论、信息论等。在未来的人工智能时代，机器学习将成为重要的基础技术
Want595·2023-10-31 18:42

2022-07-06

信息写作交流XXXX年X月X日一、信息的概念按照现代汉语词典的解释，“信息”是一个名词，它有两种基本含义：（1）音信，消息；（2）信息论中指用符号传送的报道，报道的内容是接收符号者预先不知道的。
龙满戏珠·2023-10-31 09:21

机器学习-特征选择：如何使用互信息特征选择挑选出最佳特征？

互信息是信息论中的一个概念，用于衡量两个随机变量之间的相互依赖程度。在特征选择中，互信息可以用来衡量特征与目标变量之间的相关性。通过计算特征与目标变量之间的互信息，我们可以得到每个特征对
笑不语·2023-10-30 02:36

计算机网络技术和信息安全的区别,信息安全是个什么样的专业？信息安全和网络安全有什么区别？...

信息安全专业所学的有信息安全、网络安全、操作系统安全、信息论与编码、计算机网络、接口与通讯技术、PKI原理与技术、计算机病毒及其防治技术、入侵检测技术、WEB技术与应用、安全协议导论、网络攻击与防御技术
Sinaean Dean·2023-10-27 20:04

阅读外文文献

关于深度学习算法主题的文献有很多，而分析深度学习算法的研究理论基础上是概率统计与信息论(Context)。这篇论文的假想是正当的，有根据的(Correct)。
DerrickLyh·2023-10-27 14:39

计算机信息安全技术

有关信息的定义有许多种，它们都从不同的侧面，不同的层次揭示了信息的特征与性质，但同时也都有各自的局限性，1988年我国信息论专家钟义信教授在信息科学原
HappyEnd美满结局·2023-10-26 21:02

matlab图像信息熵交叉熵,【机器学习】信息量，信息熵，交叉熵，KL散度和互信息（信息增益）...

这篇文章详细讲解了信息论中许多基本概念的前因后果，并且很是的直观用了大量的图片，和形象化的解释。
xh moon·2023-10-26 19:58

交叉熵函数和KL散度函数

它们通常用于概率分布的比较，尤其在信息论和机器学习领域中。交叉熵函数：交叉熵函数用来度量两个概率分布P和Q之间的相似性。
温柔的行子·2023-10-26 18:18

大学生学数学，不妨读《数学之美》这本书

统计方法、统计语言模型、中文信息处理、隐含马尔科夫模型、布尔代数、图论、网页排名技术、信息论、动态规划、余弦定理、矩阵运算、信息指纹、密码学、搜索技术、数学模型、最大熵模型、拼音输入法、贝叶斯网络、句法分析
令狐翀冲鸭·2023-10-26 17:30

时间复盘2019年7月

图表区复盘区个人成长本月算是对曾经未完成的学习任务做了个了断，《薛兆丰经济学讲义》、《科技史纲60讲》第一遍的阅读已完成，同时对《用生活常识就能看懂财务报表》进行了第二遍速读，开始了《信息论40讲》、《
不愿陷于盲·2023-10-25 08:39

常用损失函数loss（均方误差、交叉熵）

信息论1、信息量含义：越不可能发生（概率越小）的事件发生了，其信息量就越大。公式：表示：负对数函数。2、熵含义：所有信息量的期望。公式：不确定性越大熵越大。相对熵
卷不动的程序猿·2023-10-24 03:45

空中计算（Over-the-Air Computation）学习笔记

在这种情况下，信息论的结果表明，利用多址信道中的干扰进行计算，即空中计算(OAC)可以提供比分离通信和计
快把我骂醒·2023-10-23 05:59

UCAS - AI学院 - 自然语言处理专项课 - 第2讲 - 课程笔记

UCAS-AI学院-自然语言处理专项课-第2讲-课程笔记数学基础概率论基础信息论基础熵（Entropy）联合熵（JointEntropy）条件熵（ConditionalEntropy）熵率（EntropyRate
支锦铭·2023-10-23 01:32

综合评价---熵值法

一、基本原理在信息论中，熵是对不确定性的一种度量。信息量越大，不确定性就越小，该事件的发生概率也就更加明确，熵也就越小；信息量越小，不确定性越大，熵也越大。
DB_UP·2023-10-22 12:49

为何学明茨伯格? ——《管理者而非MBA》读书笔记

明茨伯格以丰富的例证、详实的信息论证了商科教育的不足，也提出自己
周江虹·2023-10-20 15:11

传统武术文化知识的盛宴（一）

运用最朴素最直观也是最有效的方法如阴阳、五行、八卦、九宫等法于自然修身修养功夫，运用系统论，方法论，信息论等方法，通过师友讲学练，切磋打磨，使受物欲蒙蔽的心恢复正常本然，存心养心，正已体察，求
日月耀九州·2023-10-20 12:50

关于创新的导出过程思考

3.社会科学：延伸出社会科学——网络科学、复杂性科学、信息论——信息工业体系。以信息业为代表的服务业在自然科学凝成体现代
演化增长·2023-10-19 15:30

论文阅读-可泛化深度伪造检测的关键

一、论文信息论文名称：LearningFeaturesofIntra-ConsistencyandInter-Diversity:KeysTowardGeneralizableDeepfakeDetection
完美屁桃·2023-10-19 04:59

论文阅读-FCD-Net: 学习检测多类型同源深度伪造人脸图像

一、论文信息论文题目：FCD-Net:LearningtoDetectMultipleTypesofHomologousDeepfakeFaceImages作者团队：RuidongHan,XiaofengWang
完美屁桃·2023-10-19 04:26

奇异码，非奇异码和唯一可译码和即时码的区别

奇异码（SingularCode）、非奇异码（Non-SingularCode）、唯一可译码（UniquelyDecodableCode）和即时码（InstantaneousCode）是信息论和编码理论中的概念
Chen_Chance·2023-10-17 19:52

贝叶斯网专题4：概率推理中的变量消元方法

文章目录第一部分：贝叶斯网基础[1.1信息论基础](https://blog.csdn.net/deepbodhi/article/details/119823055)[1.2贝叶斯网基本概念](https
吴智深·2023-10-16 22:49

数论基础（III）：新兴学科及前沿数学。

信息论、人工智能、元宇宙，则是当前学科发展的综合学科和前
luj_1768·2023-10-16 18:44

思维的提升：从点状思维到线状思维

按照信息论的观点，思维是对新输入信息与脑内储存知识经验进行一系列复杂的心智操作过程。思维也分点状思维与线状思维。
晨熹读书·2023-10-16 17:51

【转】将分数转换为二进制

备考信息论，在此记录一下将分数转换为二进制的方法（以1/3为例）我们转换整数部分用的是短除法,那么类似的,转换小数用的是乘法.其基本做法是,乘以2,不满1写0,满1写1并去掉积中的1,然后积再继续乘2.
Kitsuha·2023-10-16 12:55

残差层

从信息论的角度来看，由于DPI（数据处理不等式）的存在，在前向传输的过程中，随着层数的加深，特征图包含的图像信息会越来越少，而resnet的直接映射的加入，保证了
LuDon·2023-10-16 08:37

机器学习-有监督算法-决策树和支持向量机

建树方法：ID3，C4.5，CARTID3以信息论为基础，以信息增益为衡量标准熵越小，混乱程度越小，不确定性越小信息熵：H(D)=−∑i=1nP(Di)log⁡2P(Di)H(D)=-\sum_{i=1
小蒋的技术栈记录·2023-10-15 08:00

【笔记】【信息论与编码】第三章 离散信源

本文是笔者在学习《信息论与编码》课程中所做的笔记，供个人学习记忆使用。
__Witheart__·2023-10-14 05:17

吴军用信息论的观念讲透命运——这种置信度不高的信息

吴军在他的书《见识》一书中谈到了命运的作用，很多时候不得不承认命运是很难琢磨，很难把握，却又在关键时刻起关键作用的。一定不能去总结那些根本不存在的经验，或者用更科学的话讲，就是别相信置信度不高的信息。如果使用置信度不高的经验或者信息指导行动会有什么样的结果呢？这就如同一支军队，一直相信世界上有鬼，将精力都集中在寻找鬼以及思考对付鬼的方法上了，结果后面来了几个人，轻而易举地将这一大支军队都消灭了。大
高高_02c9·2023-10-13 05:44

印刷术：信息复制的革命

2.信息在传播过程中难免会有故意和无意的错误，也就是信息论中所说的噪音，这一点在古腾堡发明印刷术到路德宗教改革时作用特别明显。类似地，在中国，信息
A01琪公子·2023-10-12 19:48

论文研读｜Turning Your Weakness Into a Strength: Watermarking Deep Neural Networks by Backdooring

Functionality-Preserving）&有效性（Effectiveness）鲁棒性（Unremovability）抗微调攻击抗伪造攻击（OwnershipPiracy）抗迁移学习ImageNet方法评估相关文献论文信息论文名称
_Meilinger_·2023-10-12 02:44

论文研读｜Watermarking Deep Neural Networks for Embedded Systems

嵌入容量（Payload）假阳性（FalsePositiveRate）安全性（Security）篡改攻击（TamperingAttack）伪造攻击（GhostSignatureAttack）相关文献论文信息论文名称
_Meilinger_·2023-10-12 02:12

信息理论概念

姓名：张志文学号：19021210649【嵌牛观察】信息论是一个重要的领域，它对深度学习和人工智能作出了重大贡献，但很多人对它却并不了解。
张小文_f7d4·2023-10-11 03:57

【教育史话】向管理要质量

上世纪80年代初，学习《系统论》、《控制论》、《信息论》以后，思想上为之一震，有一种充电的感觉。就想在自己的工作实践中试一试。
宋正友·2023-10-10 15:53

I(X_1,X_2,X_3；Y)怎么理解

I(X1,X2,X3;Y)I(X_1,X_2,X_3;Y)I(X1,X2,X3;Y)表示在信息论中的互信息（mutualinformation），它用于衡量随机变量X1,X2,X3X_1,X_2,X_3X1
Chen_Chance·2023-10-09 21:25

信息论基础第三章阅读笔记

在信息论中，与大数定律类似的是渐进均分性(AEP)，它是弱大数定律的直接结果。
Chen_Chance·2023-10-09 21:43

论文研读｜Protecting Intellectual Property of Deep Neural Networks with Watermarking

Robustness）Anti-剪枝攻击（Pruning）Anti-微调攻击（Fine-tuning）安全性（Security）Anti-模型逆向攻击（ModelInversion）方法评估相关文献论文信息论文名称
_Meilinger_·2023-10-09 11:17

pytorch_神经网络构建2(数学原理)

文章目录深层神经网络多分类深层网络反向传播算法优化算法动量算法Adam算法深层神经网络分类基础理论:交叉熵是信息论中用来衡量两个分布相似性的一种量化方式之前讲述二分类的loss函数时我们使用公式-(y*
lidashent·2023-10-08 07:09

控制论、信息论与系统论

控制论、信息论和系统论从原理上讲是一个相互促进、彼此影响的整体，在近现代信息革命的进程中产生了举足轻重的影响。控制论强调的是在输入与输出之间建立细致联系的过程，核心是对误差处理的算法。
启航_FLY·2023-10-06 21:12

近日学习笔记

近日学习笔记1.K复杂度自学1.1信息论简介1.2K复杂度简介2.可视化自学2.1wiki可视化介绍科学可视化自学1.K复杂度自学这个K复杂度，就是算数型信息论中的一个知识点。
开土拓疆·2023-10-06 20:46

熵、优化置信度、全连接正确率、监督、1X1卷积核

熵信息论中的熵概念与公式：在信息论中，熵是衡量随机变量不确定性的度量。
盐巴饭团193·2023-10-06 19:59

计算机网络——计算机网络的性能指标（上）-速率、带宽、吞吐量、时延

目录速率比特速率例1带宽带宽在模拟信号系统中的意义带宽在计算机网络中的意义吞吐量时延发送时延传播时延处理时延例2例3速率了解速率之前，先详细了解一下比特：比特计算机中数据量的单位，也是信息论中信息量的单位
qiyi.sky·2023-10-06 08:09

信息论基础第二章部分习题

2.5证明若H(Y|X)=0，则Y是X的函数若H(Y∣X)=0H(Y|X)=0H(Y∣X)=0，意味着在已知XXX的条件下，YYY的不确定性为零，即给定XXX的值，我们完全确定了YYY的值。这表明YYY的取值完全由XXX决定，因此YYY是XXX的确定性函数。证明思路如下：假设H(Y∣X)=0H(Y|X)=0H(Y∣X)=0，即YYY在已知XXX的条件下没有不确定性。这意味着对于每个可能的xxx值，
Chen_Chance·2023-10-05 09:20

【355→思维模型】混沌理论

非线性科学发展的四个阶段1）控制论，信息论和一般系统论（40年代）2）自组织理论，超循环理论等（60年代）3）非线性科学，系统如何从有序->混沌和无序->更高层次的有序
Koala谦爸·2023-10-05 04:18

知识图谱如何让智能金融“变魔术”

IowaStateUniversity博士，研究领域包括神经网络、信息论、机器学习、逻辑与推理、语义网、自然语言处理等。三星S-Voice个人助手个核心设计者、语义网基础国际标准OWL2作者之一。
csdn_csdn__AI·2023-10-03 07:27

基于SpringBoot的知识管理系统

目录前言一、技术栈二、系统功能介绍用户管理文章分类资料分类文章信息论坛交流资料下载三、核心代码1、登录模块2、文件上传模块3、代码封装前言随着信息互联网信息的飞速发展，无纸化作业变成了一种趋势，针对这个问题开发一个专门适应师生作业交流形式的网站
不要满是遗憾的离开·2023-10-02 12:28
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他