信息论

基于信息论的人生观

信息论是现代世界非常重要的一种理论。它并不仅仅是技术理论，更是一种具有普世价值的思想。了解了信息论，就多了一种观察世界的维度，甚至可以从信息论中推导出一种人生观。
纵横生长·2023-08-24 15:43

LLM-Rec:基于提示大语言模型的个性化推荐

1.基本信息论文题目:LLM-Rec:PersonalizedRecommendationviaPromptingLargeLanguageModels作者:HanjiaLyu,SongJiang,HanqingZeng
qq_41771998·2023-08-23 20:23

[信息论与编码] 03. 离散信源、信源熵、联合熵、条件熵

离散信源信源即信息发出的源头，在后续的信道模型中，信源发出的信息即视为信道输入的信息。根据信源发出信息的取值，可将信源分为离散信源和连续信源。顾名思义，离散信源即发出的信息取值为离散型的信源；连续信源即发出的信息取值为连续型的信源。离散信源中又根据符号出现的概率是否与前面符号有关分为：离散无记忆信源和离散有记忆信源。信息熵前面已经了解过了自信息的概念。自信息表示的是某个事件的不确定性。这是具体意义
明仔的阳光午后·2023-08-21 18:47

工控人看工业物联网——困境与突破

大学专业是通信工程，主要是学习模电数电、有线、无线通信的基本理论，信息论、信号编码处理等基础知识
huliang99·2023-08-20 10:31

论文阅读_时序聚类K-Shape

K-Shape高效且准确的时间序列的聚类方法基本信息论文题目：k-Shape:EfficientandAccurateClusteringofTimeSeries论文地址：https://dl.acm.org
xieyan0811·2023-08-19 00:33

2019-08-10

图片发自App【每日清单】971/1000次记录，20190810，多云本月要点：1.[]完成p2课程2.[]完成信息论3.[]学习广东话>选看TVB【今天约定三件事（to-do）】1.[]需求梳理2.
伽蓝214·2023-08-18 05:22

关于输入流的关闭

之前在《信息论与编码》这个课程的实验里写过生成Huffman编码的实验，那个时候用Scanner创建的in没有关闭（当时没有察觉我应该用close方法关闭），今天突然看到eclipse那个刺眼的警告图标
movisssb·2023-08-17 10:22

Segment Anything论文阅读笔记

SegmentAnything论文基本信息2.SegmentAnything论文阅读2.1第一遍阅读SegmentAnything2.2.第二遍阅读SegmentAnything1.SegmentAnything论文基本信息论文地址
落花逐流水·2023-08-17 05:02

ResNeXt

论文信息论文名称：AggregatedResidualTransformationsforDeepNeuralNetworks论文创新组卷积GroupConvolution参考文献https://blog.csdn.net
千禧皓月·2023-08-15 03:30

代数角度的不可压缩性

前作已经谈过用整系数多项式作为实数版图灵机的参照标准，在这基础上我们不妨考虑实数版的算法信息论。
十酒三·2023-08-15 00:39

python确定指标权重_吴裕雄 python 熵权法确定特征权重

标签：一、熵权法介绍熵最先由申农引入信息论，目前已经在工程技术、社会经济等领域得到了非常广泛的应用。熵权法的基本思路是根据各个特征和它对应的值的变异性的大小来确定客观权重。
黄子衿·2023-08-14 22:53

信息论、推理和机器学习算法之间交叉的经典例子

信息论、推理和机器学习算法之间交叉的经典例子:熵和信息增益在决策树学习中的应用。信息增益利用熵的概念来评估特征的分类能力,从而指导决策树的增长。交叉熵在神经网络训练中的广泛使用。
丁丁猫 Codeye·2023-08-14 21:17

基于信息论的人生观

我们每个人都希望度过值得回忆的一生，最好是值得记录的一生，值得记录，就是提供了有效信息。一个东西真正的信息量在于它克服了多大的不确定性，香农这个说法给我们提供了一种观察世界的眼光，有了这种眼光，你在看身边的很多东西，其实都没什么信息量。
天天向上的claire·2023-08-14 05:23

数字经济、创业活跃度与高质量发展（面板熵值法代码&数字经济测算原始数据）

熵值法是一种基于信息论的多指标综合评价方法。其基本的思路是：确定各指标的熵值，再根据熵值计算权重，“熵”用来测度信息的不确定性情况，熵越大意味着不确定性越大，于是信息量越小，进而权重越低。
T0620514·2023-08-12 22:14

信息论

信息论最近喜欢跟本学科没有太大关系的书。比如博弈论，才样才能取得长久的合作关系？什么是囚徒困境？虽然不是太懂，还是挺有意思。还有比如信息论。
金凤尾竹·2023-08-12 12:02

加速解锁科学智能前沿，昇思MindSpore铸就了一把“全能”钥匙

在物理、数学、工程学等的推动下，才有了蒸汽革命；电气革命，源于电磁学、化学等学科的进步；量子物理、信息论等科学成果，则为半导体、计算机等信息产业打下坚实的基础。
脑极体·2023-08-10 13:46

计算机网络 性能指标 非性能指标

速率就是发送数据的速度比特（bit）是计算机中数据量的单位，也是信息论中使用的信息量的单位。
富士康质检员张全蛋·2023-08-09 11:05

第一章 软件安全概述

1.1.1信息的定义信息论的创始人香农指出：信息是用来消除随机不定性的东西。信息（Information）是物质运动规律总和，信息不是物质，也不是能量。信息的重要特征：价值，即可用来消除不确定性。
777sea·2023-08-09 00:49

计算机网络-性能指标

性能指标简介速率比特速率带宽吞吐量时延时延计算时延带宽积往返时间网络利用率丢包率总结简介性能指标可以从不同的方面来度量计算机网络的性能常用的计算机网络的性能指标有以下8个速率带宽吞吐量时延时延带宽积往返时间利用率丢包率速率比特计算机中的数据量的单位，也是信息论中的信息量的单位
冰点契约丶·2023-08-07 08:05

计算机网络的八大性能指标，速率、带宽、吞吐量、时延、时延带宽积、往返时间、利用率、丢包率

吞吐量4.时延5.时延带宽积6.往返时间7.利用率8.丢包率计算机网络的性能指标：性能指标可以从不同的方面来度量计算机网络的性能，常用的计算机网络的性能指标有8个：前置概念比特计算机中的数据量的单位，也是信息论中信息量的单位
Hell_potato777·2023-08-06 23:31

信息论之从熵、惊奇到交叉熵、KL散度和互信息

一、熵（PRML）考虑将A地观测的一个随机变量x，编码后传输到B地。这个随机变量有8种可能的状态，每个状态都是等可能的。为了把x的值传给接收者，需要传输⼀个3⽐特的消息。注意，这个变量的熵由下式给出:⾮均匀分布⽐均匀分布的熵要⼩。如果概率分布非均匀，同样使用等长编码，那么并不是最优的。相反，可以根据随机变量服从的概率分布构建Huffman树，得到最优的前缀编码。可以利⽤⾮均匀分布这个特点，使⽤更短
woisking2·2023-08-06 10:30

综合｜教育心理学之历史发展1.2

50年代，程序教学和机器教学兴起，同时信息论的思
神隐的时光屋·2023-08-05 12:46

一文搞懂直方图均衡

直方图均衡定义根据维基百科上的定义,直方图均衡(HistogramEqualization)是图像处理领域中利用直方图对对比度进行调整的方法.顾名思义,直方图均衡是将直方图的分布(概率密度)调整为均匀分布.为什么要做直方图均衡根据信息论
yfor·2023-08-05 00:46

2019-07-02

图片发自App【每日清单】932/1000次记录，20190702，晴x5节日：生日/纪念日：【今天约定三件事（to-do）】1.[]文档改进2.[]13关-50%3.[]信息论11笔记【今天的小确幸】
伽蓝214·2023-08-02 05:25

信息论学习

自信息定义I(x)=−lognP(x)\color{red}I(x)=-log_{n}{P(x)}I(x)=−lognP(x)注意：若n=2，叫做bit若n=3，叫做tet若n=e，叫做nat若n=10，叫做hat熵离散定义：H(x)=Ex[I(x)]=−∑i=1n[P(xi)lognP(xi)]\color{blue}H(x)=E_x[I(x)]=-\sum^{n}_{i=1}[P(x_i)lo
satadriver·2023-07-31 20:06

《硅谷之谜》信息时代的方法论

控制论、信息论、系统论就是信息时代思想工具。吴军老师在《硅谷之谜》书中详细阐述了“新三论”对硅谷崛起的影响，正如机械思维推动了英国在工业革命的崛起，卓越的成功背后往往有更先进的方法论支持。
马骋·2023-07-30 08:08

信息定义引起的沟通方法论的思考

这是万维钢老师精英日课里的一个概念，他说是来自香农信息论的概念。如果你不知所云，恭喜你，你今天将会得到一个非常深刻的“洞见”。它将影响你一生。我们再思考一下这个定义：信息就是在备选答案中的选择。
小红母鸡·2023-07-29 12:55

天下无熵第一部：情熵之熵的源起

熵[shāng]统计物理与信息论术语本词条是多义词，共4个义项展开熵（拼音：shāng，希腊语：εντροπία(entropía)，英语：entropy）泛指某些物质系统状态的一种量度，某些物质系统状态可能出现的程度
贤一学缠书院·2023-07-28 08:02

《科技史纲60讲》学习笔记

写在前边吴军老师在得到又出新课了：《信息论40讲》。这一次又果断的决定要买，因为作为计算机相关专业的我来说，这是一门必修课。
辉说区块链·2023-07-27 11:45

任何时候开始都不晚

从自身出发，我们要讲一个有关“自我控制”的新学说，一个基于香农信息论的人生观和一个基于统计数
会飞的石头山·2023-07-27 04:41

读书笔记01：《吴军 数学通识50讲》

2019年我阅读过吴军博士的《浪潮之巅》第四版、《全球科技通史》、《信息论40讲》、《数学通识50讲》。我在公众号也多次推荐过他的书籍，比如《智能时代》《态度》《见识》等等。《数学通识50讲》是
飞蓬大将军·2023-07-26 16:02

论文中文翻译——kAFL Hardware-Assisted Feedback Fuzzing for OS Kernels

26thUSENIXSecuritySymposium论文中文翻译——kAFLHardware-AssistedFeedbackFuzzingforOSKernels文章目录本论文相关内容前言kAFL：操作系统内核的硬件辅助反馈Fuzzing作者信息论文来源主办方信息摘要
IronmanJay·2023-07-26 10:17

读数据压缩入门笔记11_读后总结与感想兼导读

读薄率18197÷300000≈6.07%1.2.读厚方向数据压缩导论码书：编码与解码的战争信息论与编码理论：剑桥大学真题精解1.3.笔记--章
躺柒·2023-07-26 07:05

深度学习中的概率与信息论

主要摘录一些深度学习过程中所需的概率与信息论知识不确定性的三种来源：1、被建模系统内在的随机性2、不完全观测3、不完全建模随机变量（randomvariable）、概率分布（probabilitydistribution
梅八哥·2023-07-26 01:34

鲸云效解读如何判断一个软件开发的技术人员的技术做的好

比如类似于信息论描述清楚了信息的数学定义和量化分析，并能推演压缩，纠错等算法可以达到的
优测云服务平台·2023-07-25 19:04

机器学习&&深度学习——softmax回归（下）

正专攻机器学习的保研er上期文章：机器学习&&深度学习——softmax回归（上）订阅专栏：机器学习&&深度学习希望文章对你们有所帮助softmax回归（下）损失函数对数似然softmax及其导数交叉熵损失信息论基础熵信息量重新审视交叉熵模型预测和评估以下的内容有些需要用到信息论基础
布布要成为最负责的男人·2023-07-25 18:33

视频笔记_所长林超跨学科工具箱

认知心理学重要模型学科08：社会网络学重要模型学科09：金融学重要模型学科10：心理学重要模型学科11：语言表达领域重要模型学科12：概率统计学重要模型学科13：社会经济学重要模型学科14：人类学重要模型学科15：信息论重要
Jeankyw·2023-07-25 12:37

信息与通信工程学科面试准备——信息论与编码｜保研推免面试题

2信息的性质3信息的分类4信息论与编码研究的主要内容(1)狭义信息论(2)一般信息论(3)广义信息论5信息论与编码的发展和应用6通信系统模型构成(1)信源(2)编码器信源编码/器和信道编码/器的区别通信系统的性质
alwaysuzybaiyy·2023-07-25 08:07

跨越科工具前16讲复盘（1-4）

前16节分别是：熵与热力原理、系统论、工程思维、函数模型、脑科学、复杂性科学、认知心理学、社会网络学、金融学、心理学模型、语言表达领域重要模型、概率统计学重要模型、社会经济学重要模型、人类学、信息论、营销学
泛君·2023-07-25 06:29

【人工智能】监督学习、分类问题、决策树、信息增益

决策树学习表达能力决策树学习信息论在决策树学习中的应用特征选择准则一：信息增益举例结论不足回到餐厅的例子从12个例子中学到的决策树：DecisionTrees决策树什么是决策树——基本概念非叶节点：一个属性上的测试
编程G的快乐·2023-07-24 17:14

【深度学习/机器学习】Softmax回归

文章目录信息量、信息熵、相对熵和交叉熵Softmax回归类别编码Softmax函数训练softmax模型的思路使用pytorch从零实现softmax模型直接调用pytorch的库进行简洁实现开始之前，需要了解信息论的一些基本概念
第五季度·2023-07-24 15:05

直观解读KL散度的数学概念

定义如下：img其中p(x)是目标分布，q(x)是去匹配的分布，如果两个分布完全匹配，那么imgKL散度又叫相对熵，在信息论中，描述的是q去拟合p的产品的信息损耗。
filterc·2023-07-24 15:30

学习深度学习--深度学习中的一些基本概念

在这过程中出现了数学、统计学、概率论、信息论、模式识别等等学科，用来解释自然的规律，在历史长河中也闪耀着巨匠的名字：香农，费雪，图灵……。机器学习和
java技术分享师·2023-07-24 00:31

图像质量评估

评估算法信息熵图像信息熵：从信息论的角度反映图像信息丰富程度。图像信息熵越大，信息量越丰富，质量越好。
Simplicity_·2023-07-22 06:38

说说网格交易的由来以及为什么说网格交易非常适合在震荡市场中获利

网格交易由来已久上世纪40年代的某一天，信息论之父申农在黑板上给大家演示：任何一个价位买进资金的50%，也就是说资金数量：股票市值=50%：50%，当股票价格上涨到一定幅度就卖出一部分股票，保持剩余的资金数量
光子AI量化·2023-07-20 06:42

姓名与人生诗趣谈系列一‖谢永勤（文）

从广义信息论的角度来说，各种符号都有其内在的含义，包含它所代表的实体。人的姓名除了代表这个人，是否还与这个人的人生及其性格、健康状况甚至命运有关呢？古代哲贤尹文子说过：形以定名；名以定事；事以选名。
winner永勤·2023-07-20 05:55

周报1_20230707

3.完成情况3.1信息熵简单介绍信息熵是信息论中的一个概念，用于衡量一个随机变量的不确定性或信息量的平均值。它是由香农于1948年提出的，被广泛应用于信息理论、统计学和通信领域。
Leeyz_1·2023-07-17 23:09

【172→认知】吴军信息论【1】

信息时代最大特征是不确定性信息论就是这半个世纪以来，人类对抗不确定性，最重要和有效的方法论。
Koala谦爸·2023-07-17 14:12

CancerGPT：使用大型预训练语言模型进行少样本药物配对协同作用预测

基础概念三、主要内容1.Motivations2.Insights3.解决方案的关键4.实验结果四、总结与讨论CSDN叶庭云：https://yetingyun.blog.csdn.net/一、论文关键信息论文标题
叶庭云·2023-07-17 05:40

动手学深度学习——softmax回归（原理解释+代码详解）

softmax回归1.1分类问题1.2网络架构1.3全连接层的参数开销1.4softmax运算1.5小批量样本的矢量化1.6损失函数1.6.1对数似然1.6.2softmax及其导数1.6.3交叉熵损失1.7信息论基础
緈福的街口·2023-07-16 22:29
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他