Entropy

熵值法原理及python实现 附指标编制案例

在信息论中，使用熵(Entropy)来描述随机变量分布的不确定性。假设对随机变量X，
侯小啾·2023-02-03 07:38

《游戏力》速读

#树读二进制#0/禅熵：降低期望值（Zenentropy）1/心流：关键词脑暴（Flowstorm）D152（新的学习与觉察，累积素材）127/150《游戏力》劳伦斯·科恩全书字数:210千字速标时长：
青悦堂·2023-02-03 01:39

深度学习理解代码的技巧

如pytorch里softmax(x)+log(x)+nn.NLLLoss====>nn.CrossEntropyLoss。在模型架构方面:
AiA_AiA·2023-02-02 13:30

nn.CrossEntropyLoss() 中的参数 label_smoothing

1label_smoothing的原理LabelSmoothing也称之为标签平滑，其实是一种防止过拟合的正则化方法。传统的分类loss采用softmaxloss，先对全连接层的输出计算softmax，视为各类别的置信度概率，再利用交叉熵计算损失在这个过程中尽可能使得各样本在正确类别上的输出概率为1，这要使得对应的z值为+∞，这拉大了其与其他类别间的距离现在假设一个多分类任务标签是[1,0,0]，
怎样才能回到过去·2023-02-02 09:20

多分类问题的soft cross entropy 损失函数

在做多分类问题的时候，分类结果的损失函数经常使用交叉熵损失函数，对于预测结果，先经过softmax，然后经过log，然后再根据Onehot向量只取得其中的一个值作为损失函数的吸收值，比如，logsoftmax后的值为[-0.6,-0.12,-0.33,-0.334,-0.783]，假设onehotlabel为[0,0,0,0,1]，则损失函数的值为Loss=0.783,，也就是说，只有一个值纳入了
Tchunren·2023-02-02 09:01

多分类问题的交叉熵计算

多分类问题的交叉熵  在多分类问题中，损失函数（lossfunction）为交叉熵（crossentropy）损失函数。
山阴少年·2023-02-02 09:26

7 处理多维特征的输入

文章目录课程前提知识问题引入模型改进修改神经层的增加学习能力与超参数课本代码课程来源:链接课程文本来源借鉴：链接以及（强烈推荐）Birandaの课程前提知识BCELoss-BinaryCrossEntropyLossBCELoss
Micoreal·2023-02-02 09:23

pytorch学习笔记9-损失函数与反向传播

目录1.损失函数2.PyTorch中的损失函数2.1nn.L1Loss2.2nn.MSELoss2.3nn.CrossEntropyLoss3.将交叉熵损失函数用到上节的神经网络结构中4.优化器正文1.
ThreeS_tones·2023-02-01 19:25

卷积神经网络基本组成结构

1.深度学习三部曲step1：搭建神经网络结构（用于提取输入图像的特征）step2：找到一个合适的损失函数（如crossentropyloss，MSE，MAE）step3：找到一个合适的优化函数，更新参数
sweetboxwwy·2023-02-01 13:14

（草履虫级别的精讲）卷积神经网络的基本组成结构

空洞卷积二.池化层1.最大池化层2.平均池化层三.激活函数1.Sigmoid2.Tanh3.ReLU4.Leaky_ReLU5.Mish四.损失函数1.回归损失函数2.分类损失函数交叉熵损失函数(CrossEntropyLoss
住在代码的家·2023-02-01 13:42

Triplet Loss / Contrastive Loss / Focal Loss 的林林总总

TripletLoss（2）ContrastiveLoss（3）FocalLoss前两种主要用于MetricLearning（度量学习）任务中，而FocalLoss更多的是处理正负样本极其不均衡情况下的一种CrossEntropyLoss
陈煜嵘Yurong·2023-02-01 03:57

pytorch softmax_使用pytorch 训练是如何增加时间的

1、pytorch当使用CrossEntropyLoss的时候，再次使用softemaxshould-i-use-softmax-as-output-when-using-cross-entropy-loss-in-pytorchimporttorchfromtorchimportnninputs
weixin_39759918·2023-01-31 23:11

卷积神经网络（CNN）学习笔记 ——李宏毅

如果图片的大小不一致，先将所有图片rescale成大小一致的）输出：各种类别是我们设置的分类目标改向量的长度就是可以辨识多少种类别图片通过model后通过softmax输出y'我们希望y'与之间的crossentropy
有只小狗叫蛋卷er·2023-01-31 15:15

pytorch学习经验（五）手动实现交叉熵损失及Focal Loss

1.BinaryCrossEntropyLossBCELoss的计算公式很简单：BCE公式这里我们按照公式简单实现一下就可以：classBCELosswithLogits(nn.Module):def_
nowherespyfly·2023-01-31 03:49

【极化 SAR 图像分类】H-Alpha 平面绘制

样图实现"""S.R.CloudeandE.Pottier,"AnentropybasedclassificationschemeforlandapplicationsofpolarimetricSAR
jaredyam·2023-01-30 21:30

影像匹配代码，论文：Remote sensing image matching featured by the optimal entropy classification

影像匹配代码最近发表了一篇论文，现在将论文代码进行分享，希望对您的研究有帮助，禁止用于商业用途。欢迎各位前辈，同行使用本文算法进行对比、参考。如果有任何建议，问题、疑问，请联系我，我会尽快答复。预祝各位生活顺心，科研顺利！研究方向：阴影检测，影像匹配姓名：薛理邮箱：[email protected]论文题目：Remotesensingimagematchingfeaturedbytheoptima
飞舞的哈哈·2023-01-30 17:48

零基础机器学习做游戏辅助第四课--手写数字识别（二）

一、配置学习过程model.compile(optimizer='adam',loss='sparse_categorical_crossentropy',metrics=['acc'])参数：optimizer
kfyzjd2008·2023-01-30 15:45

Merkel Tree与反熵修复(Anti-entropy repair)

最近在阅读分布式系统的书籍，看到Cassandra、Dynamo等数据库都有使用MerkelTree进行反熵修复的内容，但书中并没有具体介绍反熵修复的概念，只是说明了其应用:Dynamo：检验数据是否同步，在弱一致性的分布式系统中实现最终一致性。Cassandra：比较所有副本的数据，将陈旧副本的数据更新为最新版本。其实归根到底，反熵修复都是为了在这些选择了A（可用性），P（分区容错性）而放弃C（
夕午wuw·2023-01-29 23:10

交叉熵损失函数公式_交叉熵损失函数 与 相对熵，交叉熵的前世今生

0.总结(本文目的是讨论理解一下相对熵(KL)与交叉熵(cross-entropy)的关系，以及相应的损失函数)熵的本质：信息量log(1/p)的期望的期望。
weixin_39801075·2023-01-29 13:31

为什么交叉熵损失函数可以用作逻辑回归的损失函数？

什么是熵（entropy）？熵是一种度量，可以用熵的大小度量信息的混乱程度，或者是信息的不确定性。熵越大，信息的不确定性越大。同样，熵也可以用来衡量变量的不确定性。
我对算法一无所知·2023-01-29 13:30

Lesson 4.2 逻辑回归参数估计：极大似然估计、相对熵与交叉熵损失函数

文章目录一、逻辑回归参数估计基本思路1.构建损失函数2.损失函数求解二、利用极大似然估计进行参数估计三、熵、相对熵与交叉熵1.熵（entropy）的基本概念与计算公式2.熵的基本性质3.相对熵（relativeentropy
虚心求知的熊·2023-01-29 13:28

Keras

(https://blog.csdn.net/zhangbaoanhadoop/article/details/82111056)2、Keras中的损失函数损失函数：categorical_crossentropy
无量儿·2023-01-29 12:32

论文中常见的脑电信号特征

论文中常见的脑电信号特征kurtosisvarianceShannon’sentropyrangeofamplitudePeak-to-peakamplitudestandarddeviationSkewnessrootmeansquare
youzi12345678·2023-01-28 17:34

脑电特征

1.renyientropyhttps://www.cnblogs.com/yifdu25/p/8279145.html2.关联维（CorrelationDimension）http://blog.sina.com.cn
慧132054308·2023-01-28 17:03

TypeError: forward() missing 1 required positional argument: ‘target‘

los=loss(np.array([output,label]))#获取损失函数loss=torch.nn.CrossEntropyLoss()#开始训练forepochinrange(args.num_epoch
m0_53342923·2023-01-28 14:37

RuntimeError: 1only batches of spatial targets supported (non-empty 3D tensors) but got targets of s

RuntimeError:1onlybatchesofspatialtargetssupported(3Dtensors)butgottargetsofsize::[1,640,959,3]损失函数nn.CrossEntropyLoss
weixin_57203027·2023-01-27 11:26

CDH entropy was available 问题解决

问题CDH集群，出现Entropy不良问题，原因是系统熵值低于CDH检测的阀值引起的,所以解决思路是需要调大系统熵值。
aaron_ouyang·2023-01-27 09:34

逻辑回归(Logistic Regression)知识点

文章目录1Logistic分布几率（odds）2逻辑回归模型2.1先验假设2.2似然函数与损失函数的推导3交叉熵损失(Cross-Entropyloss)3.1损失函数优化方法Sigmoid层反向传播Softmax
夢の船·2023-01-27 09:29

AIC BIC CIC DIC介绍

基础知识极大似然估计贝叶斯系数bayesfactor(Jeffreys1961;kass&Raftery1995)AIC简介(Akaike1974)由Kullback-LeiblerInformationEntropy
cxfun12·2023-01-27 08:42

信息熵的计算公式_知识卡片 信息熵

信息熵InformationEntropy信息论中的熵(entropy)信息熵log(1/p)的图像如下，是单调递减函数，不确定性越大，事件发生的概率越小。
weixin_39826984·2023-01-26 09:59

如何计算EEG信号的香农熵Shannon entropy（附Matlab程序）

《本文同步发布于“脑之说”微信公众号，欢迎搜索关注~~》香农熵Shannonentropy又称为信息熵，是信息论中的一个概念，但是其很早就被引入到脑电领域的研究中。
悦影科技·2023-01-26 09:59

matlab实现多尺度熵算法,MultiScaleEntropy

MultiScaleEntropy所属分类：matlab例程开发工具：matlab文件大小：6KB下载次数：35上传日期：2020-03-2300:37:42上传者：小雨伞99说明：实现多尺度熵的算法多尺度熵
MR.THOMO·2023-01-26 09:29

如何计算一个信号的多尺度熵 Multiscale Entropy MSE

如何计算一个信号的多尺度熵MultiscaleEntropy1、多尺度熵，是从样本熵演变过来的2、样本熵是基于近似熵(ApEn)的一种用于度量时间序列复杂性的改进方法；SampEnhastwoadvantagesoverApEn
fK0pS·2023-01-26 09:56

关于SiamRPN代码的一些要点

关于SiamRPN代码的一些要点1、Architecture2、GenerateAnchors3、Labels4、Losses4.1、CrossEntropyLoss4.2、L1Loss5、TrackPhase5.1
laizi_laizi·2023-01-25 12:11

Expected object of type torch.LongTensor but found type torch.FloatTensor pytorch问题

在使用CrossEntropyLoss时，常会出现如题的错误。
yjyn1·2023-01-25 09:35

【论文阅读笔记】对比学习与语义分割

ExploringCross-ImagePixelContrastforSemanticSegmentation》论文地址：https://arxiv.org/abs/2101.11939笔记部分：1、Pixel-WiseCross-EntropyLoss
安联之夜·2023-01-24 07:22

目标检测：Focal Loss

目标检测：FocalLoss前言FocalLossCrossEntropybalancedCrossEntropyFocalLossDefinition前言Focalloss这个idea来源于论文《FocalLossforDenseObjectDetection
HanZee·2023-01-23 08:44

无监督特征选择算法综述

InformationbasedmethodsSUD(SequentialbackwardselectionmethodforUnsupervisedData)基于距离相似度的熵值作为指标，进行相关性排序，选择特征SVD-Entropy
莫知我哀·2023-01-22 07:04

决策树应用

sklearn中自带的决策树分类器DecisionTreeClassifierimportsklearnclf=sklearn.tree.DecisionTreeClassifier(criterion='entropy
饭一口口吃·2023-01-22 07:32

深度学习【14】代价敏感损失函数

defclass_balanced_sigmoid_cross_entropy(logits,label,name='cross_entropy_loss'):"""Theclass-balancedcrossentropyloss
DCD_Lin·2023-01-21 13:16

pytorch下训练模型出现 target 8 is out of bounds

_nn.cross_entropy_loss(input,target,weight,_Reduction.get_enum(reduction),ignore_index,label_smoothing
游弋白桦林·2023-01-21 10:10

PyTorch (三): 常见的网络层

目录全连接层卷积层池化层最大池化层平均池化层全局平均池化层激活函数层Sigmoid层ReLU层Softmax层LogSoftmax层Dropout层BN层LSTM层损失函数层NLLLossCrossEntropyLoss
连理o·2023-01-19 18:13

【笔记二】飞浆-基于深度学习的自然语言处理

基于深度学习的自然语言处理词法分析概况词法分析技术词法分析技术及其应用词法分析概况词法分析技术词表换算到概率计算RNN可以保证序列标注的关联性序列标注的三个基本模型：（１）隐马尔可夫模型HMM（HiddenMarkovModel）（２）最大熵马尔可夫模型MEMM（MaximumEntropyMarkovModel
千千惠儿·2023-01-19 17:29

深度学习&PyTorch 之 DNN-多分类

数据集为例，因为这个与前面的流程完全一样，只有在模型定义时有些区别损失函数不一样二分类时用的损失函数是：loss_fn=nn.BCELoss()在多分类时需要使用：loss_fn=torch.nn.CrossEntropyLoss
Andy_shenzl·2023-01-19 16:50

从tf.math.log_softmax和tf.keras.losses.SparseCategoricalCrossentropy看softmax的上溢和下溢问题

什么是softmax的上溢和下溢问题从公式可以看出，对于电脑计算指数函数exp(x)时，如果x过于大，比如1000，则会变为inf，无穷大,这就是softmax的上溢问题；同样，如果x过于小，比如-1000，则exp(-1000)会直接收敛为0，当softmax的分母的每一项都是0时，就是对应的softmax的下溢问题。解决这个问题的方法就是利用softmax的冗余性。即，softmax(x-a)
会发paper的学渣·2023-01-19 13:22

tf.keras.losses下的SparseCategoricalCrossentropy和sparse_categorical_crossentropy区别

sparse_categorical_crossentropy:是一个函数，需要把正确和错误的结果以参数的形式填进去SparseCategoricalCrossentropy:是一个类，可以直接调用，通过调用激活一般使用
虽千万人 吾往矣·2023-01-19 13:22

【Tensorflow】【分类：损失函数】SparseCategoricalCrossentropy()和CategoricalCrossentropy()

tf.keras.losses.SparseCategoricalCrossentropy()与CategoricalCrossentropy()的区别：如果目标是one-hot编码，比如二分类【0,1
Jackilina_Stone·2023-01-19 13:22

tf.keras.losses.SparseCategoricalCrossentropy() 稀疏交叉熵 损失函数 示例

文章目录计算公式计算过程tf.keras.losses.SparseCategoricalCrossentropy实现numpy实现importnumpyasnpimporttensorflowastfy_true
夏华东的博客·2023-01-19 13:52

Module: tf.keras.losses 理解

损失函数理解BinaryCrossentropy参数解释CategoricalCrossentropy参数解释SparseCategoricalCrossentropy参数解释BinaryCrossentropytf.keras.losses.BinaryCrossentropy
xmu_rq·2023-01-19 13:52

tf.keras.losses.SparseCategoricalCrossentropy()与CategoricalCrossentropy()简单说明

tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False,reduction=losses_utils.ReductionV2.AUTO
github_元宝·2023-01-19 13:51
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他