交叉熵求导

链式法则 理解应用

链式法则是微积分中的求导法则，用于求一个复合函数的导数，是在微积分的求导运算中一种常用的方法。复合函数的导数将是构成复合这有限个函数在相应点的导数的乘积，就像锁链一样一环套一环，故称链式法则。
Guapifang·2023-07-16 12:49

Autograd：自动求导

Autograd：自动求导PyTorch中，所有神经网络的核心是autograd包。先简单介绍一下这个包，然后训练我们的第一个的神经网络。autograd包为张量上的所有操作提供了自动求导机制。
yanglamei1962·2023-07-16 11:07

PyTorch从入门到实践 | (1) PyTorch快速入门

目录1.Tensor2.自动求导：Autograd3.神经网络4.总结1.TensorTensor是PyTorch中重要的数据结构，可认为是一个高维数组。它可以是一个数（标量）、一维数组（向量）、
CoreJT·2023-07-16 08:57

JS实现Excel表格数据的导出

实现(Vue2,3都可以实现)首先需要2个JS文件，文章下方会给出，或者这俩个js搜一下应该都有的页面2个按钮data数据JS如下先点击模拟发送请求，再导出数据结果如下实现多层结构导出，完整代码模拟发请求导出
冬天不会冷lz·2023-07-16 06:53

OpenCvSharp函数：Sobel边缘检测、Scharr边缘检测、GetDerivKernels获取图像导数的滤波系数

当核的大小ksize不为1时，用ksizeXksize的可分离核求导；为1时，用3X1或1X3的核（不进行高斯平滑）只对一阶或二阶的x轴或y同求导。
图南堂·2023-07-16 04:13

从零实现深度学习框架——带Attentiond的Seq2seq机器翻译

引言本着“凡我不能创造的，我就不能理解”的思想，本系列文章会基于纯Python以及NumPy从零创建自己的深度学习框架，该框架类似PyTorch能实现自动求导。
愤怒的可乐·2023-07-16 04:07

一元函数微分学中导数--定义--意义--基本公式--运算法则

目录导数的定义左导数和右导数导数的几何意义和物理意义几何意义导数的几何意义--切线的斜率物理意义导数的物理意义——瞬时速度基本初等函数导数公式基本初等函数常用基本初等函数导数公式导数求解的四则运算法则函数的求导法则复合函数求导法则导数的定义导数是描述一个函数在某一点上的变化率的概念
我还可以熬_·2023-07-16 03:13

检测到错误页面web应用服务器版本信息泄露

详细描述Web服务器未能正确处理异常请求导致Web服务器版本信息泄露，攻击者收集到服务器信息后可进行进一步针对性攻击。解决办法临时修复建议如下：1、关闭web服务器错误提示。
ITKEY_·2023-07-15 21:27

RetinaNet

内容提出FocalLoss：改进标准交叉熵损失，hardexamples对损失的贡献变大。RetinaNet：basedonaResNet-101-FPN
小松qxs·2023-07-15 20:49

《动手学深度学习》——多层感知机

ReLU的优势在于它的求导非常简单，要么让参数消失，要么让
MaTF_·2023-07-15 19:04

YOLOv3和YOLOv5的区别

OLOv3和YOLOv5都是基于YOLO系列的目标检测算法，它们有一些共同的特点，比如使用Darknet作为主干网络，使用锚框和多尺度特征图进行预测，使用交叉熵损失和均方误差损失进行优化等。
babyai997·2023-07-15 18:17

拟合算法

确定拟合曲线最小二乘法：用第二种定义，好求导。让真实值-拟合值的和最小上方argmin：即使函数最小时的参数k，b。函数分别对k和b求导=0，找极小值。
曦樂～·2023-07-15 16:59

【深度学习 | 计算机视觉】Focal Loss原理及其实践（含源代码）

参考文献：https://www.jianshu.com/p/437ce8ed0413文章目录一、导读二、FocalLoss原理三、实验对比3.1使用交叉熵损失函数3.2使用FocalLoss损失函数3.3
旅途中的宽~·2023-07-15 13:29

高等数学：三角函数。反三角函数

反三角函数：y=sinx的反函数x=arcsinyy=arcsinx跟据函数定义只取部分区间，且依然根据y=x翻折过来（作图）y=arcsinx图像：y=arccosxy=arctanx反三角函数求导：
社交达人波奇酱·2023-07-15 10:24

高数：不定积分

目录不定积分：积分表，求导表：不定积分性质：第一类换元积分法：第二类换元积分法：分部积分法：有理函数积分：不定积分：反求导已知f（x）=F'(x)F(x)为f（x）的一个原函数有原函数：连续对比：可导：
社交达人波奇酱·2023-07-15 10:24

PyTorch深度学习实战（4）——常用激活函数和损失函数详解

0.前言1.常用激活函数1.1Sigmoid激活函数1.2Tanh激活函数1.3ReLU激活函数1.4线性激活函数1.5Softmax激活函数2.常用损失函数2.1均方误差2.2平均绝对误差2.3分类交叉熵
盼小辉丶·2023-07-15 08:59

计算机视觉 - 理论 - 从卷积到识别

计算机视觉-理论入门前言一，导论：二，卷积：图像去噪：常值卷积：高斯卷积：椒盐去噪：锐化程度：三，边缘检测：图像信号导数：求导算子:图像梯度：提取边缘：canny算法：四，拟合：最小二乘法：y方向：全方向
starnight531·2023-07-15 01:41

python pytorch 纯算法实现前馈神经网络训练（数据集随机生成）

我下面这个代码还是很严谨的，从数据集生成，损失函数，网络结构、梯度求导，优化器等等组件都实现了。#coding=gbkimporttorchfromtorch.autogradim
Mr Gao·2023-07-14 21:22

深度学习疑难面经整理

3.为什么交叉熵损失函数要对概率加一个log？4.训练神经网络时，选择激活函数需要考虑什么？5.神经网络有哪些初始化方法？6.将网络参数全部初始化为0可以吗？
CVplayer111·2023-07-14 19:42

SGD原理及Pytorch实现

如果损失函数是一个凸函数，求得最小值还是比较简单的，直接求导就可以。但是复杂的深度学习网络一般是一个非凸函数，很难直接求导，所以优化算法就是在这种情况下用来最小化损失
白三点·2023-07-14 14:09

常用分类损失CE Loss、Focal Loss及GHMC Loss理解与总结

一、CELoss定义交叉熵损失（Cross-EntropyLoss，CELoss）能够衡量同一个随机变量中的两个不同概率分布的差异程度，当两个概率分布越接近时，交叉熵损失越小，表示模型预测结果越准确。
chen_zn95·2023-07-14 12:39

pytorch构建深度网络的基本概念——交叉熵

文章目录交叉熵什么是熵交叉熵举个例子交叉熵在上一篇讲梯度下降的文章中，那个例子提到了损失函数，那里用到的损失函数是均方误差，因为那个例子里的模型特别的简化。
新兴AI民工·2023-07-14 11:46

Android NativeCrypto: AppData::create pipe(2) failed: Too many open files崩溃

进行频繁操作网络请求一段时间程序卡死崩溃问题的一些经历记录一、bug复现：viewpager+FragmentStatePagerAdapter+fragment+MVP，不断滑动翻页并频繁进行网络请求导致卡死
__Yvan·2023-07-14 11:40

[迁移学习]域自适应代码解析

其损失函数为，即原来的交叉熵损失函数后面添加一个衡量源域和目标域之间距离的损
ViperL1·2023-07-14 10:53

【TensorFlow&PyTorch】loss损失计算

常用的loss计算方法有两种，一个是均方差，另一个是交叉熵。均方差差不多是万金油，什么都可以套一套，通常与sigmoid激活函数搭配使用。
折途·2023-07-14 09:08

明天微积分，不会啊

微分学包括求导数的运算，是一套关于变化率的理论。它使得函数、速度、加速度和曲线的斜率等均可用一套通用的符号进行讨论。积分学，包括求积分的运算，为定义和计算面积、体积等提供一套
Z_3996·2023-07-14 04:01

Cython 是什么？为什么会有 Cython？

1）因为某些需求导致不得不编写一些多重嵌套的循环，而这些循环如果用C语言来实现会快上百倍，但是不熟悉C或者不知道Python如何与C进行交互；2）因为Python解释器的性能原因，如果将CPython解释器换成
Python猫·2023-07-14 01:19

Focal Loss损失函数

目录前言交叉熵损失函数平衡交叉熵FocalLoss代码实现前言Focalloss是一个常用的解决类别不平衡问题的损失函数，由何恺明提出的（论文名称：FocalLossforDenseObjectDetection
ting♡·2023-07-13 22:21

图像分类-熵、KL散度和交叉熵之间的关系

文章目录维基百科的定义：熵：KL散度：交叉熵：发现与总结：Pytorch实践：注意运行结果：Reference:维基百科的定义：熵：KL散度：交叉熵：发现与总结：不难发现，假定给两个概率分布ppp，qqq
Ocodotial·2023-07-13 20:10

【视觉SLAM入门】2 旋转--李群与李代数

so(3)}so(3)和se(3)\mathscr{se(3)}se(3)2.3计算李代数的幂  exp(ϕ\;exp(\phiexp(ϕ^)))2.4李代数乘法2.5从李代数乘法到导数：2.5.1直接求导
终问鼎·2023-07-13 19:54

第一次有点点理解微积分

微分学包括求导数的运算，是一套关于变化率的理论。它使得函数、速度、加速度和曲线的斜率等均可用一套通用的符号进行讨论。积分学，包括求积
之余之余·2023-06-24 06:01

LR算法

取值空间为实数集；是预测为1的概率，则是预测为0的概率，概率的取值空间为[0,1]；令则损失函数的推导(MLE)则MLE：取log：最大化上面的式子，相当于最小化对上式取负号：即参数优化(梯度下降法)损失函数：对w求导
poteman·2023-06-24 02:24

数学分析理论基础17：参变量函数的导数

轴正向的夹角,若,则若在上都存在连续的导函数,且,则称C为光滑曲线,光滑曲线上不仅每一点都有切线,且切线与x轴正向的夹角是t的连续函数若有反函数,则它与构成复合函数此时只要函数可导,(),可由复合函数和反函数的求导法则极坐标若曲线
溺于恐·2023-06-23 16:44

yolov5超参数解释（hyp.scratch-low.yaml）

lr0lrfmomentumweight_decaywarmup_epochswarmup_momentumwarmup_bias_lrbox（目标框损失权重）cls（分类损失权重）cls_pw（分类损失的二元交叉熵损失中正样本的权重
帅帅帅.·2023-06-23 14:48

熵、KL散度和交叉熵

首先我们需要知道，所有的模型都可以看作是一个概率分布模型，包括人脑进行图像分类时也可以看作是一种完美的模型1、信息量如果学过通信应该知道香农定义了信息量的的概念，我们能够理解一件事情信息量很大或者很小，但是如何用数学去描述信息量具体是多大？很明显一件事情发生的概率越大其信息量越小。概率越小其信息量越大。比如太阳明天从东边升起，这是没有什么信息量的。但是太阳明天从西边升起，信息量就非常大。在生活中我
我是一个对称矩阵·2023-06-23 06:55

激活函数总结

简介因为神经网络是线性组合,激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中.好用的激活函数具有可求且方便求导,单调平滑.下面简单介绍一下常用的激活函数
hiyoung·2023-06-22 15:33

企业数字化转型的必经之路

数据驱动的核心是基于数据来思考新的模式创新而非简单的辅助业务优化，运营驱动也是同样的道理，运营是有明确的市场和需求导向的，而非简单的优化现
年少有为2025·2023-06-21 22:48

数字化转型-企业转型的必经之路

数据驱动的核心是基于数据来思考新的模式创新而非简单的辅助业务优化，运营驱动也是同样的道理，运营是有明确的市场和需求导向的，而非简单的优化现
年少有为2025·2023-06-21 22:18

Kullback-Leibler_divergence（KL散度、相对熵）

https://blog.csdn.net/zb1165048017/article/details/489371351前言注意两个名词的区别：相对熵：Kullback–Leiblerdivergence交叉熵
敲代码的quant·2023-06-21 18:07

KL（Kullback-Leibler）散度及其python实现

目的：描述两个概率分布P和Q之间的差异计算方法：用P拟合Q：P对Q的散度=交叉熵-P熵DKL(p∥q)=H(p,q)−H(p)=−∑xp(x)log⁡q(x)−∑x−p(x)log⁡p(x)=−∑xp(
不讲魔法讲道理·2023-06-21 18:07

积分电路解析

首先微分电路即为数学上的求导，即求斜率或变化率，而积分是微分的逆运算。积分电路通常用来将方波输入信号转化为三角波信号输出。
学生哥-_-·2023-06-21 18:13

高数基础6

目录导数与微分导数的定义式：导数的第二个定义式：左右导数区间内可导例题：例题2：微分微分的概念例题：导数的几何意义：切线方程与法线方程例题：连续可导可微之间的关系导数公式与求导法则：求导法则：导函数的奇偶数隐函数求导反函数导数参数方程求导法导数与微分导数的定义式
赵思凯·2023-06-21 16:58

交叉熵（Cross Entropy）损失函数

交叉熵（CrossEntropy）损失函数是一种常用的损失函数，广泛应用于分类问题中，尤其是二分类问题和多分类问题。
有梦想的咕噜·2023-06-21 09:08

张量的is_leaf参数和required_grad参数

1：required_grad=True表明要对这个张量求导，也就是求取这个张量的梯度grad2：is_leaf=True表示这个张量是叶子节点，此时，对其求导，他的导数会被保留，而对于is_leaf=
xx_xjm·2023-06-20 19:43

05 指数函数求导

2^x的求导前面我们探索了一些常见函数的导数，但是指数函数是非常重要的一种类型。1.从几何上探索设t为天数，P(t)为人口数量。离散的图要想图像连续就得转成质量，所以P(t)换成M(t)。
asdfghwunai·2023-06-20 14:54

Nginx -s reload失效

Nginxreload流程原因1、有些worker还在处理请求导致reload不成功旧的worker进程还在处理请求,有些第三方模块会导致旧的worker挂起，甚至出现僵尸进程2、一种是你的nginx太过繁忙
仇亚峰·2023-06-19 23:45

python3实现PAT乙级算法题库全集

4、成绩排名5、继续(3n+1)猜想6、换个格式输出整数7、素数对猜想8、数组元素循环右移问题9、说反话10、一元多项式求导11、A+B和C12、数字
洛阳山·2023-06-19 23:38

简要介绍 | 交叉熵损失：原理和研究现状

注1：本文系“简要介绍”系列之一，仅从概念上对交叉熵损失进行非常简要的介绍，不适合用于深入和详细的了解。
R.X. NLOS·2023-06-19 23:30

衡量两个概率分布之间的差异性的指标

衡量两个概率分布之间的差异性的指标衡量两个概率分布之间的差异性的指标衡量两个概率分布之间的差异性的指标KL散度（Kullback–Leiblerdivergence）JS散度（Jensen-Shannondivergence）交叉熵
wuling129·2023-06-19 22:39

YOLOv3

3、端到端训练，一个lossfunction（(x,y)、(w,h)、class、confidence四个损失相加，其中(w,h)用差方，其他用二值交叉熵）搞定训练，只需要关注输入/输出端。
Mr_Stark的小提莫·2023-06-19 19:32
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他