余弦loss 第27页

公式trick备忘录

增大不同classfeature之间的距离用hingeloss相关，similaritylearning,svmhttps://www.youtube.com/watch?

seamanj·2023-10-18 10:08

常用的分类问题中的损失函数

前言在监督式机器学习中，无论是回归问题还是分类问题，都少不了使用损失函数（LossFunction）。**损失函数（LossFunction）**是用来估量模型的预测值f(x)与真实值y的不一致程度。

挪威的深林·2023-10-18 08:03

【论文阅读】Generalized Focal Loss的解读。交叉熵、Focal Loss、Quality Focal Loss、Distribution Focal Loss

论文链接：https://arxiv.org/pdf/2006.04388.pdf1Introduction已有方法中，单阶段密集检测器一般分为三个输出内容：检测框质量估计confidence：channel维度上占1；训练时正样本标签为当前grid_ceil对应的标签框和预测框的iouscore、或者centernessscore，负样本为0。检测框box：channel维度上占4；分别为xyw

magic_ll·2023-10-18 07:11

【yolov8系列】yolov8的目标检测、实例分割、关节点估计的原理解析

https://github.com/ultralytics/ultralytics2.1yolov8的特点采用了anchorfree方式，去除了先验设置可能不佳带来的影响借鉴GeneralizedFocalLoss

magic_ll·2023-10-18 07:32

yolov7改进优化之蒸馏（一）

对于提高检测器的性能，我们除了可以从增加数据、修改模型结构、修改loss等

CodingInCV·2023-10-18 03:11

【双塔模型DSSM】的原理与实现

文章目录简介1双塔模型的召回结构1.1样本准备1.2模型特征1.3模型loss1.4线上部署2双塔模型的粗排结构2.1样本准备2.2模型特征2.3模型loss2.4线上部署参考文章简介DSSM模型总的来说可以分成三层结构

HelloNettt·2023-10-17 20:08

机器学习算法 —— 1. K近邻算法

切比雪夫距离（ChebyshevDistance）2.4闵可夫斯基距离（MinkowskiDistance）2.5标准化的欧几里得距离（StandardizedEuclideanDistance）2.6余弦距离

雾岛LYC听风·2023-10-17 18:24

webrtc QOS方法二（FEC）

二、RedFEC参考：RED(REDundantcoding)-WebRTCGlossaryRFC2198-RTPPayloadforRedundantAudioData简单将老报文打包到新包上。

怕什么真理无穷·2023-10-17 17:54

ReID的各种Loss的pytorch实现

为了提高ReID的性能通常会采用softmaxloss联合TripletLoss和CenterLoss来提高算法的性能。

别致的SmallSix·2023-10-17 14:17

attention中为啥multi-head输出结果进行concat，得到x，x还要乘上一个WO矩阵？

，其实这里WO就是参数，我们是把提取的特征再乘以一个WO，然后得到的结果输出，然后与GT进行比较，算loss，然后反向梯度更新参数，这里的参数就包含WO，WO的存在就是为了更好的提取x特征，这样x乘以WO

写代码_不错哦·2023-10-17 12:22

使用PyTorch解决多分类问题：构建、训练和评估深度学习模型

处理步骤多分类问题MNISTdataset的实现NLLLoss和C

小馒头学python·2023-10-17 11:27

python中三角函数的表示

importmathx=math.radians(45)#将角度转换为弧度sin_value=math.sin(x)余弦函数（Cosine）：math.cos(x)，其中x是角度（以弧度表示）。

南抖北快东卫·2023-10-17 10:49

webrtc gcc算法(1)

Loss-BasedController在发送端负责基于丢包的拥塞控制，它的输入比较简单，只需要根据从接收端反馈的丢包率，就可以做带宽估算；上图右侧比较复杂，做的

980205·2023-10-17 08:50

单目图像3D检测内容说明

文章目录数据部分label部分calib部分yolo3DDeep3Dbox解决什么问题本文创新点核心思想目标MultiBinloss3D到2D影射的要求训练和损失姿态估计（求解T矩阵）推导过程上面整个转换过程的代码

yuyijie_1995·2023-10-17 05:20

Nonsense of love (48) --- drunk peach blossom -- n

Nonsenseoflove(48)---drunkpeachblossom--nonsenseoflove(48)---drunkpeachblossom:thespringbreezebringsaboutthedreamofleisureandtrouble.Whenwefindit

yue7306·2023-10-17 04:26

interview problems

SVM的关键在于它的HingeLoss以及maximummargin的想法，其实这个loss

AI-lala·2023-10-17 03:31

训练神经网络时train loss或是validation loss出现nan

trainingloss随着epoch增多不断下降，但是突然到某一个epoch出现loss为nan的情况，但是两三个epoch之后，loss竟然又恢复正常，而且下降了。

qq_41663215·2023-10-17 01:37

《PyTorch深度学习实践》刘二大人第3讲梯度下降算法

梯度下降算法importmatplotlib.pyplotaspltx_data=[1.0,2.0,3.0]y_data=[2.0,4.0,6.0]w=1.0defforward(x):returnw*xdefloss

Grairain·2023-10-17 00:01

PyTorch深度学习实践03——梯度下降算法

最小的权重组合的任务（即第二行式子所示）梯度下降（GD）、随机梯度下降（SGD），小批量随机梯度下降（mini-batch-SGD）梯度下降：用所有样本的平均损失来作为求偏导的依据随机梯度下降：用单个样本的loss

UnFledged·2023-10-17 00:00

PyTorch深度学习实践第三集梯度下降 y=wx

importrandomimportnumpyasnpimportmatplotlib.pyplotaspltx_data=[1.0,2.0,3.0]y_data=[2.0,4.0,6.0]defforward(x,w):y_p=w*xreturny_pdefloss

Newjet666·2023-10-17 00:28

解决错误：RuntimeError: result type Float can‘t be cast to the desired output type __int64

文章目录在使用yolov5训练自己的数据集时，运行train.py时出现上述问题解决方式：将loss.py中gain=torch.ones(7,device=targets.device)改为gain=

vsropy·2023-10-16 23:11

stable diffusion绘图（checkpoint：Hassaku， lora:blindbox）

openmouth,flower,outdoors,playingguitar,music,beret,holdingguitar,jacket,blush,tree,shirt,shorthair,cherryblossoms

徐同保·2023-10-16 20:05

2022李宏毅机器学习深度学习学习笔记第七周--局部最小点和鞍点

hehehe2022·2023-10-16 19:24

李宏毅机器学习笔记第7周_局部最小值与鞍点

TaylerSeriesApproximation三、Example总结一、OptimizationFailsbecause……1．问题：我们在做optimization的时候会发现，随着参数的不断更新，training的loss

MoxiMoses·2023-10-16 19:21

2022最新版-李宏毅机器学习深度学习课程-P13 局部最小值与鞍点

通过海瑟矩阵的性质可以转为判断H是否是正定的来判断H正定=所有特征值为正=局部最小值H负定=所有特征值为负=局部最大值有些特征值为正，有些为负=鞍点例子计算导数和海瑟矩阵的特征值如果遇到鞍点，可以通过特征值来判断减小LOSS

QwQllly·2023-10-16 19:16

机器学习（5）——代价函数误差分析

代价函数简介代价函数(CostFunction),通常也被称为损失函数(LossFunction)。

WarrenRyan·2023-10-16 18:29

2022最新版-李宏毅机器学习深度学习课程-P16 Loss可能影响网络训练失败&softmax与sigmoid

一、实例回顾分类的例子在前几讲中已详细分析，此处略过。二、softmax与sigmoid此处要明白！softmax和sigmoid的区别和联系Softmax函数和Sigmoid函数的区别与联系-知乎(zhihu.com)Sigmoid=多标签分类问题=多个正确答案=非独占输出（例如胸部X光检查、住院）。构建分类器，解决有多个正确答案的问题时，用Sigmoid函数分别处理各个原始输出值。Softma

QwQllly·2023-10-16 14:36

复杂环境下人形机器人自动导航项目复盘

AelosSmart零点设置MobXterm上通过ssh远程连接树莓派。1、上下开横杆横杆一开始是关闭的，横杆打开的那个瞬间，机器人以最快速度通过。

hongyuyahei·2023-10-16 11:33

聚类算法

我们手里没有标签聚类：相似的东西分到一组难点：如何评估，如何调参算法概述一、k-means算法基本概念：1.要得到簇的个数，需要指定k值2.质心：均值，即向量各纬取平均即可3.距离的度量：常用欧几里得距离和余弦相似度

鬼马星mc·2023-10-16 11:24

机器学习-无监督学习之聚类

Step2：计算样本点到各均值向量的距离，距离哪个最近就属于哪个簇Step3：重新计算中心点作为均值向量，重复第二步直到收敛常见距离曼哈顿距离（街区距离）欧氏距离切比雪夫距离（棋盘距离）闵氏距离（结合前三种）余弦相似度适用场景

小蒋的技术栈记录·2023-10-16 10:45

483 五彩斑斓齐争艳

图片发自AppThemerryflavorspillsgoingthroughtheairwhenyousniffbesidetheblossomsbutyoucannotclarifywhichitgeneratesfrom.Splendidcolorsstriveforthemarvelousquality.Theworldisenormousandendlessforyoutoexplore

梅花之子·2023-10-16 09:47

P34~36第八章相量法

8.3正弦量正弦和余弦没有实质的区别，正弦可以平移为余弦。下面我们用余弦表示正弦。用做功相等定义等效8.4相量法的基础正弦量不考虑W，其他东西就和复数对应起来了。思想：为了求它，不求它

高原低谷·2023-10-16 07:34

【深度学习】深度学习实验三——二维卷积实验、超参数对比分析（包括卷积层数、卷积核大小、batchsize、lr等）、经典模型AlexNet、空洞卷积实验、dilation、残差网络实验、退化、残差块

1.1二维卷积实验（1）手写二维卷积的实现，并在至少一个数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）（2）使用torch.nn实现二维卷积，并在至少一个数据集上进行实验

yuzhangfeng·2023-10-16 06:25

【深度学习】深度学习实验四——循环神经网络（RNN）、dataloader、长短期记忆网络（LSTM）、门控循环单元（GRU）、超参数对比

（3）从训练时间、预测精度、Loss变化等角度对比分析RNN、LSTM和

yuzhangfeng·2023-10-16 06:20

文献解读---Acquired cancer resistance to combination immunotherapy from transcriptional loss of class...

文献详解栏目每个人的时间精力有限，必须优先阅读相关文献，开设这个栏目也是希望为大家推荐高质量的单细胞相关文献。如果大家对单细胞转录组感兴趣可以关注一下，哪怕每天只学一点点，积土成山，积水成渊。当然一个人的力量终归是小的，我也希望汇聚一群人，形成一个场，这里头最重要的生产力不是单个人多聪明，多厉害，而是每个人相互作用，形成的那个氛围。希望大家能有所收获！文章信息这一篇是免疫相关，美国FredHutc

Seurat_Satija·2023-10-16 05:01

关于RNNoise、webrtc_ns、三角带通滤波器、对数能量

语音特征参数MFCC提取过程详解其中讲解了：三角带通滤波器、计算每个滤波器组输出的对数能量、对数能量、经离散余弦变换（DCT）得到MFCC系数推荐阅读某乎这位大佬的全部文章：下面是几篇出自这位大佬的很好的文章

hg2016·2023-10-16 04:02

深度前馈神经网络--Apple的学习笔记

一般都使用交叉熵求loss，原因是处理接近饱和的梯度比较费时间。反向传播(Backpropagation，缩写为BP)是”误差反向传播”的简称。用到了链式求导法则去更新权重参数。参考

applecai·2023-10-16 02:51

大模型-DeltaTuning-增量式03：Prompt-Tuning（连续型）（P-tuning v1）【只在输入层加入可训练参数层】

一、前言Bert时代，我们常做预训练模型微调（Fine-tuning），即根据不同下游任务，引入各种辅助任务loss和垂直领域数据，将其添加到预训练模型中，以便让模型更加适配下游任务的方式。

u013250861·2023-10-16 01:14

刘二大人 Advanced CNN with Pytorch代码实现

AdvancedCNN代码实现AdvancedCNN步骤PreparedatasetDesignmodelusingClassConstructlossandoptimizerTrainingcycle

carbage诶·2023-10-16 00:10

求直角三角形第三点的坐标

推导过程求直角三角形第三点的坐标1.原理已知内容有：P1、P2两点的坐标；dis1为P1与P2两点之间的距离；dis2为P2与P3两点之间的距离；求解：P3、P3‘的坐标；2.数学公式锐角三角函数定义:锐角角A的正弦(sin),余弦

Adunn·2023-10-15 23:19

【日更挑战】2022-02-17比赛日NOTES

比赛日，官网给出每场比赛的Notes（极个别场次没有），翻译如下Wild(3)vs.Jets(6)TwoofMinnesota'sthreelossesinitspast14gameshavebeentoWinnipeg

扁圆柱体·2023-10-15 22:24

2021-05-23 Appreciate the power of grief.

Theartoflosingisn'thardtomaster;somanythingsseemfilledwiththeintenttobelostthattheirlossisnodisaster.

军老师·2023-10-15 21:34

基础绘图，由实验结果画acc和loss图

画一条曲线：给x，y（一定要同维），labelplt.plot(epoches,train_loss,label='TrainLoss')plt.plot(epoches,val_loss,label=

Codiplay·2023-10-15 21:45

4.1 神经网络扩展

①自制数据集，解决本领域应用②数据增强，扩充数据集③断点续训，存取模型④参数提取，把参数存入文本⑤acc/loss可视化，查看训练效果⑥应用程序，给图识物数据增强image_gen_train=tf.keras.preprocessing.image.ImageDataGenerator

徐大徐·2023-10-15 20:05

EX[L(X； w)]的求解

D}}P(x)*L(x;w)EX[L(X;w)]=x∈D∑P(x)∗L(x;w)这里:EX[L(X;w)]\mathbb{E}_{X}[L(X;w)]EX[L(X;w)]表示期望损失(ExpectedLoss

Chen_Chance·2023-10-15 20:09

Annoy vs Milvus：哪个向量数据库更适合您的AI应用？知其然知其所以然

Annoy支持支持欧氏距离，曼哈顿距离，余弦距离，汉明距离或点(内)乘积距离等多种度量方式。Annoy是一个轻

汀、人工智能·2023-10-15 20:41

基于YOLOv5的车牌识别系统（YOLOv5+LPRNet）

输出端：GIOU_Loss。输入端(1)Mosaic数据增强输入端使用的

txz2035·2023-10-15 19:39

图像超分辨率【MMagic理论基础】

稀疏编码深度学习时代的超分辨率算法1.2基于卷积网络SRCNN和FSRCNN1.2.1SRCNN性能评价1.2.2FSRCNNFastSRCNN2016EnhancedSRGAN在训练时，同时优化三个损失MSELoss

chg0901·2023-10-15 17:37

NNDL:作业3：分别使用numpy和pytorch实现FNN例题

损失函数MSE用PyTorch自带函数t.nn.MSELoss()替代，观察、总结并陈述。损失函数MSE改变为交叉熵，观察、总结并陈述。改变步长，训练次数，观察、总结并陈述。权值w1-w8初始

今天也是元气满满的一天呢·2023-10-15 16:07

torch.nn.MarginRankingLoss文本排序

创建一个标准，用于测量给定输入x1、x2、两个1D小批量或0D张量以及标签1D小批量或0D张量y（包含1或-1）的损失。如果y=1，那么它假定第一个输入的排名应该比第二个输入更高（具有更大的值），反之y=-1=。小批量中每对样本的损失函数为：对于包含NNN个样本的batch数据D(x1,x2,y)D(x1,x2,y)D(x1,x2,y),x1x1x1,x2x2x2是给定的待排序的两个输入，yyy代

AI生成曾小健·2023-10-15 14:00

推荐频道

余弦loss