2022.6论文学习第3页

多模态论文学习之ALBEF（Align BEfore Fusing）

ALBEF泛读TitleLinksMotivationHowtosolveit?（Contribution）ModelExperimentsPre-trainingDatasetsDownstreamtasksAblationExperimentTitle《AlignbeforeFuse:VisionandLanguageRepresentationLearningwithMomentumDist

幸运的小菜鸟·2023-11-02 08:14

【论文学习笔记】VectorNet: Encoding HD Maps and Agent Dynamics from Vectorized Representation

VectorNet:编码高清地图和代理动态从矢量化表示文章来源：2020IEEE/CVFConferenceonComputerVisionandPatternRecognition(CVPR)作者：JiyangGao,ChenSun原文链接：VectorNet:EncodingHDMapsandAgentDynamicsFromVectorizedRepresentationieeexplore

技术宅学长·2023-11-02 07:10

论文学习：推荐系统中协同过滤算法研究

一.概要本文内容主要分为五章，第一章主要介绍了推荐系统中一些比较重要和关键的背景知识；第二章讨论了推荐系统的基本概念、基础理论，对主要算法进行了介绍分析，给出了对推荐系统进行评价的主要指标和使用的数据集；第三章介绍了一种基于评分差值相似度的协同过滤算法，详细阐述了用户评分差值相似度的原理以及计算方法，提高了算法的推荐精度；第四章详细分析稀疏性问题产生的原因、影响以及现有的解决方案，提出了一种矩阵填

python小白22·2023-10-30 05:50

Apache Calcite 论文学习笔记

特别声明：本文来源于掘金，“预留”发表的[ApacheCalcite论文学习笔记](https://juejin.im/post/5d2ed6a96fb9a07eea32a6ff)最近在关注大数据处理的技术和开源产品的实现

weixin_30323631·2023-10-27 16:18

Week29：复盘能治疗焦虑。

4.论文学习6天。5.21天爱上自己练习到4天。6.千聊上英子的微信公众号排版视

Amy宝宝·2023-10-27 12:06

DenseNet论文学习笔记

DenseNet论文学习笔记论文链接：DenselyConnectedConvolutionalNetworks图片来自论文受残差网络(ResNet)的启发，在较深的网络中使用shortcut来提高模型的准确率

shuyeah·2023-10-26 08:13

提高CV模型训练性能的 9 个技巧

导读本文主要想分享一些可能有助于提高计算机视觉任务模型训练速度和准确性的一般技巧或建议，这些建议是通过课程、阅读顶级文章或论文学习所得来的。

冷冻工厂·2023-10-26 07:13

论文学习笔记（三） SGPN: Similarity Group Proposal Network for 3D Point Cloud Instance Segmentation

『写在前面』无意间看到了《深度学习在点云分割中的应用》干货总结，原视频为SGPN原作者的技术分享，便搜来仔细研读一番~SGPN是首个使用原始点云作为输入的实例分割网络，本篇blog为方便自己回忆要点用，建议参照原版paper使用。欢迎各位指正纰漏。论文出处：CVPR2018作者机构：WeiyueWang等，UniversityofSouthernCalifornia原文链接：https://arx

Wilber529·2023-10-25 19:22

PointNet论文学习笔记

PointNet论文学习笔记目前二维深度学习取得了很大的进步并且应用范围越来越广，随着三维设备的发展，三维深度学习得到了很大的关注。

程序猿小泽·2023-10-25 19:15

FoLR:Focus on Local Regions for Query-based Object Detection论文学习笔记

论文地址：https://arxiv.org/abs/2310.06470自从DETR问询式检测器首次亮相以来，基于查询的方法在目标检测中引起了广泛关注。然而，这些方法面临着收敛速度慢和性能亚优等挑战。值得注意的是，在目标检测中，自注意力机制经常因其全局聚焦而妨碍了收敛。为了解决这些问题，作者提出了FoLR，一种仅包含解码器的类似Transformer的架构。作者通过隔离不相关目标之间的连接来增强

athrunsunny·2023-10-25 13:21

flash attention 2论文学习

flashattention作者TriDao发布了flashattention2，性能为flashattention的2倍。优化点主要如下：一、减少non-matmulFLOPsA00中由于tensorcore的存在，使得gpu对于浮点矩阵运算吞吐很高，如FP16/BF16可以达到312TFLOPs/s，而对于非矩阵乘的浮点运算吞吐较低，如FP32只有19.5TFLOPs/s。因此作者调整算法以减

KIDGINBROOK·2023-10-22 13:13

医疗图像配准论文学习——AMnet（2023）自适应多级配准网络（

论文原文链接前言本文提出一种自适应多级配准网络（AMNet），以保持变形场的连续性，实现三维脑MR图像的高性能配准。首先，设计一种具有自适应增长策略的轻量级配准网络，从多级小波子带中学习变形场，便于全局和局部优化，实现高性能配准;其次，我们的AMNet设计用于图像配准，根据一个区域的变形复杂程度调整其局部重要性，从而提高配准效率并保持变形场的连续性。keyword：Deformableregist

研究僧_GUO·2023-10-22 12:29

HWGQ-Deep Learning with Low Precision by Half-wave Gaussian Quantization论文学习

论文链接：https://openaccess.thecvf.com/content_cvpr_2017/html/Cai_Deep_Learning_With_CVPR_2017_paper.html摘要研究了深度神经网络激活的量化问题一直是研究热点。对流行的二值量子化方法的检验表明，它由一个经典的非线性，双曲切线：一个分段常数函数，用于前馈网络计算，以及一个分段线性硬阈值函数，用于网络学习过程

冰激凌很菜·2023-10-19 04:28

论文学习——FALL-E：GAUDIO FOLEY SYNTHESIS SYSTEM

文章目录引言正文AbstractIntroduction介绍问题FALL-E2.1Architexture结构2.2TrainingandInferenceDetails3EvaluationAndAnalysis测试和分析Conlusion总结引言这篇文章是DCASE中少有的，没有使用DIffusion的方法，可以学习一下。这篇文章的作者GAUDIO公司，也是提出这个比赛的参与者。正文Abstr

客院载论·2023-10-16 10:00

大模型 Dalle2 学习三部曲（三）Hierarchical Text-ConditionalImage Generation with CLIP Latents 论文学习

前言：今天我们来学习一下Dalle2论文上篇文章我们说latencydiffusion把图像和文本先压缩到隐空间再进行diffusion，大大提升了diffusion过程的效率，其实我们想想diffusion过程其实我们也完全没必要一直扩散到纯噪声再还原为图像，我们只需要扩散到适合我们生成图像的时候就可以。正所谓好钢用在刀刃上，效果好费时的扩散过程我们只要在关键位置使用就可以，即达到效果，又节省了

Pillars-Creation·2023-10-16 08:49

论文学习——Class-Conditioned Latent Diffusion Model For DCASE 2023

文章目录引言正文AbstractIntroductionSystemOverview2.1LatentDiffusionwithsound-class-basedconditioning以声音类别为条件的潜在扩散模型2.2VariationalAutoencoderandneuralvocoder变分自编码器和神经声码器FAD-orientedPostprocessingfilter（专门针对FA

客院载论·2023-10-15 12:24

图像分割论文学习小记录1——FastInst（CVPR23）

图像分割论文学习小记录1——FastInst（CVPR23）目录图像分割论文学习小记录1——FastInst（CVPR23）学习前言：什么是FastInst研究背景与意义研究意义贡献网络结构分析LightweightpixeldecoderInstanceactivation-guidedqueriesGroundtruthmask-guidedlearningLossfunction

。 7.·2023-10-13 05:13

2022.6月度检视

6月没有确立明确的目标，从健康，家庭，学习几方面都有点得过且过的，也在老家住院调理了身体，效果不明显，还摔了一跤，脚痛，肩膀痛，腰疼，哪哪都不舒服，希望后头回成都后身体好起来。易经️学习比以前用心些，争取这次中级班考过，身体健康最重要，好好检查身体了。把身体调养好就是最大的快乐。7月目标：达到135斤每周阅读一本书易经知识学会进入中级班

微笑溪水·2023-10-12 16:44

UniAD 论文学习

一、解决了什么问题？当前的自动驾驶方案大致由感知（检测、跟踪、建图）、预测（motion、occupancy）和规划三个模块构成。为了实现各种功能，智驾方案大致包括两种路线。一种是针对每个任务都部署一个模型，该范式能降低各团队间的研发困难度，但由于各个优化目标是孤立的，会引发模块之间信息丢失、错误累加和特征不对齐的问题。另一种是多任务的设计路线，多个任务heads共享一个特征提取器，该范式能节省边

calvinpaean·2023-10-09 16:52

Stable Diffusion：High-Resolution Image Synthesis with Latent Diffusion Models论文学习

https://github.com/CompVis/latent-diffusion1摘要前一篇Diffusion算法明显的缺点是耗费大量的时间、计算资源，为此，论文将其应用于强大的预训练自编码器的潜在空间，这是首次允许在复杂性降低和细节保存之间达到一个近乎最佳的点，极大地提高了视觉保真度。通过在模型架构中引入交叉注意层，将扩散模型转化为强大而灵活的生成器，用于一般条件输入，如文本或包围框，并以

south020·2023-10-04 22:38

SG Former论文学习笔记

超越SWin和CSWinTransformer的新模型代码地址：https://github.com/OliverRensu/SG-Former论文地址：https://arxiv.org/pdf/2308.12216.pdfViT在各种视觉任务中虽然成功，但它的计算成本随着Token序列长度的增加呈二次增长，这在处理大型特征图时大大限制了其性能。为了减轻计算成本，先前的研究依赖于要么限制在局部小

athrunsunny·2023-10-03 19:44

他们走过的路，是万里江山，满目烟尘｜感恩日记D268

早起学习教师资格复习，早饭完毕，教研室论文学习。今天做了走路冥想，感觉特别舒服，特别神奇。和感恩日记带给我的魔力一样，让我更加慢下来，享受被自己忽略的周遭。能让自己慢下来是种

Amy宝宝·2023-10-03 02:44

生活记录2022.6

从开始学习钢笔以来，前后大约买了30只左右钢笔[苦涩]（还好买的不贵的，不然要破产[敲打]）。一半的笔是坏了的（不是笔尖断了，坏了，就是破了漏墨了），一半的笔是不知道放哪里去了[抓狂]（晚上2只装笔袋，放学回来就只剩1只），钢笔配套的墨囊积累下来大约有几百个[抓狂]无聊时候就当积木搭[敲打]。临近期末，发现家里已经没得备用钢笔了，笔袋里也没钢笔了[抓狂][敲打]。周末只能用铅笔写作业了。于是教育一

米小读书·2023-10-01 21:47

[目标检测]——YOLO论文学习(v1)

论文提取链接：链接：https://pan.baidu.com/s/1LqNBgL9Va4puiDEljp9syg提取码：visfYOLO设计之初：就希望网络比较迅速，做到实时处理（你仅看一眼）——OneStage网络1、摘要和介绍：YOLO是做目标检测的，通过回归来做到这一点，即把一个端到端的网络设计成一个回归器2、UnifiedDetection：此节须知：需要知道的是YOLOV1版本想要预测

Star星屹程序设计·2023-10-01 01:02

ByteTrack 论文学习

1.解决了什么问题？多目标跟踪是在给定的视频片段中，预测出目标的边框和ID信息。现有方法需要在truepositives和falsepositives之间做取舍，将高于一定阈值的检测框关联起来，获取其ID。而那些低得分的目标（如被遮挡物体）会被舍弃，造成一些真实目标丢失、轨迹断断续续的问题。如下图，在t1t_1t1帧初始化了三个不同的tracklets，其得分高于0.50.50.5。但在t2t_2

calvinpaean·2023-09-30 19:27

FairMOT 论文学习

1.解决了什么问题？现有的多目标跟踪方案将目标检测和reID任务放在一个网络里面优化学习，计算效率高。目标检测首先在每一帧中检测出兴趣目标，要么将其与现有的轨迹关联起来，要么创建一个新的轨迹。这两个任务会相互竞争，现有的方法都将reID任务列为次优先级任务，而检测任务为主优先级，reID的准确率受检测影响很大，这对reID不公平。当场景中目标很多时，先检测再跟踪的方式无法取得实时的效果，因为这两个

calvinpaean·2023-09-30 18:18

论文学习：RT-DETR

RT-DETR摘要DETR取得显著性能，但高成本计算使其无法发挥无NMS的优势，无法实际应用。本文分析了NMS对准确性和速度的负面影响，并建立端到端的速度基准。第一个实时端到端检测器，高效处理多尺度特征，并提出IoU-awarequeryselection，向解码器提供了更高质量的初始objectqueries可以灵活调整解码器层数来调整推理速度，不需要重新训练。速度和精度都优于相同规模最先进的Y

Plusmile1·2023-09-30 16:54

【论文学习】Document-Level Relation Extraction with Adaptive Focal Loss and Knowledge Distillation

文章目录摘要1.导言2.方法论2.1问题制定2.2模型架构2.2.1特征表示学习实体表示context-enhanced实体表示实体对表示轴向注意力加强的实体对表示2.2.2适应性焦距损失(AdaptiveFocalLoss)2.2.3KnowledgeDistillationforDistantSupervisionNaiveAdaptation(NA)KnowledgeDistillation

Shackles Lay·2023-09-29 16:43

三维重建论文学习

开源的三维重建算法的介绍、比较和评估最近接触稠密重建，跑了几个开源框架，看了下重建的效果。想深入了解框架相关算法和效果比较。于是找到了这篇文章：OPEN-SOURCEIMAGE-BASED3DRECONSTRUCTIONPIPELINES:REVIEW,COMPARISONANDEVALUATION开源项目VisualSfM是最早使用一体GUI的开源工具，该工具由Wu等人开发，并整合了著名的PMV

unicorn_lyc·2023-09-28 04:46

Improved Baselines with Momentum Contrastive Learning 论文学习

1.解决了什么问题？最近的非监督表征学习关注在对比学习上。在检测和分割任务上，MoCo的非监督预训练表现优于在ImageNet监督预训练的表现；在线性分类表现上，SimCLR进一步缩小了非监督和监督预训练的差距。2.提出了什么方法？使用一个MLP映射head和数据增强方法，改进了MoCo。这两个方法与现有的MoCo和SimCLR框架是正交的，能提升MoCo在图像分类和目标检测上迁移学习的效果。此外

calvinpaean·2023-09-27 04:21

[论文学习]P-Tuning v2: Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and Task

[论文学习]P-TuningV2P-Tuningv2:PromptTuningCanBeComparabletoFine-tuningUniversallyAcrossScalesandTasksP-Tuningv2

simpsun·2023-09-26 23:44

Momentum Contrast for Unsupervised Visual Representation Learning 论文学习

1.解决了什么问题？非监督学习在自然语言处理非常成功，如GPT和BERT。但在计算机视觉任务上，监督预训练方法要领先于非监督的方法。这种差异可能是因为各自的信号空间不同，语言任务有着离散的信号空间（单词、短语等）来构建非监督学习所需的字典。而计算机视觉则很难构建一个字典，因为原始信号位于连续的高维空间，不像单词一样是结构化的。最近的非监督表征学习方法使用对比损失取得了不错的效果，它们基本是构建了一

calvinpaean·2023-09-26 23:27

StrongSORT 论文学习

1.解决了什么问题？现有的MOT方法大致可分为tracking-by-detection和joint-detection-association两种方式。尽管joint-detection-association获得了更多的关注度，取得了与前者相近的表现，作者认为在跟踪的准确率方面tracking-by-detection方式仍是最优的。Joint-detection-association将不同

calvinpaean·2023-09-25 14:50

Transformer论文学习

Transformer论文学习摘要*提出了一种新的简单的网络架构，Transformer，完全基于注意力机制，完全取消了递归和卷积。*具有更强的并行性，并且需要的训练时间明显更少。

NAND_LU·2023-09-25 02:43

【论文学习】行人检测——CVPR：通过MIMS在低分辨率图像中做行人检测

论文：PedestrianDetectioninLow-resolutionImagerybyLearningMulti-scaleIntrinsicMotionStructures(MIMS)通过学习多尺度固有运动结构，在低分辨率图像中做行人检测由于地面采样距离（GSD）低，图像帧速率低，检测距离大幅面广域图像距离的行人是一个具有挑战性的问题。在这种情况下，基于外观提示的方法主要失败，因为行人的

Lingyun_wu·2023-09-22 01:52

《On Sharing an FIB Table in Named Data Networking》论文学习

Abstract作为一种新的网络模式，命名数据网络（NDN）技术专注于内容，使用内容名称作为转发和路由的标识符，而不是当前Internet上的ip地址。NDN路由器通过查找转发信息库（FIB）转发数据包，FIB的每个条目都有一个名称前缀和输出端口。FIB应该具有转发任何内容的兴趣包的信息。因此，在NDN路由器中FIB的大小将非常大，并且用于构建FIB的流量将非常大。为了减少与建立FIB表相关的流量

甸仔向前冲·2023-09-20 12:38

Text-to-SQL小白入门（五）开源最强代码大模型Code Llama

论文概述上一篇介绍了指令进化大模型WizardLM，留了一个坑，补上CodeLlama论文学习，可以作为下游任务的基座模型，比如Text2SQL。

junewgl·2023-09-15 20:32

2022.6最新版MongoDB的下载安装教程

目录下载和安装下载：安装：检测安装完成效果将mongodb注册进入系统的服务结语下载和安装下载：官方下载地址：https://www.mongodb.com/try/download/community版本为社区免费版（community）选择zip的格式然后点击download即可安装：因为是下载的压缩包版本（绿色版本免安装过程）所以需要配置环境变量，所以找到你的解压路径，然后将bin的整个路径

阿，葱来了-C is coming·2023-09-14 21:16

IEC 61968 和 IEC 61850 量测模型的差异性分析（论文学习）

引言IEC61968与IEC61850融合问题的提出最初是因为基于IEC61850标准的变电站与基于IEC61970/IEC61968标准的控制中心之间存在大量的信息交互和共享（包括配置信息和实时测控信息等），但是由于标准间在信息模型、接口服务、通信协议上的差异导致信息无法对应或描述不一致，严重阻碍了信息集成的正常进行。其中，信息模型的差异是最关键的，也是导致变电站和控制中心间无缝通信障碍产生的根

肥羊汤·2023-09-12 12:20

PixelSNAIL论文代码学习（2）——门控残差网络的实现

文章目录引言正文门控残差网络介绍门控残差网络具体实现代码使用pytorch实现总结引言阅读了pixelSNAIL,很简短，就用了几页，介绍了网络结构，介绍了试验效果就没有了，具体论文学习链接这段时间看他的代码

客院载论·2023-09-05 11:29

PixelSNAIL论文代码学习（3）——自注意力机制的实现

模块实现注意力模块实现代码完整实现代码使用pytorch实现因果注意力模块causal_atttention模块问题总结引用引言阅读了pixelSNAIL,很简短，就用了几页，介绍了网络结构，介绍了试验效果就没有了，具体论文学习链接这段时间看他的代码

客院载论·2023-09-03 20:55

基础论文学习（6）——BeiT

BEiT是把BERT模型成功用在image领域的首创，也是一种自监督训练的形式，所以取名为视觉Transformer的BERT预训练模型。这个工作用一种巧妙的办法把BERT的训练思想成功用在了image任务中。BERT：Bidiractional(双向)EncoderRepresentationsfromTransformersSSL自监督学习：机器学习分为有监督学习，无监督学习和强化学习，Sel

Yuezero_·2023-09-03 01:53

ice-ba论文学习

最近百度开源了个slam系统ice-ba，测试发现性能强大，代码方面工程优化做了很多，总的来说前端使用了光流，后端正是论文提出上的增量式BA了。这个增量式的ice-BA主要分为三个部分，全局BA，局部BA以及relative-marg，前两者采用了增量式方法提升了后端速度，后者保证了local-BA和global-BA的一致性对精度有所贡献。GlobalBA论文最先提及的是他们先前已经在Robus

范帝楷·2023-08-31 00:19

YOLO-MS: Rethinking Multi-Scale Representation Learning for Real-time Object Detection(论文学习笔记)

性能超越YOLOv8与RTMDet，即插即用论文地址：https://arxiv.org/pdf/2308.05480.pdf代码地址：文中给了github地址，但是暂时打不开（2023.08.15）摘要作者旨在为目标检测社区提供一种高效且性能卓越的目标检测器，称为YOLO-MS。核心设计基于一系列对不同Kernel-Size卷积如何影响不同尺度上目标检测性能的研究。研究结果是一种可以显著增强实时

athrunsunny·2023-08-30 21:45

windows下安装pytorch1.10 （2022.6亲测可行）

打开pytorch官网：PyTorchAnopensourcemachinelearningframeworkthatacceleratesthepathfromresearchprototypingtoproductiondeployment.https://pytorch.org/如上图，选择自己的设备信息，然后会自动生成一条命令。anaconda里直接执行这条指令就行了condainstal

奶盖芒果·2023-08-29 02:00

基础论文学习（5）——MAE

MAE：MaskedAutoencodersAreScalableVisionLearnersSelf-SupervisedLearningstep1：先用无标签数据集，把参数从一张白纸训练到初步预训练模型，可以得到数据的VisualRepresentationstep2：再从初步成型，根据你下游任务DownstreamTasks的不同去用带标签的数据集把参数训练到完全成型。注意这是2个阶段。第一

Yuezero_·2023-08-26 07:51

论文学习——A Proposal For Foley Sound Synthesis Challenge（如何开发出一个完整的FoleySound系统）

文章目录引言正文AbstractIntroduction问题2CaseStudy：ResearchChallenges3BackGrounds背景3.1PreviousWorksonFoleySoundSynthesis重点！！之前关于伪声合成的相关研究问题3.2ExistingDataset现存数据集4.FoleySoundSynthesisChallenge伪声合成系统的开发难点4.1Cons

客院载论·2023-08-26 06:57

【论文学习】Distortion Agnostic Deep Watermarking

一、前言论文链接：DistortionAgnosticDeepWatermarking论文主要内容：该文献提出了一种失真不可知的鲁棒水印模型，以解决现有DNN鲁棒水印方法的局限性。现有的DNN鲁棒水印方法，通常是在训练阶段将各类失真（例如JPEG压缩、高斯噪声、裁剪等…）纳入端到端网络中的噪声层，进行鲁棒训练，以获得抵抗攻击的鲁棒性。但在实际传输中，水印图像可能面临不同强度和类型的破坏与攻击，无法

小敏同学·2023-08-25 02:39

论文学习——FOLEY SOUND SYNTHESIS AT THE DCASE 2023 CHALLENGE（声音生成介绍）

文章目录引言正文AbstractIntroduction问题2ProblemAndTaskDefinition3.OfficialDatasetAndBaseline第一部分问题4.Evaluation问题4.1Step1：ObjectiveEvaluation问题4.2Step2:SubjectiveEvaluation问题4.3Execution（非重点）5Results6Conclusion

客院载论·2023-08-23 02:23

基础论文学习（2）——DETR

目标检测DETR：End-to-EndDetectionwithTransformerdetr是facebook提出的引入transformer到目标检测领域的算法，效果很好，做法也很简单，相较于RCNN和YOLO系列算法，避免了Proposal/Anchor+NMS的复杂流程。1.detr基本架构对于目标检测任务，其要求输出给定图片中所有前景物体的类别和bbox坐标，该任务实际上是无序集合预测问

Yuezero_·2023-08-22 10:52

推荐频道

2022.6论文学习