【论文阅读笔记】第22页

Hierarchical Attention Networks for Document Classification论文阅读笔记

HierarchicalAttentionNetworksforDocumentClassification（ACL2016）动机在分类任务中，句子中包含的每个词语相对于分类任务的重要性并不一样，比如在IMDB影评数据集中，like,amazing,terrible这样的词语更能够决定句子的情感。一篇document也由多个句子组成，在篇章级别的分类时，每个句子的重要性也不相同。所以作者提出一种使

westbrook_wang·2022-11-20 06:00

[论文阅读笔记43]Hierarchical Multi-Label Classification Networks

一，题目HierarchicalMulti-LabelClassificationNetworks层次多标签分类网络WehrmannJ,RCerri,BarrosRC.HierarchicalMulti-LabelClassificationNetworks[C]//InternationalConferenceonMachineLearning.2019.里奥格兰德天主大学–巴西圣卡洛斯联邦大学

happyprince·2022-11-20 06:12

When AWGN-based Denoiser Meets Real Noises

个人论文阅读笔记，可能存在许多瑕疵和错误，欢迎评论指正，谢谢~~1.总括：实际噪声大多是空间/通道相关和空间/通道可变的。

ballball~~·2022-11-20 06:23

AP-BSN: Self-Supervised Denoising for Real-World Imagesvia Asymmetric PD and Blind-Spot Network

个人论文阅读笔记，可能存在许多瑕疵和错误，欢迎评论指正，谢谢~~1.总括盲点网络BSN假设噪声信号是像素独立且零均值的情况下，从相邻噪声像素重建干净像素而不参考相应的输入像素。

ballball~~·2022-11-20 06:53

Parameter Server论文阅读笔记《Scaling Distributed Machine Learning with the Parameter Server》

工作一直在使用分布式的机器学习框架，有必要了解一些基本的原理，就先从李沐大佬的文章入手，写个笔记作为记录。主要贡献第三代开源的ParameterServer架构，具有以下特性1）高效的通信2）灵活的一致性模型3）弹性可拓展能力4）系统容错能力5）易用性工程挑战通信：访问巨量的参数，需要大量的网络带宽支持。容错：分布式计算需要较好的容错能力，failover机制。相关工作第一代的参数服务器架构VLD

沃柑火龙果·2022-11-20 00:51

GAN注意力机制研究——SPA-GAN: Spatial Attention GAN for Image-to-Image Translation 论文阅读笔记

GAN注意力机制研究——SPA-GAN:SpatialAttentionGANforImage-to-ImageTranslation论文阅读笔记目录GAN注意力机制研究——SPA-GAN:SpatialAttentionGANforImage-to-ImageTranslation

Fox_Alex·2022-11-19 21:52

论文阅读笔记：面向卷积神经网络的 FPGA 设计

降低卷积操作的快速算法常见算法：FFT、Winogard算法快速算法常见的三个步骤：将输入图像与卷积核转换到特殊域将转换后的数据进行点对点相乘将相乘的结果逆变换回时域二维FFT算法1.首先对二维矩阵的各行进行一维FFT操作,而后对各列进行FFT操作2.一维FFT：不断将序列长度对半分，直至原始序列呗划分成多个两点的FFTWingoard算法利用矩阵运算，将矩阵相乘中重复的部分进行处理，以减少乘法的

风荷荷举·2022-11-19 21:42

2019_WWW_Graph Neural Networks for Social Recommendation

[论文阅读笔记]2019_WWW_GraphNeuralNetworksforSocialRecommendation论文下载地址：https://doi.org/10.1145/3308558.3313488

XingHe_XingHe_·2022-11-19 20:26

2021_WSDM_Pre-Training Graph Neural Networks for Cold-Start Users and Items Representation

[论文阅读笔记]2021_WSDM_Pre-TrainingGraphNeuralNetworksforCold-StartUsersandItemsRepresentation论文下载地址：https

XingHe_XingHe_·2022-11-19 20:25

论文阅读笔记：(2021.06 cvpr) Categorical Depth Distribution Network for Monocular 3D Object Detection

paper:https://openaccess.thecvf.com/content/CVPR2021/papers/Reading_Categorical_Depth_Distribution_Network_for_Monocular_3D_Object_Detection_CVPR_2021_paper.pdfhttps://openaccess.thecvf.com/content/CV

chaoqinyou·2022-11-19 20:12

MVSNet论文阅读笔记

MVSNet:DepthInferenceforUnstructuredMulti-viewStereo文章提出了一种端到端的深度学习架构，直接从图像得到深度图。摘要提出了一种端到端的深度学习架构，用于从多视图图像中推断深度图。网络提取特征图通过单应性变形在参考相机的视锥上构建三维代价体。用三维卷积对初始深度图进行正则化和回归对输出的深度图结合参考图像进行优化，得到最终输出的深度图。输入和输出输入

有远大理想·2022-11-19 19:31

【CVPR2022】论文阅读笔记Semi-Supervised Semantic Segmentation Using Unreliable Pseudo-Labels

Semi-SupervisedSemanticSegmentationUsingUnreliablePseudo-Labels使用不可靠伪标签的半监督语义分割论文地址：https://arxiv.org/abs/2203.03884代码地址：https://haochen-wang409.github.io/U2PL.摘要半监督语义分割的关键是给无标签图像的像素分配适当的伪标签。通常的做法是选择高

Thinkobj·2022-11-19 17:25

gan网络损失函数_GAN论文阅读笔记1：从零推导GAN

生成式对抗网络（GAN,GenerativeAdversarialNetworks）毫无疑问是近几年来较为火热的生成模型。其核心思想非常简单：引入对抗的概念，让两个网络——生成器网络（Generator）和判别器网络（Discriminator）互相对抗。0.符号定义在介绍GAN之前，先简要介绍一下符号定义和必要的概念。记生成器为，判别器为，真实（real）数据分布为，高斯随机噪声分布为，生成器伪

FieryTiger·2022-11-19 16:07

MAE详解

目录一、介绍二、网络结构1.encoder2.decoder3.LOSS三、实验全文参考：论文阅读笔记：MaskedAutoencodersAreScalableVisionLearners_塔_Tass

小白在进步·2022-11-19 16:37

论文阅读笔记 | 三维目标检测——AVOD算法

如有错误，恳请指出。文章目录1.背景2.网络结构3.实验结果paper：《Joint3DProposalGenerationandObjectDetectionfromViewAggregation》1.背景AVOD同样是一个two-stage(使用了RPN提取候选框)、anchor-based网络结构。获得较高的召回率对RPN网络来说是比较重要的，但对于稀疏的较低分辨率的输入来说（比如前视图和鸟

Clichong·2022-11-19 13:54

ALBert论文阅读笔记-缩减版的bert，模型参数更少，性能更好

引言自从Bert被提出来后，后续的研究者大多基于bert进行改造，提升预训练语言模型性能，从而提高下游任务的性能。比如ERINE、BERT_WWM、MASS、MT-DNN、RoBERT等等。从GLUE榜上我们可以看到，似乎现在的语言模型有越来越大的趋势，虽然我们的训练资源也是从GPU单卡到GPU多卡，到现在TPU，但不是每个公司都这么有钱，特别对个人，有可能就是一块卡，怎么样在资源有限的情况下，玩

bigbao_num·2022-11-19 13:45

【论文笔记7】CrossViT: Cross-Attention Multi-Scale Vision Transformer for Image Classificatio阅读笔记

系列文章目录论文阅读笔记(1)：DeepLabv3论文阅读笔记(2):STA手势识别论文阅读笔记(3):ST-GCN论文阅读笔记（5）:图上的光谱网路和深度局部链接网络论文阅读笔记（6）:GNN-快速局部光谱滤波论文阅读笔记

梅津太郎·2022-11-19 12:22

论文阅读笔记10-MOT by associating Every Detection Box(ByteTrack)

代码地址ByteTrack0.前言和算法解读ByteTrack本质上是利用多次匹配进而提高跟踪准确度的一种方法.对于大多数MOT方法,匹配过程是:1.根据检测进行筛选,低置信度的bbox就舍弃了.2.利用Kalman滤波等方式来预测轨迹,并将轨迹和筛选的bbox进行匹配(通常是匈牙利算法,KM算法或贪心算法)3.对于没有匹配到的轨迹,设置一个patiencetime,超过这个时间就认为离开画面.如

wjpwjpwjp0831·2022-11-19 12:41

【论文笔记】Segformer论文阅读笔记

论文：SegFormer:SimpleandEfficientDesignforSemanticSegmentationwithTransformersSegFormer是一个简单、高效但功能强大的语义分割模型，它结合了Transformer与轻量级多层感知(MLP)解码器。SegFormer有2个特征：（1）SegFormer包含一个可以输出多尺度信息的transformer编码器（没有使用po

嘟嘟太菜了·2022-11-19 10:06

【论文笔记】MPViT论文阅读笔记

paper：MPViT:Multi-PathVisionTransformerforDensePredictiongithub：https://github.com/youngwanLEE/MPViT一、引言传统的ViT模型使用单尺度的PatchEmbedding，MPViT提出使用多尺度PatchEmbedding和多路并行的网络结构，同时移除了clstoken。MPViT主要做出了以下贡献：（

嘟嘟太菜了·2022-11-19 10:06

论文阅读笔记——STDC-Seg

作者参考了BiSeNet，并在其基础上对模型的架构进行了改进，达到了取得了更快的速度和更高的精度（没有提到显存占用，经测试，STDC2_50在转为trt后，显存占用大致在900M左右）BiSeNet的设计是一个双流网络，spatialpath用于提取图像的细节信息，semanticpath用于提取语义信息作者认为额外的spatialpath会消耗更多的时间，而且是从其他预训练任务（如图像分类）中“

王大梨·2022-11-19 09:56

MVS论文阅读笔记[PatchmatchNet: Learned Multi-View Patchmatch Stereo]

原文链接：https://arxiv.org/pdf/2012.01411.pdf摘要：我们提出了一个新颖的，可学习的patchmatch来实现高分辨率的MVS。由于有内存和性能的限制，相比与使用规则的3D代价体，patchMatch可以处理高分辨率的图像，更适合资源有限制的设备。我们第一次介绍在端对端训练结构中实现一个多尺度迭代，每次迭代中patchmatch的核心算法是通过一个新颖的，可学习的

臭feifei·2022-11-19 09:23

实体识别BERT-MRC论文阅读笔记

每天给你送来NLP技术干货！来自：AI算法小喵作者：小喵写在前面NER（命名实体识别）通常可以分为nestedNER（嵌套命名实体识别）及flatNER（非嵌套命名实体识别）。在flatNER上常用的序列标注模型通常不适用于nestedNER，为了将两个任务用一套统一框架处理，BERT-MRC从MRC（机器阅读理解）角度建模实体识别任务。简单地说，BERT-MRC将实体类别相关的先验信息（比如实体

zenRRan·2022-11-19 09:40

【联邦学习】Communication-Efficient Learning of Deep Networks from Decentralized Data 论文阅读笔记

FL的提出：Weadvocateanalternativethatleavesthetrainingdatadistributedonthemobiledevices,andlearnsasharedmodelbyaggregatinglocally-computedupdates.WetermthisdecentralizedapproachFederatedLearning.借鉴博客

伶俐明华·2022-11-19 08:00

User-centric ultra-dense networks for 5G: challenges, methodologies, and directions 论文阅读笔记

5G网络中，以用户为中心的超密集组网：挑战，方法的与方向本博客为论文介绍，博主并非论文作者，方便起见部分语言以第一人称说明。论文链接Abstract在这篇文章中，我们基于networkservinguser(网络服务用户)的主旨和the“de-cellular”method(去中心化方法）定义了user-centricUDN(UUDN)。基于对挑战的分析和UUDN的需求，本文提出了突破传统的网络控

goto_past·2022-11-19 02:37

论文阅读笔记——A deep tree-based model for software defect prediction

IronmanJay·2022-11-19 01:28

论文阅读笔记——基于CNN-GAP可解释性模型的软件源码漏洞检测方法

IronmanJay·2022-11-19 01:54

论文阅读笔记--医学图像分割[上下文编码网络]--CE-Net

CE-Net:ContextEncoderNetworkfor2DMedicalImageSegmentation--CE-Net:用于二维医学图像分割的上下文编码网络摘要一、introduce早期医学图像深度学习方法早期U-Net网络的应用对U-Net网络的改进U-Net以及改进U-Net网络的限制【编码器-解码器】基于上述讨论，本论文提出了：论文主要贡献：二、Method网络架构A.特性编码器

珏了·2022-11-18 09:14

变压器故障声纹检测与诊断方法研究-论文阅读笔记

变压器故障声纹检测与诊断方法研究论文来源DOI：10.27140/d.cnki.ghbbu.2021.000587论文目的针对于变压器机械故障声音和变压器本体噪声容易混淆的问题，提出了一种改进的小波包-BP神经网路算法，比传统的小波包-BP神经网络相比声音的识别率提高了5.7%。为了提高泛化能力，采用梅尔对数频谱-CNN声音识别算法。将两种方法进行相互验证，提高了识别系统的可靠性。论文使用方法采用

Dream_WLB·2022-11-17 10:37

高噪声环境下变压器声纹特征提取方法研究-论文阅读笔记

高噪声环境下变压器声纹特征提取方法研究论文来源DOI：10.27140/d.cnki.ghbbu.2021.000949论文目的在高噪声环境下对小波阈值去噪方法、基于FastICA的去噪方法、基于谱减法的去噪方法进行对比研究，同时对小波阈值法进行优化，使小波阈值函数更加平滑，对声音信号使用分层选择阈值，强化了去噪效果。论文还提出了一种基于小波能量-TFCC的特征参数提取方法。基于小波包分解提取到变

Dream_WLB·2022-11-17 10:37

【论文阅读】Whisper: Robust Speech Recognition via Large-Scale Weak Supervision

Whisper论文阅读笔记RobustSpeechRecognitionviaLarge-ScaleWeakSupervision1.引言2.方法2.1数据处理2.2模型2.3多任务设置2.4训练细节3

adam-liu·2022-11-17 07:01

论文阅读笔记《Neural Graph Matching Network: Learning Lawler’s Quadratic Assignment Problem With Extension》

核心思想该文提出一种图匹配神经网络用于解决Lawler’s形式的二次分配问题，并将其推广到超图匹配和多图匹配领域。在之前的文章中，我们介绍过图匹配问题通常被定义为一种二次分配问题（QAP），通常有两种形式化方式：Lawler’sQAP问题和Koopmans-Beckmann’sQAP问题。Koopmans-Beckmann’sQAP可以看作是Lawler’sQAP的一个特例，现有的基于深度学习

深视·2022-11-17 07:55

论文阅读笔记《Deep Learning of Graph Matching》

核心思想本文首次提出一种基于深度学习的图匹配方法（GMN），提出了从特征提取，仿射矩阵构建，幂迭代，双随机矩阵生成，投票法到损失计算的完整可微分的图匹配流程，并给出了相应的反向传播的导数计算方法。方法的流程如下图所示实现过程首先，输入两幅图像I1,I2I_1,I_2I1,I2，使用CNN，如VGG-16，分别对图像进行特征提取，其中relu5-1层输出的特征向量FFF作为边特征，relu4

深视·2022-11-17 07:24

论文阅读笔记《Robust weighted graph transformation matching for rigid and nonrigid image registration》

核心思想该文提出一种加权图变换匹配方法（weightedgraphtransformationmatching，WGTM）用于刚体或非刚体图像的配准问题。该方法是在GTM（ArobustGraphTransformationMatchingfornon-rigidregistration）的基础上改进优化得到的，因此在介绍WGTM之前，我们先简要介绍一下GTM算法。给定两个点集P={pi},P

深视·2022-11-17 07:24

[论文阅读笔记21]Mean teachers are better role models

论文标题：Meanteachersarebetterrolemodels:Weight-averagedconsistencytargetsimprovesemi-superviseddeeplearningresultsAnttiTarvainen（芬兰，阿尔托大学）,HarriValpola(TheCuriousAICompany)作者有一句话***“目前在用的所有人工智能都是二流的”***T

happyprince·2022-11-17 07:22

skip-gram训练word2vec论文阅读笔记

随着googlebert的面试，以及一系列的推演和变种，人们越来越淡忘了word2vec，由于bert预训练的词向量模型参数太大，运行效率大大减少，所以在个别任务还是推荐使用wordvec。1.DistributedRepresentationsofWordsandPhrasesandtheirCompositionality1.1摘要：最近引入的连续Skip-gram模型是一种学习高质量的分布式

nlp小仙女·2022-11-16 17:15

【车道线检测论文阅读笔记——经典论文粗读汇总】

[阅读心得]车道线检测论文粗读笔记前言一、Segmentation1.SCNN2.ENet3.LaneNet4.SAD5.DSUNet二、Mark1.UFast2.FOLOLane3.Line-CNN4.Lane-ATT5.E2E-LMD前言本篇目的：熟悉自动驾驶基本知识，了解自动驾驶领域的写作思路。顺便记录一下各个论文的主要工作预计完成时间：一周内完成日志：1）1.4日：完成seg部分论文粗读以

书玮嘎·2022-11-16 17:02

【目标检测】《DINO: DETR with Improved DeNoising Anchor Boxes for End-to-End Object Detection》论文阅读笔记

论文地址：https://arxiv.org/pdf/2203.03605v1.pdf代码地址：https://github.com/IDEACVR/DINO计划：这周阅读本论文。1.摘要DINO是DETRwithImproveddeNoisinganchOrboxes这几个单词的缩写，意思是提高降噪锚框的DETR。DINO通过使用对比去噪训练方法、锚初始化的混合查询选择方法和盒预测的前向两次方案

聿默·2022-11-16 17:57

点云配准论文阅读笔记--3d-dnt博士论文

目录点云配准系列本文内容摘要chapter1introduction1.1Contributions1.2outlinechapter2常用概念2.1点、位姿2.2旋转2.3配准2.4采样chapter5扫描配准领域的相关工作5.1icp5.5ndt算法chapter6Thenormal-distributionstransform6.1用ndt表示曲面6.2NDTscanregistration

诺有缸的高飞鸟·2022-11-15 22:44

【论文笔记】DeiT论文阅读笔记

paper：Trainingdata-efficientimagetransformers&distillationthroughattentiongithub：https://github.com/facebookresearch/deitViT训练有以下几点困难：（1）需要大量GPU资源；（2）需要大量数据，预训练数据集JFT-300M未公开；（3）超参数设置不好不容易train出效果；（4）

嘟嘟太菜了·2022-11-15 11:19

Datawhale学习打卡课节1: Paddle开发深度学习模型快速入门 NCF

论文阅读笔记-NeuralCollaborativeFilteringWWW’17XiangnanHeetal.文章内容前置知识协同过滤CF地位：推荐系统经典方法之⼀，甚至有人把推荐系统和协同过滤画等号

宇宙哇·2022-11-15 07:41

【论文笔记】（SR）《Residual Dense Network for Image Super-Resolution》

《ResidualDenseNetworkforImageSuper-Resolution》论文阅读笔记针对的问题：针对目前大多数基于CNN的SR模型不能充分利用原始低分辨率（LR）图像的层次特征（thehierarchicalfeatures

梦无羡·2022-11-14 09:40

【论文阅读笔记】Learning To Detect Unseen Object Classes by Between-Class Attribute Transfer

摘要：本文主要研究训练和测试类别不相交时（即没有目标类别的训练示例）的对象分类问题。在此之前并没有对于毫无关联的训练集和测试集进行对象检测的工作，只是对训练集所包含的样本进行分类。实验表明，通过使用属性层，确实可以构建不需要目标类的任何训练图像的学习对象检测系统。算法流程：假设：为训练样本和相应类别标签的成对数据，数量为，总共有个类别，用表示。目的：学习一个分类器:，其中给测试分为类。为训练集中所

兮的皮卡丘·2022-11-14 09:09

Inception v2&Batch Normalization论文阅读笔记

Inceptionv2看这个前先学会SGD和小批量、参数的更新过程、理解梯度爆炸梯度消失的过程。InternalCovariateShift内部协变量偏移分布：是指用于表述随机变量取值的概率规律每一层神经网络的目的：学习当前层神经网络的输入或上一层神经网络的输出的分布。机器学习（包含深度学习）的使用的基本假设：独立同分布假设，就是训练数据集与测试数据集服从相同的分布。这是通过训练数据训练得到的模型

白蜡虫可·2022-11-13 10:17

3d目标检测

目录知网论文阅读笔记关键词keywords现状摘要碎片知识点3D检测算法分类根据其使用的数据类型为三类：按照点云不同的特征表达方式分类[1]：其他分类方法[1]：根据传感器分类[2]：根据使用场景分类[

干了这碗汤·2022-11-10 07:03

BERT4Rec论文阅读笔记

论文地址：https://arxiv.org/abs/1904.06690摘要通过用户的历史行为建模用户的动态兴趣偏好，对推荐系统来说，是具有挑战性且重要的。现有模型利用序列神经网络模型将用户的历史行为交互从左到右编码成隐含表示用做推荐。尽管他们的效果不错，我们认为这样从左到右的单向模型不是最优的，因为以下一些限制：a)单向架构限制了用户行为序列隐含表示的能力；b)它们经常假设一个严格有序的序列，

superY25·2022-11-09 04:59

【自动驾驶】《BEVFusion: Multi-Task Multi-Sensor Fusion with Unified Bird’s-Eye View Representation》论文阅读笔记

论文地址：https://arxiv.org/pdf/2205.13542.pdfhttps://arxiv.org/pdf/2205.13542.pdf代码地址：GitHub-mit-han-lab/bevfusion:BEVFusion:Multi-TaskMulti-SensorFusionwithUnifiedBird's-EyeViewRepresentationBEVFusion:Mu

聿默·2022-11-08 14:55

论文阅读笔记：Intriguing properties of neural networks

论文阅读笔记：Intriguingpropertiesofneuralnetworks深度学习对抗样本的开山之作要点以往的观点认为深度神经网络的高层特征中每一个分量描述了一种特质，但是这篇工作对该观点提出了质疑

qq_36356761·2022-11-08 09:57

（主从-阻抗）论文阅读笔记2

Stablebilateralteleoperationunderatimedelayusingarobustimpedancecontrol（Q2）Thispaperpresentsanewimpedancecontrollerforabilateralteleoperationunderatimedelay1.主从机器人都设计有阻抗控制器(主端易于拖动，从端为了跟踪力和位置时柔顺交互)2.为了

哥斯拉-·2022-11-05 15:45

【论文阅读笔记】Deep High-Resolution Representation Learning for Human Pose Estimation

论文地址：https://arxiv.org/abs/1902.09212代码地址：https://github.com/leoxiaobin/deep-high-resolution-net.pytorch论文总结论文总得来说是提出了一种网络架构的思想：以前的模型都是下采样后再上采样，从而达到预期的分辨率。而本文的网络HRNet则一直维持高分辨率分支，通过融合低分辨率分支上采样带来的high

时光机ﾟ·2022-11-05 15:44

推荐频道

【论文阅读笔记】