论文阅读笔记第9页

Transformer for image recognition at scale论文阅读笔记

原论文链接：https://openreview.net/forum?id=YicbFdNTTy摘要因为transformer已经成为NLP任务中标准的方法了，但是在计算机视觉中的应用还是有限，但是注意力机制在图像中也可以应用，可以是纯attention，也可以是结合CNN的，所以CNN并不是必要的。VIT（visiontransformer）的提出已经在很多评价标准上成为了SOTA的方法，并且训

骑驴去学习·2023-04-12 14:23

多模态情感识别应用论文阅读笔记

1.《Amultimodalemotionrecognitionmethodbasedonfacialexpressionsandelectroencephalography》（BSPC2021二区文章)（2023.2.27）没什么好总结的，两种模态，面部图片和脑电图，数据用的kaggle面部表情数据库FER2013和公开的脑电图Seed-IV。图像用的卷积，四五层，效果感觉不佳，可以改换resn

一颗2021·2023-04-12 14:51

论文阅读笔记（七）——基于超深度神经网络的人脸识别

论文阅读笔记（七）——基于超深度神经网络的人脸识别论文简介论文中文翻译：《基于超深度神经网络的人脸识别》论文名称：《DeepID3:FaceRecognitionwithVeryDeepNeuralNetworks

咕咕噜噜咕噜噜·2023-04-12 11:57

【论文阅读笔记】里程计ODO/INS不同融合方式的性能比较

文章目录一、里程计的工作原理二、论文中的主要结论三、总结四、参考文献欢迎关注个人公众号：导航员学习札记关于里程计的融合一般用“距离增量修正”和“速度修正”两种方式。我最近在想这两种方式在性能上有什么不同，因此找了两篇论文来看。本文主要是整理了武汉大学i2Nav团队、上海交大武元新老师团队关于里程计融合的论文中的结论。一、里程计的工作原理里程计一般会用在机器人或者汽车上，轮子每转动一周，里程计会输出

路痴导航员·2023-04-11 21:28

An Empirical Study on Leveraging Position Embeddings for TOWE 论文阅读笔记

一、作者SamuelMensah、KaiSunComputerScienceDepartment,UniversityofSheffield,UKBDBCandSKLSDE,BeihangUniversity,China二、背景面向目标的意见词提取（TOWE）是面向目标的情感分析的一个新的子任务，旨在为文本中的给定方面提取意见词。下面分别为数据集示例和为TOWE应用BIO标签方案的示例。{"tok

呦，又写BUG呢·2023-04-11 11:45

【论文阅读笔记|AAAI2022】Unified Named Entity Recognition as Word-Word Relation Classification

论文题目：UnififiedNamedEntityRecognitionasWord-WordRelationClassifification论文来源：AAAI2022论文链接：AAAIPressFormattingInstructionsforAuthorsUsingLaTeX--AGuide(arxiv.org)代码链接：https://github.com/ljynlp/W2NER0摘要到目

Rose sait·2023-04-11 10:59

Bert 论文阅读笔记

主要内容AbstractIntroductionRelatedWorkBertExperimentsAblationStudiesConclusion参考论文：《BERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding》正文Abstract这篇论文介绍一个新的语言表达模型BERT(BidirectionalEn

Anunnaki·2023-04-10 20:53

Pretrained-model-01-Transformer论文阅读笔记

论文题目：AttentionIsAllYouNeed发表会议：2017-NIPS1、背景知识1.1、翻译效果评价指标BLUE参考博客：https://blog.csdn.net/guolindonggld/article/details/56966200主要讲解BLUE在nltk中的实现https://blog.csdn.net/jkwwwwwwwwww/article/details/52846

小杰.·2023-04-10 09:46

【小目标检测论文阅读笔记】Small object detection in remote sensing images based on attention mechanism and multi-

《Smallobjectdetectioninremotesensingimagesbasedonattentionmechanismandmulti-scalefeaturefusion》《CotYOLO-v3》ABSTRACT由于检测目标分布密集、背景复杂等因素的影响，遥感图像中小目标较多，难以检测。为了解决遥感图像中小物体检测的难题，本文提出了一种名为CotYOLO-v3的目标检测算法。首先

YoooooL_·2023-04-10 09:58

【目标检测论文阅读笔记】CARAFE: Content-Aware ReAssembly of FEatures

Abstract特征上采样是许多现代卷积网络架构中的关键操作，例如特征金字塔。它的设计对于目标检测和语义/实例分割等密集预测任务至关重要。在这项工作中，我们提出了内容感知特征重组(CARAFE)，这是一种通用、轻量级且高效的运算符来实现这一目标。CARAFE具有几个吸引人的特性：(1)大视野。与以前仅利用亚像素邻域的作品（例如双线性插值）不同，CARAFE可以在大的感受野内聚合上下文信息。(2)内

YoooooL_·2023-04-10 09:58

【目标检测论文阅读笔记】Multi-scene small object detection with modified YOLOv4

Abstract.小目标检测的应用存在于我们日常生活中的许多不同场景中，该课题也是目标检测与识别研究中最难的问题之一。因此，提高小目标检测精度不仅在理论上具有重要意义，在实践中也具有重要意义。然而，当前的检测相关算法在这项任务中效率低下；因此在本研究中，提出了一种基于YOLOv4模型的广义改进算法。在常规的跨阶段局部网络（CSPNet）的“ADD”和“Concat”层之后，增加了一种混合注意力模块

YoooooL_·2023-04-10 09:27

【自监督论文阅读笔记】Integrally Pre-Trained Transformer Pyramid Networks （2022）

Abstract在本文中，我们提出了一个基于掩码图像建模(MIM)的整体预训练框架。我们提倡联合预训练backbone和neck，使MIM和下游识别任务之间的迁移差距最小。我们做出了两项技术贡献。首先，我们通过在预训练阶段插入特征金字塔来统一重建和识别颈部。其次，我们用掩码特征建模(MFM)补充掩码图像建模(MIM)，为特征金字塔提供多阶段监督。预训练模型称为integrallypre-train

YoooooL_·2023-04-10 09:50

FuseDream论文阅读笔记文本生成图像 text2image

论文地址论文代码背景：使用CLIP和GAN来完成T2I任务，一种常规的做法就是最大化输入文本与生成图像在CLIP空间上的得分，论文中把这个分数叫做，也就是最大化这两者的余弦相似度（这是CLIP的原理），可以用如下公式表达。表示GAN的输入，一般就是高斯分布中随机采样的噪声，但是在这，作者使用的是BigGAN，他在论文中也说了，BigGAN的生成器的输入就是随机噪声和图像类别，还说了这个BigGAN

biu piu biu piu·2023-04-10 02:07

SimpleTrack论文阅读笔记

摘要部分：本文背景：Despitetheirprogressandusefulness,anin-depthanalysisoftheirstrengthsandweaknessesisnotyetavailable（尽管取得了一些进展，但是并未对其优缺点进行深入分析）本文：将当前的3DMOT方法总结为一个统一的框架，将其分解为四个组成部分：检测的预处理，关联，运动模型和生命周期管理。对算法每个部

ng_T·2023-04-09 23:10

《An Accelerated Method for Message Propagation in Blockchain Networks》论文阅读笔记

paperAbstract区块链基于P2P网络，支持当前加密货币的去中心化共识。由于比特币和山寨币都利用底层的区块链，因此它们会受到P2P网络性能的极大影响。在比特币中，矿工们参与了对时间敏感的竞赛，以解决工作量证明问题以扩展区块链。因此，这就提出了一个关键问题，即最小化获胜区块的传播与下一轮比赛开始之间的时间。本文提出了一种选择节点最接近的邻居以使消息及时在整个网络中传播的方法。该方法使用传输等

甸仔向前冲·2023-04-09 05:08

ACL2020论文阅读笔记：BART

背景题目：BART:DenoisingSequence-to-SequencePre-trainingforNaturalLanguageGeneration,Translation,andComprehension机构：FacebookAI作者：MikeLewis,YinhanLiu,NamanGoyal,MarjanGhazvininejad,AbdelrahmanMohamed,OmerLe

JasonLiu1919·2023-04-09 02:45

论文阅读笔记（四十八）：3D U-Net: Learning Dense Volumetric Segmentation from Sparse Annotation

Abstract.Thispaperintroducesanetworkforvolumetricsegmentationthatlearnsfromsparselyannotatedvolumetricimages.Weoutlinetwoattractiveusecasesofthismethod:(1)Inasemi-automatedsetup,theuserannotatessomesl

__Sunshine__·2023-04-08 11:36

弱监督参考图像分割：Learning From Box Annotations for Referring Image Segmentation论文阅读笔记

弱监督参考图像分割：LearningFromBoxAnnotationsforReferringImageSegmentation论文阅读笔记一、Abstract二、引言三、相关工作A、全监督参考图像分割

乄洛尘·2023-04-08 11:30

2019_ICDM_DeepTrust: A Deep User Model of Homophily Effect for Trust Prediction

[论文阅读笔记]2019_ICDM_DeepTrust:ADeepUserModelofHomophilyEffectforTrustPrediction论文下载地址：10.1109/ICDM.2019.00072

XingHe_XingHe_·2023-04-08 02:53

DALL·E 2 论文阅读笔记

《HierarchicalText-ConditionalImageGenerationwithCLIPLatents》Paper:https://cdn.openai.com/papers/dall-e-2.pdfProject:https://openai.com/product/dall-e-2Author:OpenAI闲言碎语时间线：2021.01推出DALL·E，2021年底推出GLID

Iron_lyk·2023-04-08 01:35

DOTS: Decoupling Operation and Topology in Differentiable Architecture Search 论文阅读笔记

这是一篇CVPR2021的关于NAS的论文，作者发现DARTS中在生成最优架构时对每个内部节点保留与前驱节点相连边中权值最大的两条，这种使用操作权重来衡量架构优越与否是不合理的，寻找到的结构往往不是最优的而是次优的，这也就是为什么使用DARTS搜索到的结构运行的精度有时还不如随机搜索的精度高。作者还附上实验进一步证实这个发现：上图左侧是a、c两图是根据操作重要性选择边的方法，每次选取两条边，可以看

莫问余年·2023-04-07 00:37

NSDI‘2021 A New Approach to Datacenter Packet Transport论文阅读笔记

文章目录背景介绍问题分析方案设计问题分析与总结这篇文章发表于NSDI’2021，也是NSDI2021年唯一一篇有关于数据中心拥塞控制的文章（我看到的）。特别提一下这篇文章的三作默罕默德，曾经发表过论文DCTCP，行业大牛不解释。背景介绍十多年来，数据中心协议设计一直是一个活跃的研究领域。它的主要目标是实现高吞吐量和低延迟，并有效地处理突发流量，incast问题。从最早的数据中心拥塞控制协议DCTC

Scabbard_·2023-04-06 11:00

PGD论文阅读笔记

文章从鲁棒优化的角度研究了神经网络的对抗鲁棒性。鞍点问题可以视为内部最大化问题和外部最小化问题的组合。内部最大化问题的目的：找到一个给定数据点x的对抗样本，从而实现高损失，这就是攻击给定神经网络的问题。外部最小化问题的目的：找到模型参数。从而使内部攻击问题给出的对抗损失最小化PGD（ProjectGradientDescent)攻击是一种迭代攻击，可以看作是FGSM的翻版——K-FGSM(K表示迭

你今天论文了吗·2023-04-06 03:01

新闻推荐论文笔记(1)：A Multi-Channel Deep Fusion Approach

image.pngIJCAI2018微软研究院出品本文为自己的论文阅读笔记，如有错误欢迎指正，转载请注明链接及作者不得不承认，公司做推荐研究更加有优势，其有实际应用场景和数据，能够直接发现实际问题和解决方案

阿瑟_TJRS·2023-04-04 05:59

emnlp论文阅读笔记 2021-04-12（未允禁转）

LanguageGenerationwithMulti-HopReasoningonCommonsenseKnowledgeGraph1.研究背景预训练语言模型的知识低效且不系统。尽管语言模型通过在大量语料上预训练隐式地学习到了一定的知识，然而这种获取知识的方式没有显式利用知识库和知识图谱，较为低效融合外部知识增强模型推理能力的研究仅仅依靠独立的知识三元组。文章认为这样忽略了知识图谱中知识之间的丰

9_SooHyun·2023-04-04 02:10

基于生成对抗网络的分类方法

经典论文阅读笔记：最初的生成对抗网络是用于数据生成的，近些年也有一些研究者将生成对抗网络应用于分类任务中。例如在文献【1】中，作者设计了一种基于生成对抗网络的特征分离框架Exchange-GAN。

baiyang白杨·2023-04-03 22:53

T2I论文阅读2019 MirrorGAN

MirrorGAN:LearningText-to-imageGenerationbyRedescription论文阅读笔记本人的话：今天能看到演唱会彩排了哈哈哈哈好激动。

芋圆526·2023-04-03 21:20

【NLP】实体识别TENER论文阅读笔记

写在前面TENER是邱锡鹏老师团队的工作，其核心在于Attention设计时考虑了对实体识别而言可能重要的三个因素：方向、距离（相对位置）以及词间更sharp的注意力。实际上看过原文之后，TENER和Transformer基本上差不多，简单地说TENER就是针对NER场景进行Transformer的适配改进，用邱锡鹏老师的原话“站在巨人的肩上”。这篇笔记主要就是针对这几处小改动进行一个相对细致的分

风度78·2023-04-02 15:32

【目标检测论文阅读笔记】QueryDet: Cascaded Sparse Query for Accelerating High-Resolution Small Object Detection

Abstract虽然深度学习的通用目标检测在过去几年取得了巨大成功，但检测小目标的性能和效率却远不尽如人意。促进小目标检测的最常见和有效的方法是使用高分辨率图像或特征图。然而，这两种方法都会导致昂贵的计算，因为计算成本会随着图像和特征尺寸的增加而成正比增长。为了两全其美，我们提出了QueryDet，它使用一种新颖的查询机制来加快基于特征金字塔的目标检测器的推理速度。该管道包括两个步骤：它首先在低分

YoooooL_·2023-04-02 08:12

【目标检测论文阅读笔记】Lightweight multi-scale network for small object detection

ABSTRACT小目标检测在现实世界中有着广泛的应用。在复杂场景中检测小目标非常困难，因为它们的分辨率很低。目前，许多研究在提高小目标检测精度方面取得了重大进展。但是，有些算法不能很好地平衡检测速度和精度。为了解决上述问题，本文提出了一种利用多尺度信息的轻量级多尺度网络(LMSN)。首先，通过多尺度特征融合单元在各个尺度上对语义信息交互进行显式建模；其次，采用轻量级感受野增强模块增强网络的特征提取

YoooooL_·2023-04-02 08:12

【目标检测论文阅读笔记】FE-YOLOv5: Feature enhancement network based on YOLOv5 for small object detection

ABSTRACT由于其固有的特性，小目标在多次下采样后的特征表示较弱，甚至在背景中消失。FPN简单的特征拼接没有充分利用多尺度信息，在信息传递中引入了不相关的上下文，进一步降低了小物体的检测性能。为了解决上述问题，我们提出了简单但有效的FE-YOLOv5。(1)我们设计了特征增强模块(FEM)来捕捉小目标更具辨别力的特征。全局注意力和高级全局上下文信息用于指导浅层的高分辨率特征。全局注意力与跨维度

YoooooL_·2023-04-02 08:11

【目标检测论文阅读笔记】MSFYOLO: Feature Fusion-Based Detection for Small Objects

Abstract目前目标检测算法在小目标检测中的效果很差，主要原因是低层网络缺乏语义信息，小目标检测数据所表达的特征信息非常缺乏。针对上述困难，本文提出了一种基于多尺度特征融合的小目标检测算法。通过在浅层学习浅层特征和在深层学习深层特征，所提出的多尺度特征学习方案侧重于具体特征和抽象特征的融合。它构建了基于多尺度深度特征学习网络的目标检测器（MSFYOLO），并考虑了单个目标与局部环境之间的关系。

YoooooL_·2023-04-02 07:53

Learn from Syntax: Improving PAOTE with Rich Syntactic Knowledge 论文阅读笔记

一、作者ShengqiongWu、HaoFei、YafengRen、DonghongJi、JingyeLiKeyLaboratoryofAerospaceInformationSecurityandTrustedComputing,MinistryofEducationSchoolofCyberScienceandEngineering,WuhanUniversity,Wuhan,ChinaGua

呦，又写BUG呢·2023-04-02 05:37

论文阅读笔记《Few-Shot Learning with Graph Neural Networks》

王白一·2023-04-01 02:03

(CMU15-721) An Evaluation of Concurrency Control with One Thousand Cores 论文阅读笔记

https://github.com/AlexanderChiuluvB/db-learning-material欢迎star!我做的数据库学习资料整理摘要CPU核数的增多，给并发控制带来了巨大的压力。该论文实验环境为1024核，并且尝试了七种并发控制的方法，但都失败了。启示我们,面对多核芯片应该要重新设计数据库的架构导论现如今的CPU速度提升往往是靠增大核数，而不是提高单核的处理能力。那么对应的

小凯Alex·2023-03-31 09:22

变分系列 Deep Variational Instance Segmentation 论文阅读笔记

变分系列DeepVariationalInstanceSegmentation论文阅读笔记一、Abstract二、引言三、相关工作四、深度变分实例分割4.1Mumford-Shah模型从无监督到有监督的设置

乄洛尘·2023-03-31 04:22

[论文阅读笔记]The Limitations of Deep Learning in Adversarial Settings

论文题目：TheLimitationsofDeepLearninginAdversarialSettings论文地址：https://arxiv.org/abs/1511.07528JSMA算法的主要步骤有以下三个：计算前向导数；基于前向导数构造雅可比显著图；利用修改输入特征。Step1.计算前向导数Thus,weapplythechainruleagaintoobtain:Step2.构造雅可比

wangxiaoguang·2023-03-31 02:00

Weakly-Supervised Crowd Counting Learns from Sorting rather than Locations 论文阅读笔记

弱监督人群计数:基于排序而非位置信息ECCV2020作者：中国科学院大学中国科学院大数据挖掘与知识管理重点实验室中国科学院智能信息处理重点实验室意大利-特兰托大学1、摘要在人群计数数据集中，位置标签是昂贵的，但它们没有被纳入评价指标。此外，现有的多任务方法采用高级任务来提高计算精度。这种研究趋势增加了对注释的需求。本文提出了一种弱监督计数网络，在没有位置监督的情况下直接回归人群数量。此外，我们通过

今天也学习了嗷·2023-03-31 02:32

论文阅读笔记《Nctr: Neighborhood Consensus Transformer for Feature Matching》

核心思想本文提出一种融合邻域一致性的Transfomer结构来实现特征点的匹配（NCTR）。整个的实现流程和思想与SuperGlue相似，改进点在于考虑到了邻域一致性。邻域一致性在许多的传统图像匹配和图匹配任务中都有应用，他基于一个很重要的假设，就是对于一对匹配点，其邻域内的其他点也大概是匹配的，至少是相似程度很高的。而在SuperGlue中注意力机制是面向所有的特征点进行信息聚合，而没有考虑

深视·2023-03-31 01:26

论文阅读笔记《SuperGlue:Learning Feature Matching with Graph Neural Networks》

核心思想本文提出一种基于图神经网络的特征点匹配方法，把图像中的特征点看作图的节点，通过注意力机制聚合特征信息，得到用于匹配的特征向量。然后把匹配问题看作一个可微的最优运输问题（differentiableoptimaltransportproblem），利用SinkhornAlgorithm算法进行求解。整个算法的处理流程如下图所示首先，输入是两幅图像中特征点的位置坐标piAp_i^Api

深视·2023-03-31 01:55

论文阅读笔记《USAC: A Universal Framework for Random Sample Consensus》

本文总结了RANSAC算法的流程与存在的问题，整理了近几年基于RANSAC提出的改进算法，并整合各个算法的优势，提出一个统一的RANSAC算法框架。因此本文也可以看做是一片关于RANSAC算法的论文综述。1.标准RANSAC算法流程 RANSAC随机采样一致性算法是在筛除异常点（outlier），寻找内点（inlier）建立数据模型领域中最常用的算法，其采用“假设-验证”的结构，通过随机采样

深视·2023-03-31 01:55

论文阅读笔记《Joint Graph Learning and Matching for Semantic Feature Correspondence》

核心思想本文提出一种联合图学习和图匹配的算法（GLAM），将图的构建和匹配过程整合到一个端到端的注意力网络中。相比于其他启发式的建图方法，如Delaunay三角法、KNN方法或完全图，通过学习构建的图结构能够更加准确的反映关键点之间的语义关系。与SuperGlue和NCTR类似，本文也采用了自注意力层和交叉注意力层进行信息传递和聚合，但做了两个改进：1.将位置特征向量与每个注意力层输出的特征向

深视·2023-03-31 01:44

[论文阅读笔记] Boosting Adversarial Attacks with Momentum

BoostingAdversarialAttackswithMomentum（CVPR2018）SourceCode:https://github.com/dongyp13/Non-Targeted-Adversarial-Attackshttps://github.com/dongyp13/Targeted-Adversarial-Attacks.文章概述：本文提出了一种基于动量法(Moment

大鲨鱼冲鸭·2023-03-30 02:52

ChatGLM基座：GLM（General Language Model）论文阅读笔记

深度学习：GLM（GeneralLanguageModel）论文阅读笔记IntroductionGLMPretrainingFrameworkAutoregressiveBlankInfillingMulti-TaskPretrainingModelArchitecture2DPositionalEncodingExperimentConclusionIntroduction

HanZee·2023-03-27 07:16

Image as Set of Points 论文阅读笔记

ImageasSetofPoints论文阅读笔记一、Abstract二、引言三、相关工作图像处理中的聚类ConvNet\&ViTs最近的进展四、方法4.1上下文聚类流程从图像到点集采用图像点集的特征提取特定任务上的应用

乄洛尘·2023-03-22 11:52

CTR预估系列(一)-FNN论文阅读笔记

渣渣技术渣·2023-03-21 17:17

深度学习结合树搜索求解集装箱预翻箱问题

论文阅读笔记，个人理解，如有错误请指正，感激不尽！该文分类到Machinelearningalongsideoptimizationalgorithms。

番茄鸡蛋炒饭被抢注啦·2023-03-19 08:48

Machine-Learning–Based Column Selection for Column Generation

论文阅读笔记，个人理解，如有错误请指正，感激不尽！仅是对文章进行梳理，细节请阅读参考文献。该文分类到Machinelearningalongsideoptimizationalgorithms。

番茄鸡蛋炒饭被抢注啦·2023-03-19 04:33

DROID-SLAM: Deep Visual SLAM for Monocular, Stereo, and RGB-D Cameras论文阅读笔记

这篇博客分享的是ECCV2020最佳论文原班人马邓嘉团队的最新力作《DROID-SLAM:DeepVisualSLAMforMonocular,Stereo,andRGB-DCameras》。该深度学习SLAM框架具有高精度、高鲁棒性、强泛化能力等优点。论文地址：https://arxiv.org/abs/2108.10869论文代码：https://github.com/princeton-

zeeq_·2023-03-18 07:10

【论文阅读笔记】Convolutional Neural Networks for Sentence Classification

1概览ConvolutionalNeuralNetworksforSentenceClassification的原文，本文将CNN和NLP结合；介绍了一系列的对比实验，实验结果证明了：一个简单的（单层神经网络）的CNN模型一点超参数的调节（Filter的个数）staticwordvector另外，对cnn模型进行了小改动：将staticvectors和nonstaticvectors变成cnn模型

月满星沉·2023-03-15 07:24

推荐频道

论文阅读笔记