论文学习

论文学习笔记 VMamba: Visual State Space Model

概览这篇论文的动机源于在计算机视觉领域设计计算高效的网络架构的持续需求。当前的视觉模型如卷积神经网络（CNNs）和视觉Transformer（ViTs）在处理大规模视觉任务时展现出良好的表现，但都存在各自的局限性。特别是，ViTs尽管在处理大规模数据上具有优势，但其自注意力机制的二次复杂度对高分辨率图像处理时的计算成本极高。因此，研究者希望通过引入新的架构来降低这种复杂度，并提高视觉任务的效率。现

Wils0nEdwards·2024-09-11 23:47

论文学习1----理解深度学习需要重新思考泛化Understanding deep learning requires rethinking generalization

——论文地址：Understandingdeeplearningrequiresrethinkinggeneralization1、有关新闻1.1新闻一：参考1：机器之心尽管深度人工神经网络规模庞大，但它们的训练表现和测试表现之间可以表现出非常小的差异。传统的思考是将小的泛化误差要么归结为模型族的特性，要么就认为与训练过程中的正则化技术有关。通过广泛的系统性实验，我们表明这些传统的方法并不能解释大

夏洛的网·2024-02-11 18:02

半监督语义分割论文学习记录

Semi-SupervisedSemanticSegmentationwithCross-ConsistencyTraining1.1motivation一致性训练的目的是在应用于输入的小扰动上增强模型预测的不变性。因此，学习的模型将对这样的小变化具有鲁棒性。一致性训练的有效性在很大程度上取决于数据分布的行为，即集群假设，其中类必须由低密度区域分隔。在语义分割中，在输入中，我们没有观察到低密度区域

西瓜真的很皮啊·2024-02-11 14:19

2019-1-27晨间日记

习惯养成：早睡早起，饮食清淡周目标·完成进度开始读论文学习·信息·阅读阅读健康·饮食·锻炼饮食清淡，多锻炼人际·家人·朋友多联系工作·思考怎么把自己的工作做得更好最美

紫薇忘了水葫芦·2024-02-09 03:35

语义分割系列之FCN、DeeplabV1、V2、V3、V3Plus论文学习

FCNFullyConvolutionalNetworks论文：FullyConvolutionalNetworksforSemanticSegmentation地址:https://openaccess.thecvf.com/content_cvpr_2015/papers/Long_Fully_Convolutional_Networks_2015_CVPR_paper.pdf特点：用全卷积替

Diros1g·2024-02-07 11:40

论文学习笔记 POSEIDON: Privacy-Preserving Federated Neural Network Learning

论文学习笔记POSEIDON:Privacy-PreservingFederatedNeuralNetworkLearningNDSS2021录用文章目录论文学习笔记POSEIDON:Privacy-PreservingFederatedNeuralNetworkLearning

JiangChSo·2024-02-05 10:55

论文学习——Vector Quantized Diffusion Model for Text-to-Image Synthesis

文章目录引言正文Abstract文章的核心VQ潜在空间适合文本转图片生成VQDiffusion的比起自回归和GAN的其他模型的成果IntroductionNLP的成功给图片生成的启发自回归模型的单向误差解释预测误差累积VQDiffusion能够解决预测误差累计和单向误差两个问题解决单向误差的方式——每一次预测都是考虑所有token的上下文信息解决错误累积的方式——使用基于掩码和替换的扩散策略模型测

客院载论·2024-02-02 14:12

Python论文学习 -- 第二章 --- Python基础知识

1.cmd命令器中如果想终止命令的话可以在终止行输入exit()函数调用停止命令一.字面量二.注释---对代码进行解释说明1.在print函数中：print(a,"asd",c)输出的结果为a变量对应的值+asd+c变量对应的值如：则输出的结果为：往type()函数中输入数据，它会返回数据的类型给我们，然后我们可以用print()函数将数据类型打出来1.值得注意的是变量本身是没有类型的，它只是一个

Metallic Cat·2024-01-31 20:30

论文学习笔记：PoseFix: Model-agnostic General Human Pose Refinement Network

论文：https://arxiv.org/abs/1812.03595代码：https://github.com/mks0601/PoseFix_RELEASE—————————————————————————————————————————————————目标：多人姿态估计：本篇论文主要工作是利用一个人体姿势优化网络，从输入图像和姿势中对人体姿态进行优化。大概的效果如下图：———————————

wangyc1208·2024-01-31 15:05

2021-9-23晨间日记

今天是什么日子起床：7：40就寝：23：00天气：美好心情：美好纪念日：无任务清单昨日完成的任务，最重要的三件事：投稿改进：想到就做到习惯养成：专注自己，提升自己周目标·完成进度准备再写一篇论文学习·信息

言二yaner·2024-01-29 07:04

论文学习记录之Deep-learning seismic full-waveform inversion for realistic structuralmodels

一、ABSTRACT—摘要标题：Deep-learningseismicfull-waveforminversionforrealisticstructuralmodels（用于真实结构模型的深度学习地震全波形反演）作者：BinLiu1,SenlinYang2,YuxiaoRen2,XinjiXu3,PengJiang2,andYangkangChen4（和SeisInvNet有共同作者，应该是同

摘星星的屋顶·2024-01-28 22:23

论文学习记录之SeisInvNet（Deep-Learning Inversion of Seismic Data）

目录1INTRODUCTION—介绍2RELATEDWORKS—相关作品3METHODOLOGYANDIMPLEMENTATION—方法和执行3.1方法3.2执行4EXPERIMENTS—实验4.1数据集准备4.2实验设置4.3基线模型4.4定向比较4.5定量比较4.6机理研究5CONCLUSION—结论1INTRODUCTION—介绍地震勘探是根据地震波在大地中的传播规律来确定地下地层结构的一种

摘星星的屋顶·2024-01-28 22:22

基于变长频带选择的JPEG图像可逆数据隐藏-文献学习

论文学习原文题目：ReversibleDataHidingofJPEGImageBasedonAdaptiveFrequencyBandLength发表期刊：TCSVT2023（中科院1区）作者：NingxiongMao

凌峰的博客·2024-01-28 08:29

BASNet：Boundary-aware salient object detection

https://mp.weixin.qq.com/s/fjq4UyDMN9Z9lvNZ7aNLWABASNet:Boundary-AwareSalientObjectDetection论文学习_basnet

Kun Li·2024-01-26 13:10

Nerf-Wild神经辐射场论文学习笔记 Neural Radiance Fields for Unconstrained Photo Collections

前言：本文为记录自己在Nerf学习道路的一些笔记，包括对论文以及其代码的思考内容。公众号：AI知识物语B站后续同步更新讲解本篇文章主要针对其数学公式来学习其内容，欢迎批评指正！！！（代码下篇出）1：摘要提出基于学习（learning-based）方法，使用野外照片的非结构化集合（unstructuredcollectionsofin-the-wildphotographs）来合成复杂场景。之前的N

出门吃三碗饭·2024-01-25 14:01

GroupMixFormer：Advancing Vision Transformers with Group-Mix Attention论文学习笔记

论文地址：https://arxiv.org/pdf/2311.15157.pdf代码地址：https://github.com/AILab-CVC/GroupMixFormer摘要：ViT已被证明可以通过使用多头自注意力（MHSA）对远程依赖关系进行建模来增强视觉识别，这通常被表述为Query-Key-Value计算。但是，从“Query”和“Key”生成的注意力图仅捕获单个粒度的token-t

athrunsunny·2024-01-21 19:40

论文学习——基于查询的workload预测（CMU）

一、简介论文题目：Query-basedWorkloadForecastingforSelf-DrivingDatabaseManagementSystems发表在2018SIGMOD，来自cmu的数据库组（这个组真的很厉害）这篇论文主要讲数据库workload预测的问题。因为要实现数据库self-driving（如选择合适的时机在合适的列上自动创建索引），应该根据将要到来的查询对数据库进行优化，

_zhj·2024-01-21 12:40

第六十八周周报

学习目标：项目论文学习时间：2023.12.23-2023.12.29学习产出：一、项目这周后两天在根据吉安方面的需求优化SQL，提升性能二、论文这周周六在杨老师的带领下仔细改了论文前两段，后面几天自己把剩下的改完了

童、一·2024-01-20 22:50

DN-DETR论文学习

摘要本文提出了一种新颖的去噪训练方法，以加快DETR（DEtectionTRansformer）训练，并加深了对类DETR方法的慢收敛问题的理解。我们表明，缓慢收敛是由于二分图匹配的不稳定性导致早期训练阶段的优化目标不一致。为了解决这个问题，除了匈牙利损失之外，我们的方法还向Transformer解码器馈送了带有噪声的GT边界框，并训练模型重建原始框，从而有效地降低了二分图匹配难度，并加快了收敛速

彭祥.·2024-01-18 07:45

MS-DETR: Efficient DETR Training with Mixed Supervision论文学习笔记

论文地址：https://arxiv.org/pdf/2401.03989.pdf代码地址（中稿后开源）：GitHub-Atten4Vis/MS-DETR:Theofficialimplementationfor"MS-DETR:EfficientDETRTrainingwithMixedSupervision"摘要DETR通过迭代生成多个基于图像特征的目标候选者，并为每个真实目标分配一个候选者，

athrunsunny·2024-01-18 07:13

经典论文学习：Attention Is All You Need（Transformer）

1，概述《AttentionIsAllYouNeed》是一篇由GoogleDeepMind团队在2017年发表的论文，该论文提出了一种新的神经网络模型，称为Transformer模型，用于自然语言处理任务。该模型的创新点在于使用了一种称为“自注意力机制（self-attentionmechanism）”的技术，以取代传统的循环神经网络（RNN）和卷积神经网络（CNN）等结构，这使得模型在处理序列数

才能我浪费·2024-01-15 07:37

2022-6-17晨间日记

七翎·2024-01-12 12:31

ChatGPT可以帮你做什么？

学习利用ChatGPT学习有很多，比如：语言学习、编程学习、论文学习拆解、推荐学习资源等，使用方法大同小异，这里以语言学习为例。

SiKi学院·2024-01-11 22:58

【论文学习】SOLVING INVERSE PROBLEMS IN MEDICAL IMAGING WITH SCORE-BASED GENERATIVE MODELS

【论文学习】SOLVINGINVERSEPROBLEMSINMEDICALIMAGINGWITHSCORE-BASEDGENERATIVEMODELS前言相关概念线性逆问题基于分数的生成模型扰动过程逆过程采样利用基于分数的生成模型求解逆问题一种简便的线性测量过程形式将给定的观测结果融合进无条件采样过程前言好不容易写完了这么长的一篇

Lyrig~·2024-01-11 10:23

论文学习使用基于NeRF的精炼特征从3D感知Diffusion模型下实现单视点下的人工重建

论文学习使用基于NeRF的精炼特征从3D感知Diffusion模型下实现单视点下的人工重建论文连接前言摘要介绍相关工作2.13D生成的扩散模型2.2单视点下的新视点生成神经场（NeRF）以外的方法基于神经场

Lyrig~·2024-01-11 10:52

【论文学习】InstructGPT：Training language models to follow instructions with human feedback

前言：语言模型的输出依赖于预训练的数据集，研究者想要探索无监督领域的模型，使其仅仅依赖无标签的数据就可以实现不错的效果，为了让模型的泛化性能尽可能的强，研究者会提供尽可能大的数据集。但这样的训练方法存在两个问题：一、有效性。模型的性能依赖于训练时使用的文本，但是研究者并不知道无标签的大批量的数据集是否可以使模型学习到解决指定任务的能力，可能对于特定领域来说，模型根本没见过这样的数据；二、安全性，模

Shackles Lay·2024-01-11 06:34

六个核桃Lu·2024-01-09 15:02

A Fast Learning Algorithm for Deep Belief Nets - 论文学习

文章目录摘要介绍互补先验一个带约束权的无限有向模型限制玻尔兹曼机和对比散度学习一种转换表示的贪婪学习算法SomeIdeasBasedonDBNNonlinearDimensionalityReductionLearningSemanticAddressSpace(SAS)forFastDocumentRetrievalLearningNonlinearEmbeddings参考文献摘要explain

Mr，yu·2024-01-05 14:10

周四 2020-03-12 07:15 - 24:00 晴 06h54m

11:00-11:35，对论文学习内容进行总结，编写论文记录文档。下午13:00-14:30看动漫，14:30-16:20整理计算机基本知识的文档。晚上看着手机发呆，然后讨论论文的事情，总

么得感情的日更机器·2024-01-05 00:29

smpl-x论文学习-部分翻译

论文地址：ExpressiveBodyCapture:3DHands,Face,andBodyfromaSingleImage知乎大佬的讲解：https://zhuanlan.zhihu.com/p/137235901另一位大佬的讲解：https://posts.careerengine.us/p/5f23a5898988c12b4302afb61.定性结果和SMPL，SMPL-H相比，表现能力明

ipv-tao·2023-12-30 14:55

【深度学习-图像分类】02 - AlexNet 论文学习与总结

论文地址：ImageNetClassificationwithDeepConvolutionalNeuralNetworks论文学习1.摘要本研究训练了一个大型深度卷积神经网络（CNN），用于对ImageNetLSVRC

CarNong_Blog·2023-12-30 08:10

【深度学习-图像分类】03 - VGG 论文学习与总结

论文地址：VERYDEEPCONVOLUTIONALNETWORKSFORLARGE-SCALEIMAGERECOGNITION论文学习1.摘要这篇论文探讨了在大规模图像识别任务中，卷积神经网络（ConvNets

CarNong_Blog·2023-12-30 07:36

【深度学习-目标检测】06 - FPN 论文学习与总结

论文地址：FeaturePyramidNetworksforObjectDetection论文学习1.摘要多尺度特征的重要性：论文强调在对象检测任务中，多尺度特征对于处理不同大小的对象至关重要。

CarNong_Blog·2023-12-27 21:39

【深度学习-目标检测】01 - R-CNN 论文学习与总结

论文地址：Richfeaturehierarchiesforaccurateobjectdetectionandsemanticsegmentation论文学习摘要（Abstract）对象检测性能的现状

CarNong_Blog·2023-12-27 21:09

【深度学习-目标检测】04 - SSD 论文学习与总结

论文地址：SSD:SingleShotMultiBoxDetector论文学习1.摘要单一深度神经网络用于对象检测：SSD方法使用一个单一的深度神经网络来直接检测图像中的对象，这与传统的需要先生成对象提议

CarNong_Blog·2023-12-27 20:08

【深度学习-目标检测】05 - YOLOv1 论文学习与总结

论文地址：YouOnlyLookOnce:Unified,Real-TimeObjectDetection论文学习1.摘要YOLO的提出：作者提出了YOLO，这是一种新的目标检测方法。

CarNong_Blog·2023-12-27 19:24

2023年12月9日~12月15日周报（调试OpenFWI代码、利用TensorBoard进行可视化、完成论文附录阅读）

目录一、前言二、学习情况2.1日志记录—Tensorboard2.1.1实例化SummaryWriter类2.1.2使用各种add方法记录数据2.2OpenFWI论文学习情况2.3训练情况2.3.1个人训练情况

摘星星的屋顶·2023-12-27 09:41

论文学习记录之OpenFWI（Large-scale Multi-structuralBenchmark Datasets for Full Waveform Inversion）

目录0Abstract—摘要1Introduction—简介2SeismicFWIandForwardModeling—地震FWI和正演模拟3OpenFWIDatasetsandDomainInterests—OpenFWI数据集与领域兴趣4OpenFWIBenchmarks—OpenFWI基准4.1DeepLearningMethodsforFWI—FWI的深度学习方法4.2InversionB

摘星星的屋顶·2023-12-27 09:40

【深度学习-目标检测】03 - Faster R-CNN 论文学习与总结

论文地址：FasterR-CNN:TowardsReal-TimeObjectDetectionwithRegionProposalNetworks论文学习1.摘要与引言研究背景与挑战：当前最先进的目标检测网络依赖于区域提议

CarNong_Blog·2023-12-26 08:06

【深度学习-目标检测】02 - Fast R-CNN 论文学习与总结

论文地址：FastR-CNN论文学习1.摘要（Abstract）FastR-CNN方法的提出：论文提出了一种快速区域卷积网络的办法，基于之前的R-CNN网络进行改进。

CarNong_Blog·2023-12-26 08:35

VGG 论文学习

题目：VERYDEEPCONVOLUTIONALNETWORKSFORLARGE-SCALEIMAGERECOGNITION题目译:大规模图像识别的的深度卷积神经网络作者:KarenSimonyan∗&AndrewZisserman+VisualGeometryGroup,DepartmentofEngineeringScience,UniversityofOxford研究背景：ILSVRC-20

奋斗的bobo·2023-12-23 10:09

论文笔记：Bilinear Attention Networks

更精简的论文学习笔记1、摘要多模态学习中的注意力网络提供了一种选择性地利用给定视觉信息的有效方法。然而，学习每一对多模态输入通道的注意力分布的计算成本是非常昂贵的。

hongyuyahei·2023-12-18 17:30

Inception V3 论文学习记录

原文：RethinkingtheInceptionArchitectureforComputerVision论文同时提出来InceptionV2和InceptionV3，它聚焦在提升模型准确率的前提下，还追求了计算效率和能耗等移动设备上的性能。目标在于充分利用计算效率通用设计原则1.避免过度降维或收缩特征，特别是在网络浅层降维会造成各通道间的相关性信息丢失，仅反映了稠密的信息2.特征越多，收敛越快

砥砺前行的人·2023-12-17 23:32

音乐可视化--论文学习（2)--音乐数据可视化调查

ASurveyonVisualizationsforMusicalDataR.Khulusi,1J.Kusnick,1C.Meinecke,1C.Gillmann,1J.Focht2andS.Jänicke31ImageandSignalProcessingGroup,InstituteforComputerScience,LeipzigUniversity,Leipzig,Germany{khu

楼下桑桑桑·2023-12-17 07:24

SMOKE Single-Stage Monocular 3D Object Detection via Keypoint Estimation 论文学习

论文地址：SMOKE:Single-StageMonocular3DObjectDetectionviaKeypointEstimationGithub地址：https://github.com/open-mmlab/mmdetection3d/tree/main/configs/smoke1.解决了什么问题？预测物体的3D朝向角和平移距离对于自动驾驶感知非常重要。现有的单目视觉方法主要包含两个部

calvinpaean·2023-12-06 23:41

【论文学习】GRAPH ATTENTION NETWORKS

背景通过在图算法中引入self-attention的机制，解决图卷积中之前的一些问题，并且保证了时间和空间复杂度线性于图的边或者节点。图注意力网络计算方式1.图网络每一层的输入和输出都是每个节点的特征向量。2.每条边的注意力权重计算3.左图是self-attention权重的计算，右图是某个节点multi-head-attention的计算方式，加权多个head之后求平均。4.multi-head

WitsMakeMen·2023-12-06 18:50

CVPR 2023 精选论文学习:Seeing What You Miss Vision-Language Pre-Training With Semantic Completion Learning

以下是根据MECE原则找到的四个可以作为分类标准的特征：1.预训练任务。预训练任务是指模型在用于下游任务之前进行训练的特定任务。在视觉语言预训练的背景下，有几种常见的预训练任务：对比学习：在对比学习中，模型被训练来区分相似和不相似的示例对。例如，在视觉语言预训练的情况下，模型可以被训练来区分图像和它们对应的标题，或区分图像和它们对应的描述。掩码语言建模(MLM)：在MLM中，模型被训练来预测句子中

结构化文摘·2023-12-06 12:36

CVPR 2023 精选论文学习笔记：Instant Volumetric Head Avatars

以下是四个可以作为分类标准的特征：1.数据表示。数据表示是NeRF的一个基本方面，它决定了输入数据如何在模型中编码和利用。数据表示的选择会显著影响NeRF模型的效率、准确性和适用性。隐式NeRF。隐式NeRF使用一个连续函数来表示场景，将空间中的每个点映射到其对应的颜色和密度值。这种连续表示具有以下优点：表达力：隐式NeRF可以有效地捕捉精细的几何形状和复杂的细节，使其适用于模型复杂场景。效率：隐

结构化文摘·2023-12-06 12:06

CVPR 2023 精选论文学习笔记：UniSim A Neural Closed-Loop Sensor Simulator

基于MECE原则，我们给出以下分类标准：标准1：仿真类型仿真类型是指仿真器是否能够实时生成场景。实时仿真器能够以每秒至少30帧的速度生成图像和视频，使其适用于训练和测试自动驾驶汽车等机器人。另一方面，离线仿真器不是实时的，但它们可以生成更逼真的图像和视频。这使它们更适合创建计算机视觉算法的训练数据等任务。实时仿真：这些仿真器设计用于与模拟系统在闭环中运行，允许实时交互和决策。这种仿真类型对于训练和

结构化文摘·2023-12-06 12:05

CVPR 2023 精选论文学习笔记：Towards Scalable Neural Representation for Diverse Videos

基于MECE原则，我们给出以下四个分类标准：分类标准1：表示类型隐式神经表示（INR）隐式神经表示（INR）是一类神经网络架构，将场景或对象表示为从3D点映射到颜色和不透明度值的连续函数。该函数通常从一组训练图像或视频中学习，然后可以用于渲染场景或对象的新视图。INR已被证明

结构化文摘·2023-12-06 12:35

推荐频道