中文标题：针对动态场景的神经辐射场（本文只介绍与NeRF不同的知识点）发布会议：CVPR2021问题NeRF仅针对静态场景，从不同帧（视角下）重建相同的空间位置。创新点将时间作为系统的输入将训练分为两个阶段：阶段1：将任意时间上的场景编码到规范场景上（x,y,z,t）→(Δx,Δy,Δz)（x,y,z,t）\rightarrow(\Deltax,\Deltay,\Deltaz)（x,y,z,t）→

EnhancedDeepResidualNetworksforSingleImageSuper-ResolutionAbstract:UseResidualNetworksbutoptimizeitbyanalyzingandremovingunnecessarymodulesDosomemodificationontrainingmulti-scaletrainingPSNRandSSIMRel

[论文笔记]EDSR文章目录[论文笔记]EDSR一，简介二，EDSR网络ResidualblocksSR问题中BN层不好的原因残差缩放(residualscaling)网络架构三，MDSR模型思路来源网络架构四

4.EDSR1.研究背景：这项工作最初是为了参加NTIRE2017超分辨率挑战赛而提出的。该挑战旨在开发具有最高PSNR的单幅图像超分辨率系统。该比赛存在两个针对不同下采样方法，每个轨道有三个下样本尺度(×2,×3,×4)。2.存在问题：1.一般研究假设LR是HR的双三次下采样版本，但在实际应用中也可以考虑其他降级因素，如模糊、抽取或噪声。2.神经网络模型的重构性能对微小的架构变化非常敏感，精心设

5.RDN1.研究背景：大多数基于深度CNN的SR模型都没有充分利用原始低分辨率图像的层次特征，因此性能相对较低。2.存在问题：图像中的物体具有不同的比例、视角和纵横比。来自深度网络的层次特征将为重建提供更多线索。例如FSRCNN中的Conv层，SRResNet中的残差块和EDSR都以链式方式堆叠构建模块，都忽略了充分利用每个Conv层的信息，只采用LR空间中最后一个Conv层的CNN特征进行升级

code：https://github.com/LiangHann/USAR一句话简介：利用对抗学习基于分割网络的结果重建输入图像，实现无监督细胞分割。1.Introduction训练基于CNN的细胞分割模型，需要大量有mask标注的训练数据，而这是相当费力和昂贵的。作者提出了一种完全无监督的模型来训练细胞分割网络，命名为无监督分割网络对抗性重建学习（UnsupervisedSegmentatio

参考原文：https://blog.csdn.net/sinat_33487968/article/details/83582299关于inception系列的论文笔记可以查看https://blog.csdn.net

DenseNet论文笔记DenselyConnectedConvolutionalNetworksIntroduction中引用了Deepnetworkswithstochasticdepth,提到了resnet

本月重要成果：学会了室内平面布局，一些简单的施工工艺，学习易效能工作法今日三只青蛙/番茄钟论文笔记室内平面布局成功日志-记录三五件有收获的事务昨天第一次发公众号，发表在公司

NNI简介NNI(NeuralNetworkIntelligence)是一个轻量级但功能强大的自动机器学习（AutoML）工具包，可帮助用户自动化特征工程、神经架构搜索、超参数调优和模型压缩，并支持单机

目录前言一、摘要二、R-Drop介绍三、R-Drop公式详解四、R-Drop计算流程附录0：代码附录一：熵以及信息熵附录二：KL散度（相对熵）附录三：JS散度附录四：互信息总结前言R-Drop——神经网络的正则化DropOut一、摘要摘要：Dropout是一种强大且广泛应用的深度神经网络的调整训练的技术。尽管效果很好，但由于Dropout所带来的随机性导致了训练和实际之间的不一致性。在本文中，我们

论文地址：https://arxiv.org/abs/2204.03610代码地址：https://github.com/microsoft/UniCL微软的工作，在图像-文本对比学习的基础上引入了标签信息。摘要视觉识别目前使用两种类型的方法：基于图像-标签的监督学习，或基于图像-文本的对比学习。由于数据源和学习目标不同，两种学习各有优势，图像-标签的预训练方式能生成更具有判别力的表征，图像-文本

自监督学习近两年的一些比较好的方法：SimCLR,MoCo,BYOL。关于这几个方法有一个博客值得一看：https://generallyintelligent.ai/blog/2020-08-24-understanding-self-supervised-contrastive-learning/自监督学习中，近几年一个很热门的方向是自监督对比学习，包括SimCLR，MoCo，CPC等方法都是

论文链接：AComprehensiveStudyofDeepVideoActionRecognition目录AComprehensiveStudyofDeepVideoActionRecognitionAbstract1.Introduction2.DatasetsandChallenges2.1.Datasets2.2.Challenges3.AnOdysseyofUsingDeepLearni

·目录摘要1.引言2.相关工作3.提出BIRA-NET分级方法3.1常规ResNet3.2提出注意力机制3.3.所提出的双线性模型3.4分级损失4.实验结果4.1数据集及实现：4.2性能标准4.3Baseline方法4.4结果5.结论目录摘要糖尿病性视网膜病变(DR)是一种常见的导致失明的视网膜疾病。为了诊断的目的，DR图像分级旨在提供自动的DR分级分类，这在传统的二元DR图像分类研究方法中是没有

4.BridgingthegapbetweenNaturalandMedicalImagesthroughDeepColorization摘要：深度学习通过在大规模数据集上进行训练而蓬勃发展。但在医学图像诊断的许多应用中，由于隐私性、采集同质性差、标注成本高等原因，仍然无法获取大量数据。在这种情况下，从自然图像集合中转移学习是一种标准做法，它试图通过预先训练的模型微调来一次性处理形状、纹理和颜色差

一、基本信息标题：MaskR-CNN时间：2018引用格式：MaskR-CNNHe,Kaiming,etal.“Maskr-cnn.”ProceedingsoftheIEEEinternationalconference二、研究背景FasterR-CNN最终得到是bbox和类别，而且对小物体检测不太准确，所以本文提出一种除了可以检测box和类别外，还可以检测mask的网络。就是MaskR-CNN。

2.2.2，局部结构化剪枝2.2.3，局部结构化剪枝示例代码2.3，全局非结构化剪枝三，总结参考资料一，剪枝分类所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术

本文为MobileNet系列论文阅读笔记。MobileNet是一个轻量级模型，参数少、推理快，在学术界和工业界都很受欢迎。目录一、MobileNetV11、DepthwiseSeparableConvolution2、网络结构3、实验结果二、MobileNetV21、LinearBottlenecks2、Invertedresiduals3、网络结构三、MobileNetV31、SE(Sequee

此篇论文也是非常适合深度学习领域的小白观看的经典论文，本文为在学习论文期间的也算希望能帮助到大家，有不足地方还希望大家谅解，以后会给大家带来更高质量的学习论文笔记总结。论文原文：1409.15

本文在一个模拟的数据中心中对四种actor-critic算法进行了实验评估。性能评估基于它们在提高能效的同时保持热稳定性的能力，以及它们对天气动态的适应性。与在EnergyPlus中实施的基于模型的控制器相比，所有应用的算法都可以通过同时将每小时平均温度保持在所需范围内来减少至少10%的能耗。一、引言大多数当前住宅建筑的HVAC管理系统使用经典算法，例如基于规则的控制器或比例、积分和微分控制器(P

一.评价指标的分类关于图像质量的评价指标一般根据是否参考原始影像分为三种：全参考部分参考无参考（1）全参考这些一般跟深度学习搭边结构相似性SSIM、峰值信噪比PSNR（这俩都是越大越好）均方误差MSE（越小越好）等等（2）部分参考没咋研究过（3）无参考这些比较简单传统图像处理均值，标准差，平均梯度，信息熵等等二论文用到的评价指标我的实验数据集是自己在谷歌卫星影像上搜集的六大洲每个州选一个国家数据集

论文思路：这个色块提取方法发了专利：一种支持多源拼接图像的色块自动分割方法可以去度娘写的比较水hhh一色块提取方法：①首先是色彩模型的转换由RGB颜色空间转到HSV颜色空间原因：RGB颜色空间适合显示系统，但是各分量间相关性很强，比如当图像亮度发生变化时，RGB三个分量都会发生相应改变但是HSV颜色空间更能感知颜色的变化，比如说H=60时就是黄色S和V只是决定了黄色的饱和度和明度所以更适合进行图像

RemoteSensingChangeDetectionusingDenoisingDiffusionProbabilisticModels代码链接：https://github.com/wgcban/ddpm-cd摘要人类文明对地球系统的影响越来越强大，而地球观测是评估和减轻负面影响的宝贵工具.为此，观察地球表面精确定义的变化是至关重要的，我们提取了一种实现这一目标的有效方法.值得一提的是，我们

DeteministicPolicyGradientAlgorithms文章目录DeteministicPolicyGradientAlgorithms论文干货on-policy与off-policy论文干货论文论证了确定性策略明显优于随机性策略在高维动作空间问题中。策略梯度算法广泛运用在深度强化学习中的连续控制领域。策略梯度算法的主要意思是用参数概率分布πθ(a∣s)=P[a∣s;θ]\pi_{

一.评价指标的分类关于图像质量的评价指标一般根据是否参考原始影像分为三种：全参考部分参考无参考（1）全参考这些一般跟深度学习搭边结构相似性SSIM、峰值信噪比PSNR（这俩都是越大越好）均方误差MSE（越小越好）等等（2）部分参考没咋研究过（3）无参考这些比较简单传统图像处理均值，标准差，平均梯度，信息熵等等二论文用到的评价指标我的实验数据集是自己在谷歌卫星影像上搜集的六大洲每个州选一个国家数据集

参考：https://blog.csdn.net/zlgahu/article/details/104662203?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromBaidu-5.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogC

YOLOX阅读笔记YOLOX:ExceedingYOLOSeriesin2021（CVPR2021）动机解决方案Decoupledhead（解耦头）Strongdataaugmentation（数据增强）Anchorfree（无锚检测器）Multipositives（增加正样本）SimOTAEnd-to-EndYOLO问题YOLOX:ExceedingYOLOSeriesin2021（CVPR20

文章目录1简介1.1创新2方法3实验1简介论文题目：Zero-ShotTransferLearningforEventExtraction论文来源：ACL2018论文链接：https://arxiv.org/pdf/1707.01066.pdf代码链接：https://github.com/wilburOne/ZeroShotEvent1.1创新将事件抽取定义为genericgroundingpr

人们开始研究如何降低计算资源的消耗，有模型压缩，蒸馏等等方法。之前有论文发现bert中的某些注意力头只学习局部依赖，那么完全就没必要使用selfattention的方法来学习这些依

论文笔记|DCS-RISR:DynamicChannelSplittingforEfficientReal-worldImageSuper-Resolution太久没更新了，因为最近读的文章都比较经典，

LeNet-5卷积神经网络论文笔记-Gradient-BasedLearningAppliedtoDocumentRecognition第Ⅰ、Ⅱ部分笔记文章目录LeNet-5卷积神经网络论文笔记-Gradient-BasedLearningAppliedtoDocumentRecognition

论文获取地址:https://arxiv.org/abs/1806.01810(ECCV2018)作者:XiaolongWang,AbhinavGupta(CMU)之所以看到该论文，是在前不久收听中科院B站上的录播内容，就是胡瀚研究员介绍自己的swintransformer的工作时指出这篇论文也很早的尝试了对相对关系建模的实现。可以发现现今计算机视觉邻域大火的transformer的本质也就是这个

MatthewD.Zeiler，RobFergus.VisualizingandUnderstandingConvolutionalNetworks.CVPR2014.论文下载推荐一篇比较好的blog：VisualizingFeaturesfromaConvolutionalNeuralNetwork(github-tensorFlow程序)关于Deconvolution一直存在一个疑惑，为什么反

参考论文笔记：SEMI-SUPERVISEDCLASSIFICATIONWITHGRAPHCONVOLUTIONALNETWORKS如何理解GraphConvolutionalNetwork（GCN）？

DeepInterestNetworkforClick-ThroughRatePrediction论文笔记论文地址：DeepInterestNetworkforClick-ThroughRatePrediction

昨天将模型压缩到了4.4MB，之后还想进一步压缩，这时最直接的一个想法是将模型中的单精度浮点数换成半精度浮点数，从理论上，不仅可以减少一半的模型大小，还可以减少一半的计算量和现存占用。

方向：AQA（ActionQualityAssessment）,即对动作质量进行分析评估。文章原文：https://arxiv.org/abs/1904.04346笔记：http://note.youdao.com/noteshare?id=6b585edf1ed6175dc671ba272b4ed203&sub=0ABA22DFC15A4FE39FEC2087DB8FF89A

论文链接：P-Tuningv2:PromptTuningCanBeComparabletoFine-tuningUniversallyAcrossScalesandTasks代码链接：https://github.com/THUDM/P-tuning-v2主要内容将prompttuning引入到NLU(NaturalLanguageUnderstanding)中，提出了P-Tuningv2，可以作

目录引言论文介绍1.Continuousprompt2.Prompt是否真的有用思考总结引言像BERT这样的预训练模型学习了大规模语料的词分布，同时也学习了语料中的客观事实。基于这样的直觉，Petronietal.(2019)提出LAMA模型，首次从BERT中以完形填空的方式提取客观事实，探究语言模型中包含多少客观知识。他们将BERT的准确度看作预训练模型含客观事实的比例的下界。事实推理任务（Fa

论文来源：NAACL2022论文链接：https://arxiv.org/pdf/2109.13532.pdf代码地址：https://github.com/rtmaww/EntLM/Abstract基于提示学习的方法成功应用于句子级的小样本学习任务主要得益于模板和标签词的复杂设计，但是当应用于token级别的标签任务（如NER）时，在所有潜在的实体spans内枚举模板是非常耗时的。针对此问题，本

文章目录RelatedWorks方法RenderingProcedure场景表示SceneRepresentation渲染Rendering权重函数weightfunctionDiscretizationTraining分层采样HierarchicalSampling实现细节实验AblationstudyThinstructures近来非常火热的NeuralImplicitFunction：Vol

中文标题:密集预测的视觉Transformers创新点DPT是一种密集预测架构，它基于编码器-解码器的设计，利用一个Transformer作为编码器的基本模块。具体来说，我们使用最近提出的ViT作为主干架构。我们将ViT提供的tokens表示重新组合成不同分辨率的类图像特征表示，并使用卷积解码器逐步将特征表示组合到最终的密集预测中。与全卷积网络不同，视觉Transformer主干在计算出初始图像嵌

1.什么是deconvolution反向映射，用来可视化深度特征，也可以用来重建图片。2.合成图片两种方式：1）生成全图的模型，效果不错但只对小图work,保真度fidelty低，一般用autoencoder2）马尔科夫模型，同时生成texture。可以捕获局部patch的统计信息。本文是第二种3.主要通过stridedconvolutionalnetwork取代pooling来加速inversi

中文标题：单目深度估计：回顾2022年最先进技术本文对比了物种最近的基于深度学习的单目深度估计方法：GPLDepth(2022)[15]:Global-LocalPathNetworksforMonocularDepthEstimationwithVerticalCutDepthAdabins(2021)[1]:Adabins:Depthestimationusingadaptivebins3Ds

中文标题：基于神经4D光场的高效新视角合成创新点在我们的方法中，一个3D场景被表示为一个光场，即一组射线，每条射线在到达图像平面时都有相应的颜色。为了实现高效的新视图渲染，我们采用了光场的双平面参数化，其中每条射线都有一个四维参数.与NeRF相比：通过将新的视点限制在物体的凸包之外，可以将5D辐射场简化为较低维的光场，例如4D。提出的算法4D光场表示空间中所有可能的光线都可以用五维多光函数来描述。

1.动机通常情况下，BERT类模型总是需要一些样例来更新模型的参数从而让模型更加适应当前的任务，而GPT-3却号称可以“告别微调”，可以仅仅通过一个自然语言提示（prompt）以及少量甚至无需样例（标注样本）就可以作出正确的预测，即GPT-3可以通过不使用一条样例的Zero-shot、仅使用一条样例的One-shot和使用少量样例的Few-shot来完成推理任务。下面是对比微调模型和GPT-3三种

一为什么读这篇传说中的残差网络原文，何大神开始传奇之路的起点（当然之前的去雾也很牛逼，但是没这篇影响广泛和深远）。算是开创了CNN网络中的ResNet一派，另一派是google的Inception系列。之前读了很多其他人的解读，这次真正从原作出发，看看能吸收到什么知识点二截止阅读时这篇论文的引用次数2018.11.1614327次三相关背景介绍2015年12月刊发于arXiv，彼时几个作者还在MS

论文原文：https://arxiv.org/abs/2107.02192论文笔记：百度网盘提取码：nzsi1.SummaryContributions：（1）提出了一种长短时Transformer模型

简介：对normalization层进行改进，提出spectralnormalization（SN-GAN），以提高Discriminator的训练稳定度；优点：1、Lipschitz常数是唯一需要进行调节的超参；2、实现简单，额外的计算成本很低；一、背景原始（2014年）GAN公式，Ex～qdata[log⁡D(x)]+Ex′～pG[log⁡(1−D(x′))]E_{x～q_{data}}[\l