论文笔记——模型压缩第28页

论文笔记 | 用户画像

移动互联时代已经到来，广告营销在社交媒体中展现出蓬勃的生命力，信息流广告正是这样一种以社交媒体平台为载体，将推广内容隐藏于自然信息流中，从而传递品牌信息的一种新兴广告形式。《社交媒体信息流广告的场景匹配研究》周子玉用户画像是场景匹配在社交媒体信息流广告分发中的一种应用。1背景随着2019年5G正式投入商用，运营商迎来新的收入增长点。中国电信副总经理刘桂清在2021年中期业绩说明会上表示：“5G收入

mustuo·2023-02-01 09:56

Que2Search: Fast and Accurate Query and Document Understanding for Search at Facebook论文笔记

0、论文资料论文地址：Que2Search:FastandAccurateQueryandDocumentUnderstandingforSearchatFacebook|Proceedingsofthe27thACMSIGKDDConferenceonKnowledgeDiscovery&DataMining1、摘要提出Que2Search，利用多任务和多模态训练方法，学习query和produ

倔强超·2023-02-01 09:54

[论文笔记] Cassandra - A Decentralized Structured Storage System

Young.Chen·2023-02-01 09:24

Facebook灰度手势识别论文笔记

MEgATrack:monochromeegocentricarticulatedhand-trackingforvirtualreality总体思路：面对输入的灰度图像，先使用DetNet从原始图像中选出手的图像裁减出来，将裁减后图像输入KeyNet，KeyNet输出一个2D的位置热力图和一个1D的相对位置的热力图，热力图预测关键点位置还需要一步如argmax,高斯拟合，sof-argmax等，

元孜然·2023-02-01 09:52

深度学习模型压缩与加速综述

因此，如何在不影响深度学习模型性能的情况下进行模型压缩

小白学视觉·2023-02-01 08:30

模型优化论文笔记1----综述

[1]赖叶静,郝珊锋,黄定江.深度神经网络模型压缩方法与进展[J].华东师范大学学报(自然科学版),2020(05):68-82.Int

JaJaJaJaaaa·2023-02-01 08:30

【论文翻译】边缘应用中加速卷积神经网络的剪枝算法综述

摘要随着卷积神经网络（CNN）模型大小的增加，模型压缩和加速技术对于在边缘设备上部署这些模型变得至关重要。

weixin_50862344·2023-02-01 08:18

计算机视觉论文笔记

写在前面我是使用notion来记录我的学习笔记，接下来我会陆续把自己学习过程中看到的知识点、论文笔记等发到博客中，如果有哪里出错，欢迎大家指出（实时更新）！

@zzy·2023-02-01 07:11

【论文笔记】基于强化学习的车间调度问题研究简述

目录摘要关键字引言1背景1.1车间调度问题1.1.1车间调度问题建模1.1.2仿真技术在车间调度问题中的应用1.1.3车间调度问题的传统解决算法1.2强化学习问题1.2.1基本概念与定义1.2.2深度强化学习2两种主要的强化学习调度结构2.1单智能体架构2.2多智能体架构3强化学习车间调度算法简述3.1直接调度3.2基于特征表示的调度3.3基于参数搜索的调度3.4三类强化学习调度算法的对比4结论摘

Ctrl+Alt+L·2023-02-01 07:23

【nlp论文笔记】 Glyce: Glyph-vectors for Chinese Character Representations

Abstract本文贡献：我们使用中国历史文字(如青铜器文字、篆书、繁体字等)来丰富文字的象形证据;设计适合中文字符图像处理的CNN结构(称为天泽-CNN);将图像分类作为多任务学习的辅助任务，以提高模型的泛化能力。作者表明，基于符号的模型能够在广泛的中文NLP任务中始终优于基于字/字符的模型。我们能够为各种中文NLP任务设置最新的结果，包括标记(NER、CWS、POS)、句子对分类、单句分类任务

yuexiaomao·2023-01-31 18:26

论文笔记：NAFNet: Simple Baselines for Image Restoration

love_lqz·2023-01-31 16:55

【图像去模糊】Deep Multi-scale Convolutional Neural Network for Dynamic Scene Deblurring论文笔记

一.论文概述一般因动态场景造成的非均匀模糊是图像去模糊中一个具有挑战性的问题，这类模糊由相机抖动、场景深度以及多个对象运动造成。消除这类复杂运动模糊，传统的基于简单假设的方法不在适用在本文中，作者提出了一种多尺度卷积神经网络，以端到端的方式恢复由多种原因造成的模糊图像，作者还提出了多尺度损失函数来模拟传统的由"粗糙到精细"的方法。此外，作者还提出了一个新的大规模数据集（仅由模糊和清晰图像对组成），

亿点困难·2023-01-31 15:52

点云智能研究进展与趋势（论文笔记）

论文信息：杨必胜,董震.点云智能研究进展与趋势[J].测绘学报,2019,48(12):1575-1585.原文地址：知网。我把要点提取出来，作为学习笔记，加深印象，大家有需要的可以看看。学习交流：weixin：hl_whu。0前言（1）用途：点云已成为继矢量地图和影像数据之后的第三类重要的时空数据源。（2）采集：星载、有人／无人机载、车载、地面、背包、手持等多平台、多分辨率的系列化装备。（3）处

珞珈小怪·2023-01-31 15:51

【CV】图像恢复（去噪，去模糊，超分）模型 DPDNN 论文笔记

论文名称：DenoisingPriorDrivenDeepNeuralNetworkforImageRestoration论文下载：https://arxiv.org/abs/1801.06756论文年份：TPAMI2019论文被引：9（2022/04/17）论文代码：TF：https://github.com/WeishengDong/DPDNNTorch：https://github.com/

datamonday·2023-01-31 13:53

CVPR 2017 ADNet:《 Action-Decision Networks for Visual Tracking with Deep Reinforcement Learning》论文笔记

理解出错之处望不吝指正。本文模型叫做ADNet。该模型通过强化学习产生动作序列（对bbox进行移动or尺度变换）来进行tracking。原理如下图（第一列代表初始帧，第二列和第三列代表通过RL产生的动作序列对object进行tracking）：模型的整体结构如下：强化学习部分：（1）状态：状态分为和两部分。其中代表正在tracking的bbox（当前图片信息，可在上图中看到），则是一个维的向量，存

NeverMoreH·2023-01-31 12:30

ADNet视频目标跟踪论文笔记

文章目录1.论文基本信息2.论文想要解决的问题3.核心思想4.数学符号5.重要概念及定义5.1Action5.2State5.3状态转移函数（Statetransitionfunction）5.4奖励（Reward）6.网络结构7.Off-lineSupervisedLearning8.Off-lineReinforcementLearning8.1模拟跟踪（trackingsimulation）

越野者·2023-01-31 12:29

DynaSLAM源码笔记-检测动态物体部分梳理

安装方法见：关于运行DynaSLAM源码这档子事(OpenCV3.x版)论文笔记见：论文笔记-DynaSLAM:Tracking,MappingandInpaintinginDynamicScenes如果有什么不同的理解

wrotcat·2023-01-31 11:00

Bertopology: Bert及其改进型总结

因此各种模型压缩的方法层出不穷。本篇博客意在总结Bert及其改进型主要的特点，这也是NLP算法面试常见的问题。Bert使用的激活函数是GELU：正态分布下GELU(x)，论文给出了近似计算公式:GEL

从流域到海域·2023-01-31 11:42

论文笔记(三)《Unsupervised representation learning using deep convolution to generate adversarial network》

0Abstract近年来，利用卷积网络（CNNs）进行的有监督学习在计算机视觉应用中得到了巨大的应用。相对而言，使用CNNs的无监督学习受到的关注较少。在这项工作中，我们希望能够帮助缩小CNNs在有监督学习和无监督学习之间的差距。我们介绍了一类被称为深度卷积生成对抗性网络（Deepconvolutionalgenerativeadversarialnetworks，DCGANs）的CNNs，它们具

爱吹口哨的夜莺·2023-01-31 10:46

论文笔记：Multiview 2D/3D Rigid Registration

Multiview2D/3DRigidRegistration主要贡献相关工作总结方法实验主要贡献提出一种新的基于学习的多视图2D/3D刚性配准方法，该方法通过利用X射线和DRR之间的点对点对应关系直接测量3D对齐误差，从而避免了昂贵且不可靠的迭代姿势搜索，从而提供了更快，更可靠的配准。提出一种新颖的POI跟踪网络，该网络使用具有兴趣点（POI）卷积的SiameseU-Net构建，从而能够进行细化

H.Y.·2023-01-31 09:43

论文笔记——Densely Connected Convolutional Networks(DenseNet)

论文下载：https://arxiv.org/pdf/1608.06993.pdf论文代码：https://github.com/liuzhuang13/DenseNet论文摘要：作者提到，卷积网络在靠近输入的层和靠近输出的层之间包含较短的连接(即输入卷积层的特征和卷积层输出的特征进行整合连接)，那么这个网络的训练就可以更深入、更准确、更有效。作者基于这一观察，引入DenseNet(DenseCo

BlackBack_·2023-01-31 07:53

【paper 1】Densely Connected Convolutional Networks CVPR2017 随笔

参考链接网络模型--DenselyConnectedConvolutionalNetworksCVPR2017最佳论文作者解读：DenseNet的“what”、“why”和“how”｜CVPR2017论文笔记

117瓶果粒橙·2023-01-31 07:21

从基础综述、论文笔记到工程经验、训练技巧：值得一看的目标检测好文推荐...

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达本文授权转自知乎作者跑者小越，https://zhuanlan.zhihu.com/p/140036646。未经作者许可，不得二次转载。前言依稀记得两年前刚开始接触深度学习和目标检测的时候，惊喜地发现知乎上有很多优质的目标检测相关文章，其中不少甚至是论文作者自己写的，极具食用价值。通过阅读这些文章，不仅加深了我对现有目标检测领域

小白学视觉·2023-01-31 05:09

【论文笔记】 VIT论文笔记，重构Patch Embedding和Attention部分

淮gg·2023-01-30 22:47

论文笔记——通过影响函数理解黑盒预测（Understanding Black-box Predictions via Influence Functions）

论文——UnderstandingBlack-boxPredictionsviaInfluenceFunctions1.介绍2.方法一些定义2.1增重一个训练点2.2干扰一个训练输入1.介绍《UnderstandingBlack-boxPredictionsviaInfluenceFunctions》这篇paper是来自2017年的ICMLbestpaper的，其背景在摘要部分已经写明，即为了解释

wei22134·2023-01-30 21:06

《Improving Language Understanding by Generative Pre-Training》论文笔记

引言GPT（GenerativePre-Training）受到《Semi-SupervisedSequenceLearning》与《UniversalLanguageModelFine-tuningforTextClassification》的启发，采用“预训练+Fine-tune”两阶段的方式，在不降低模型效果的基础上，以统一的模型结构处理不同的NLP任务，并有效地降低有监督学习对标注数据的依赖

凯子要面包·2023-01-30 20:47

Sams-Net: A Sliced Attention-based Neural Network for Music Source Separation论文笔记

文章目录AbstractIntroductionMusicSourceSeparationModelDescriptionScaledDot-ProductAttentionMulti-HeadAttentionSlicedAttentionDepthwiseSeparableCNNLayerNormExperimentalResultsConclusionsAbstract基于卷积神经网络(CN

J_Xiong0117·2023-01-30 19:29

论文笔记 / Deep features for breast cancer histopathological image classification

仅供参考，如有翻译不到位的地方敬请指出。转载请标明出处！论文地址：https://ieeexplore.ieee.org/abstract/document/8122889/citations#citations摘要乳腺癌（BC）是一种致命疾病，每年导致数百万人死亡。开发应用于患者图像的自动化恶性BC检测系统可以帮助更有效地处理该问题，使诊断更具可扩展性并且不易出错。同样重要的是，这种研究可以扩展

随风飘动的小王·2023-01-30 18:27

零样本图像识别 | Feature Generating Networks for Zero-Shot Learning简单论文笔记

创新：提出f-GAN、f-WGAN和f-CLSWGAN、将WGAN的loss和Classfication的loss结合去让generator生成的features更容易被鉴别出来。在本文中，提出了解决广义零镜头学习的方法：通过一个新的GAN模型给unseen类生成CNN特征。问题定义：可见类集合零样本类集合U中样本不可见，且(可见类与零样本类不相交),ZSL任务学习,GZSL任务学习模型：提出了三

熊仔仔zz·2023-01-30 18:31

论文笔记：NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis

目录文章摘要1NeuralRadianceFieldSceneRepresentation(基于神经辐射场的场景表示)2VolumeRenderingwithRadianceFields(基于辐射场的体素渲染)2.1经典渲染方程2.2经典的体素渲染方法2.3基于分段采样近似的体素渲染方法3OptimizingaNeuralRadianceField(优化一个神经辐射场)3.1PositionalE

zaf赵·2023-01-30 17:07

【安卓】zoo for zotero && WebDAV 自动同步论文笔记

前言前言是我写这篇博客的动机，可以跳过直接从“准备”开始看之前使用mendeley管理文献，它不仅可以同步文件，还跨平台（win、安卓等）。但是后面，mendeley停止了移动平台的支持，导致我不能用我的电纸书（本质是个安卓平板）和手机等移动端随时看论文了。于是后面找了另外一个文献管理软件——zotero。zotero有安卓版本，名为zooforzotero，再结合坚果云作为WebDAV，我就可以

OTZ_2333·2023-01-30 13:54

【论文速递】PeRConAI2022 - 使用教师助理的多阶段模型压缩和基于提示的训练的蒸馏

【论文速递】PeRConAI2022-使用教师助理的多阶段模型压缩和基于提示的训练的蒸馏【论文原文】：Multi-StageModelCompressionusingTeacherAssistantandDistillationwithHint-BasedTraining

長__安·2023-01-30 12:30

【论文速递】ISBI2022 - 使用教师助理的多阶段模型压缩和基于提示的训练的蒸馏

【论文速递】ISBI2022-使用教师助理的多阶段模型压缩和基于提示的训练的蒸馏【论文原文】：AugmentingKnowledgeDistillationwithPeer-to-PeerMutualLearningforModelCompression

長__安·2023-01-30 12:18

【论文笔记】A ConvNet for the 2020s（告诉你如何trick到飞起）

前言来源|https://zhuanlan.zhihu.com/p/456432890本文目的是结合代码对该工作中的trick进行梳理，帮助广大工程师童鞋抄作业，整合到自己的项目中。AConvNetforthe2020s我愿称之为2022年cv算法工程师抄作业必备手册，手把手教你改模型，把ResNet50从76.1一步步干到82.0。或许对于广大researcher而言这只是一个堆trick的工作

m0_61899108·2023-01-30 10:40

[论文笔记]A ConvNet for the 2020s

目录AbstractModernizingaConvNet:aRoadmap2.1.TrainingTechniques2.2.MacroDesign2.3.ResNeXt-ify2.4.InvertedBottleneck2.5.LargeKernelSizes2.6.MicroDesign论文：https://arxiv.org/abs/2201.03545代码：GitHub-facebook

冲冲冲鸭鸭鸭~·2023-01-30 10:35

Transformer模型压缩

这里只讨论transformer机制的seq2seq结构，模型压缩的方法主要涉及：1.模型尺寸减少如以下参数尺寸的减少--num_encoder_layers--num_decoder_layers--

haroldLiu001·2023-01-30 08:07

【MobileNet-V2】深度学习模型压缩之MobileNetv2

论文名称深度学习模型压缩之MobileNetv2作者miclover参考https://blog.csdn.net/u010712012/article/details/95922901https://

Easy.miclover·2023-01-30 07:50

论文 | NeurIPS2020 CrossTransformers：spatially-aware few-shot transfer

一写在前面未经允许，不得转载，谢谢～～～嘿，好久不见，我要开始慢慢恢复科研论文笔记的更新啦~今天分享的文章是做小样本图像识别的。

与阳光共进早餐·2023-01-29 22:43

论文笔记之《Pre-trained Language Model for Web-scale Retrieval in Baidu Search》

预训练语言模型在百度网页搜索中的应用Query-Document相关性模型Bi-encoderCross-encoderPoly-encoder四阶段训练范式pretraining-阶段一post-pretraining-阶段二intermediatefine-tuning-阶段三targetfine-tuning-阶段四Embedding压缩和量化Embedding压缩Embedding量化基于

rogeroyer·2023-01-29 20:42

【论文笔记】DECI:Deep End-to-end Causal Inference

DeepEnd-to-endCausalInference文章目录DeepEnd-to-endCausalInference一、介绍二、RelatedWork1.CausalDiscovery2.CausalInference三、DECI1.DECIandCausalDiscovery结构方程模型的似然函数外部噪声模型pzp_zpz的选择训练与推导2.TheoreticalConsideratio

进击的趴菜·2023-01-29 20:02

【论文笔记】SELF：Structural Equational Likelihood Framework for Causal Discovery

SELF:StructuralEquationalLikelihoodFrameworkforCausalDiscovery目录SELF:StructuralEquationalLikelihoodFrameworkforCausalDiscovery一、背景介绍1.基于全局视图的方法2.基于局部视图的方法总结二、SELF正文三、解决优化问题附录.公式推导论文传送门SELF:StructuralE

进击的趴菜·2023-01-29 20:32

《AI系统周刊》第5期：Cerebras发布可运行120万亿参数AI模型的CS-2芯片

系统是当前人工智能领域极具现实意义与前瞻性的研究热点之一，为了帮助研究与工程人员了解这一领域的进展和资讯，我们“AI系统”兴趣组整理了第5期《AI系统周刊》，从论文推荐、研究动态等维度推荐近期AI系统领域值得关注的信息，内容主要包括模型压缩

智源社区·2023-01-29 19:21

论文笔记之Feature Generation by Convolutional Neural Network for Click-Through Rate Prediction

FeatureGenerationbyConvolutionalNeuralNetworkforClick-ThroughRatePrediction目标：CTR预估。本文指出之前的CTR预估模型大多都基于特征交互，然而这些模型的问题在于相比于特征交互空间的规模，真正有效的特征交互往往是稀疏的，因此在这种大量参数的情况下进行有效学习是困难的。Wide&Deep通过在wide部分的特征工程来帮助de

小弦弦喵喵喵·2023-01-29 19:09

论文笔记二 Positive, Negative and Neutral: Modeling Implicit Feedback inSession-based News Recommendatio。

目录一论文简介论文名称：Positive,NegativeandNeutral:ModelingImplicitFeedbackin中文名称：积极、消极和中立：在基于会话的新闻推荐中建模的隐式反馈作者：ShansanGong和KennyQ.Zhu二ABSTRACT（摘要）三INTRODUCTION（介绍）3.1当前新闻推荐的方法和作者提出的背景3.2作者的提出的创意3.3任务的内容3.4Notat

初学者冲冲冲·2023-01-29 12:41

Multi-View Stereo for Community Photo Collections 论文阅读笔记

Multi-ViewStereoforCommunityPhotoCollections论文阅读笔记上一篇论文笔记，主要介绍了如何从photocollection中获得点云（pointclouds），这一篇论文主要介绍

青一其·2023-01-29 09:36

SER 语音情感识别-论文笔记3

SER语音情感识别-论文笔记3《SPEECHEMOTIONRECOGNITIONUSINGSEMANTICINFORMATION》2021年ICASSPCodeavailablehere:https:/

绿叶今天写代码了吗·2023-01-29 07:04

【CV】膨胀卷积详解以及时间卷积网络TCN论文笔记和源码实现

这篇博文分为两部分。第一部分详细讲解了TCN模型（TemporalConvolutionalNetwork）中涉及的1D卷积，因果卷积，膨胀卷积中设计的计算，非常值得一看，有醍醐灌顶的作用。第二部分是TCN的论文。论文名称：TemporalConvolutionalNetworksforActionSegmentationandDetection论文下载：https://arxiv.org/abs

datamonday·2023-01-29 04:48

Generative Adversarial Nets 论文笔记

论文地址GenerativeAdversarialNets摘要首先，在论文中提出了一个新的框架：生成对抗网络框架，这个框架是为了通过对抗的过程实现评估生成模型。处理过程中，我们同时训练两个模型，通过多层感知机定义在整个训练过程中使用反向传播算法。整个训练和样本生成阶段不需要马尔可夫链和展开的近似推理网络。1.生成模型G设计目的：捕获数据分布；训练过程：最大化判别模型错误的可能性，换言之，D没有识别

不会写代码の程序员·2023-01-29 00:37

STS：Surround-view Temporal Stereo for Multi-view 3D Detection——论文笔记

参考代码：None1.概述介绍：这篇文章提出的方法是对LSS中深度估计部分进行改进，其改进的点是在深度估计部分引入立体匹配去估计周视相机下的深度信息，其中立体匹配使用前后视频帧进行构建（可以看作是时序信息的使用，只不过只有两帧信息）。此外，引入DORN中的深度采样策略（SID，Spacing-IncreasingDiscretization）使得近处的采样点不至于过度稀疏，为了弥补在无纹理下立体匹

m_buddy·2023-01-28 20:42

Pixel2Pixel论文笔记与实现

一、概述本文是论文Image-to-ImageTranslationwithConditionalAdversarialNet-works的阅读笔记。虽然年代已经有些旧远，但是像这种计算机视觉领域的经典文献，尤其是pixel2pixel这样面向一大类问题的文章，其涉及的知识之广度和深度，都是非常值得去学习和探究的。作者试图用一个网络，来解决任意Image-to-ImageTranslation

吃远·2023-01-28 16:46

推荐频道

论文笔记——模型压缩