论文笔记——模型压缩第14页

论文笔记 Structure‐Texture Decomposition of Images with Interval Gradient

文章来源：ComputerGraphicsForum2017下载链接：PaperDownload解决的问题：图像结构-纹理分解（纹理滤波）文章内容：该文章提出了一种新的基于滤波的图像结构纹理分解方法。不同于以往的滤波算法，本文方法自适应平滑图像梯度，以过滤掉图像的纹理。针对自适应梯度平滑问题，提出了一种新的梯度算子——区间梯度。另外，还提出了一种有效的梯度引导算法，通过过滤梯度产生高质量的图像滤波

Wonshington·2023-09-16 17:58

YOLOv5模型压缩：综述

YOLOv5模型压缩：综述AbstractIntroduction剪枝基于ln-范数修剪模型FeaturemapactivationBatchnormalizationscalingfactor(BNSF

桑_榆·2023-09-16 15:57

深度学习之模型压缩、加速模型推理

简介当将一个机器学习模型部署到生产环境中时，通常需要满足一些在模型原型阶段没有考虑到的要求。例如，在生产中使用的模型将不得不处理来自不同用户的大量请求。因此，您将希望进行优化，以获得较低的延迟和/或吞吐量。延迟：是任务完成所需的时间，就像单击链接后加载网页所需的时间。它是开始某项任务和看到结果之间的等待时间。吞吐量：是系统在一定时间内可以处理的请求数。这意味着机器学习模型在进行预测时必须非常快速，

小北的北·2023-09-16 08:10

SegGPT: Segmenting Everything In Context论文笔记

论文https://arxiv.org/pdf/2304.03284.pdfCodehttps://github.com/baaivision/Painter文章目录1.背景2.Motivation3.Method3.1In-ContextColoring3.2ContextEnsemble3.3In-ContextTuning1.背景在Painter中，将各种密集预测任务视为一种着色问题。在训练

Nick Blog·2023-09-16 05:37

OneFormer: One Transformer to Rule Universal Image Segmentation论文笔记

论文https://arxiv.org/pdf/2211.06220.pdfCodehttps://github.com/SHI-Labs/OneFormer文章目录1.Motivation2.方法2.1与Mask2Former的相同之处2.2OneFormer创新之处2.3TaskConditionedJointTraining2.4QueryRepresentations2.4TaskGuid

Nick Blog·2023-09-15 19:50

空洞卷积学习笔记

1.扩张卷积的提出Multi-ScaleContextAggregationbyDilatedConvolutionsDilatedResidualNetworks这里有原作者推荐的一篇论文笔记，大家

WHS-_-2022·2023-09-14 21:53

Attention is all you need 论文笔记

该论文引入Transformer，主要核心是自注意力机制，自注意力（Self-Attention）机制是一种可以考虑输入序列中所有位置信息的机制。引入Transformer的原因解决长距离依赖的问题：传统的RNN存在梯度消失和梯度爆炸的问题，难以有效捕获长距离依赖关系。而Transformer引入了注意力机制，使模型可以在序列中捕获远距离依赖关系。并行计算：RNN和循环连接的特点使得它们难以并行计

顺顺不吃竹笋·2023-09-14 09:08

2023高教杯数学建模2：DE题+参考论文、代码

2023高教杯数学建模2：DE题写在最前面E题D题2014C题优秀论文笔记问题一（求解母猪年均产仔量以达到或超过盈亏平衡点）问题二（求解小猪选为种猪的比例和母猪的存栏数）问题三（确定最佳经营策略，计算年均利润

是Yu欸·2023-09-14 00:29

【论文笔记】Baidu Apollo EM Motion Planner

文章目录AbstractI.INTRODUCTIONA.MultilaneStrategyB.Path-SpeedIterativeAlgorithmC.DecisionsandTrafficRegulationsII.EMPLANNERFRAMEWORKWITHMULTILANESTRATEGYIII.EMPLANNERATLANELEVELA.SLandSTMapping(E-step)B.M

yuan〇·2023-09-13 21:15

三维模型3DTile格式轻量化压缩模型变形浅析

这种变形现象多数源于模型压缩过程中信息丢失或误差累积等因素。以下将对此现象进行详细分析。首先，我们需要了解三维模型轻量化压缩的主要方法：几何简化、纹理压缩和数据精度降低等。

3D探路人·2023-09-13 08:16

论文笔记：Deep Representation Learning for Trajectory Similarity Computation

ICDE20181intro1.1背景用于计算轨迹相似性的成对点匹配方法（DTW，LCSS，EDR，ERP）的问题：轨迹的采样率不均匀如果两个轨迹表示相同的基本路径，但是以不同的采样率生成，那么这些方法很难将它们识别为相似的轨迹当样本点的采样率很低时，很难对齐相似轨迹的样本点当样本点噪声时，这些方法的性能可能会下降。复杂度大O(n^2)【n是轨迹长度】1.2论文贡献论文提出t2vec，基于深度表示

UQI-LIUWJ·2023-09-12 21:19

论文笔记：Towards robust trajectory similarity computation: Representation‑based spatio‑temporal similar

WWW20231intro1.1背景现有的轨迹相似度方法通常假定采样的轨迹具有统一且一致的采样率如果两条轨迹能够为它们的大部分样本点形成成对匹配，就认为它们是相似的然而，由于各种原因，轨迹的采样率会有所不同在这种情况下，基于匹配的方法被证明是无效的不仅采样率可能不同，轨迹还有可能有噪声——低质量轨迹假设我们在两条低质量轨迹之间进行相似性连接任务，连接结果可能是不准确的因为噪声位置点可能使两条相似的

UQI-LIUWJ·2023-09-12 21:49

X2-VLM: All-In-One Pre-trained Model For Vision-Language Tasks论文笔记

Title：X2-VLM:All-In-OnePre-trainedModelForVision-LanguageTasksCode1.MotivationCLIP这一类方法只能进行图片级别的视觉和文本对齐；也有一些方法利用预训练的目标检测器进行目标级别的视觉和文本对齐，但是只能编码目标内部的特征，无法有效表达多目标上下文关联；本文致力于进行多粒度（objects,regions,andimage

Nick Blog·2023-09-12 16:31

论文笔记《NeuralField-LDM: Scene Generation with Hierarchical Latent Diffusion Models》

论文笔记《NeuralField-LDM:SceneGenerationwithHierarchicalLatentDiffusionModels》免责申明一句话主旨多说一嘴MethodPart1.Sceneauto-encoderSceneauto-encoderarchitecture

浅度断墨·2023-09-12 06:57

论文笔记《3D Gaussian Splatting for Real-Time Radiance Field Rendering》

项目地址原论文Abstract最近辐射场方法彻底改变了多图/视频场景捕获的新视角合成。然而取得高视觉质量仍需神经网络花费大量时间训练和渲染，同时最近较快的方法都无可避免地以质量为代价。对于无边界的完整场景（而不是孤立的对象）和1080p分辨率渲染，目前没有任何方法能达到实时显示率。我们引入了三个关键元素，使得能够达到sota视觉质量同时保证有竞争力的训练时间，而且重要的是可以高质量、实时（≥30f

浅度断墨·2023-09-12 06:22

加速44%！RT-DETR量化无损压缩优秀实战

在实际部署中，为了追求“更准、更小、更快”的效率能力，本文使用飞桨模型压缩工具PaddleSlim中的自动压缩工具（ACT,AutoCompressionToolkit）将针对RT-DETR进行量化压缩及部署实战

·2023-09-11 11:52

inux一些常用的下载工具-aria2

从断点续传开始故事的过程是这样的，朋友是搞科研的，需要在一个国外的学术网站下载一个药物的模型压缩包，大概有23g。

·2023-09-11 11:21

[论文笔记]BiMPM

引言这又是一篇文本匹配的论文BilateralMulti-PerspectiveMatchingforNaturalLanguageSentences阅读笔记。论文题目为自然语言文本中双向多视角匹配。提出了BiMPM(bilateralmulti-perspectivematching)模型：基于匹配-聚合(比较-聚合)框架；采用双向匹配提取交互特征；设计了四种特征匹配方法；提出多视角匹配操作单词

愤怒的可乐·2023-09-11 07:22

【论文笔记】Perception, Planning, Control, and Coordination for Autonomous Vehicles

单纯作为阅读笔记，文章内容可能有些混乱。文章目录1.Introduction2.Perception3.Planning3.1.AutonomousVehiclePlanningSystems3.2.MissionPlanning3.3.BehavioralPlanning3.4.MotionPlanning3.4.1.CombinatorialPlanning3.4.2.Sampling-Bas

yuan〇·2023-09-11 07:52

Ensemble distillation for robust model fusion in federated learning论文笔记

本文将集成蒸馏运用在联邦学习的模型融合中，并且可以通过未标记的数据或者生成器生成的数据（例如gan）来进行进行模型融合。这让不同客户端的模型异构的前提下，降低了数据隐私泄露的程度。同时实验表明，本文提出的方法练速度更快，比任何现有的FL技术所需的通信轮数更少。论文地址：ENSEMBLEDISTILLATIONFORROBUSTMODELFUSIONINFEDERATEDLEARNING2020

Zoran_卓·2023-09-11 06:04

论文笔记-Masked Autoencoders Are Scalable Vision Learners

论文地址：https://arxiv.org/pdf/2111.06377.pdf代码：https://github.com/lucidrains/vit-pytorch#masked-autoencoder一句话简介：随机mask掉高比例imagepatch，输入一个非对称的autoencoder，encoder是ViT，decoder是Transformer，效果好。1.介绍现在的深度学习模型

升不上三段的大鱼·2023-09-10 13:22

STM32CubeMX X-CUBE-AI更新模型

如题，我采用一个采用stm32CUBEMX生成了工程，工程里面使用了X-CUBE-AI对自定义的模型进行模型压缩，但是我经常要更新模型，那么怎样更新模型了。这里开博客记录一下。

linxizi0622·2023-09-10 11:31

[论文笔记] 损失函数整理

[论文笔记]损失函数整理损失函数集合损失函数对于机器学习，就像一把尺子，用来度量模型，指导模型训练用，因此损失函数的设计和模型结构设计一样重要。

LittleStudent12·2023-09-09 19:26

模型压缩-对模型结构进行优化

模型压缩-对模型结构进行优化概述模型压缩通常都是对推断过程而言，训练过程的计算代价通常不考虑，因为GPU可以快速完成任意复杂度模型的训练对于推断过程来说，模型应用才是对于速度敏感的场景多数情况下希望使用尽可能少的能耗完成京可能多的数据处理推断过程不仅仅需要在

luzhoushili·2023-09-09 11:00

论文笔记：CVPR2023 IRRA—隐式推理细粒度对齐模型，语言行人检索任务新SOTA，CUHK-PEDES数据集Rank-1可达73.38%！

目录论文基本信息引言模型模态编码器ImplicitRelationReasoning模块与MLM任务SimilarityDistributionMatching结果论文基本信息论文：Cross-ModalImplicitRelationReasoningandAligningforText-to-ImagePersonRetrieval代码：https://github.com/anosorae/

酥三苹·2023-09-09 11:22

"Deep Facial Expression Recognition: A Survey"论文笔记

introductionFERsystemscanbedividedintotwomaincategoriesaccordingtothefeaturerepresentations:staticimageFERanddynamicsequenceFER.（时空信息）Themajorityofthetraditionalmethodshaveusedhandcraftedfeaturesorsha

我写代码像cxk·2023-09-09 07:01

[论文笔记] uGrapher: High-Performance Graph Operator Computation via Unified Abstraction for GNN

uGrapher:High-PerformanceGraphOperatorComputationviaUnifiedAbstractionforGraphNeuralNetworksuGraper:通过图神经网络的统一抽象实现高性能图算子计算[Paper][Presentation]ASPLOS’23摘要提出了uGrapher,一个为不同图算子和数据集实现通用高性能的统一接口.现有GNN框架易集

PeakCrosser·2023-09-09 07:49

[论文笔记] Gemini: A Computation-Centric Distributed Graph Processing System

Gemini:AComputation-CentricDistributedGraphProcessingSystemGemini:以计算为中心的分布式图处理系统[Paper][Slides][Code]OSDI’16摘要提出了Gemini,一个分布式图处理系统,应用了多种针对计算性能的优化以在效率之上构建可扩展性.Gemini采用:稀疏-稠密信号槽抽象,将混合推拉计算模型扩展到分布式场景基于分块

PeakCrosser·2023-09-09 07:49

[论文笔记] Atos: A Task-Parallel GPU Scheduler for Graph Analytics

Atos:ATask-ParallelGPUSchedulerforGraphAnalyticsAtos:用于图分析的任务并行GPU调度程序[Paper][Slides]ICPP’22摘要提出了Atos,一个特别针对动态不规则应用的任务并行GPU动态调度框架.支持消除依赖关系的应用的任务并行公式来暴露额外的并发性除了数据并行负载平衡之外,提供隐式任务并行负载均衡允许用户控制内核策略和任务并行粒度来

PeakCrosser·2023-09-09 07:19

[论文笔记] Gunrock: A High-Performance Graph Processing Library on the GPU

Gunrock:AHigh-PerformanceGraphProcessingLibraryontheGPUGunrock:GPU上的高性能图处理库[Paper][Code]PPoPP’16摘要Gunrock,针对GPU的高层次批量同步图处理系统.采用了一种新方法抽象GPU图分析:实现了以数据为中心(data-centric)的抽象,以在结点或边的边界(frontier)上的操作为中心.将高性能

PeakCrosser·2023-09-09 07:16

BERT 论文笔记

BERT：Pre-trainingofDeepBidirectionalTransformerforLanguageUnderstanding谷歌AI团队发布，在机器阅读理解SQuAD1.1跑出的成绩，在两个指标上全面超越人类。GLUE基准80.04%（7.6%绝对提升），MultiNLI准确率86.7%（5.6%绝对提升）BERT=BidirectionalEncoderRepresentati

EdwardLee·2023-09-09 05:07

3种轻量化框架总结

为了解决这个问题，通常是在训练好的模型上进行优化，如通过对模型压缩减少计算量和存储成本，也可以通过剪枝连接方法去掉了不重要的神经元连接或者通道修剪去掉非必要的通道实现加速，还可以将浮点模型转为定点的量化方法实现模型压缩和计算加速

博观而约取,厚积而薄发·2023-09-08 07:05

论文笔记：一分类及其在大数据中的潜在应用综述

0概述论文：Aliteraturereviewonone‑classclassificationanditspotentialapplicationsinbigdata发表：JournalofBigData在严重不平衡的数据集中，使用传统的二分类或多分类通常会导致对具有大量实例的类的偏见。在这种情况下，对少数类实例的建模和检测是非常困难的。一分类(OCC)是一种检测与已知类实例相比较的异常数据点的

HenrySmale·2023-09-08 06:36

论文笔记_21范数:Efficient and Robust Feature Selection via Joint 2,1-Norms Minimization

Abstract特征选择在机器学习中非常重要，尤其是在生物信息学任务中。本文提出一种新的鲁棒特征选择方法，这一方法核心在于在损失函数核正则化项中联合使用21范数。基于21范数的损失函数对于数据点中的异常值具有较好的鲁棒性，而基于21范数的正则化项则可以选择所有数据点稀疏的特征。本文证明了算法的收敛性。同时通过实验结果证明了方法的性能。Introduction一般来说，特征选择有三种模型：1.滤波方

Lr_AI·2023-09-08 01:27

3D异常检测论文笔记 | Shape-Guided Dual-Memory Learning for 3D Anomaly Detection

文章目录摘要一、介绍三、方法3.1.形状引导专家学习3.2.Shape-Guided推理摘要我们提出了一个形状引导的专家学习框架来解决无监督的三维异常检测问题。我们的方法是建立在两个专门的专家模型的有效性和他们的协同从颜色和形状模态定位异常区域。第一个专家利用几何信息通过对局部形状周围的隐式距离场建模来探测三维结构异常。第二个专家考虑与第一个专家相关联的二维RGB特征来识别局部形状上的颜色外观不规

Thomas_Cai·2023-09-07 10:31

论文笔记：《Time Series Generative Adversrial Networks》（TimeGAN，时间序列GAN)

论文：https://papers.nips.cc/paper/2019/file/c9efe5f26cd17ba6216bbe2a7d26d490-Paper.pdf代码：https://github.com/jsyoon0823/TimeGAN视频讲解：参考资料TimeGAN_Time-seriesgenerativeadversarialnetworks_MaoziShan的博客-CSDN博

思考实践·2023-09-07 03:51

论文笔记（一）——TextBoxes

论文标题：TextBoxes:AFastTextDetectorwithaSingleDeepNeuralNetwork作者：MinghuiLiao,BaoguangShi,XiangBai,XinggangWang,WenyuLiuIntroduction场景文字识别与传统OCR有区别，场景文字识别需要区别文字与背景的关系，同时光照条件也会影响识别效果。传统的场景文字识别方法步骤多，很麻烦，Te

陌上疏影凉·2023-09-07 00:56

R 笔记 prophet

0理论部分论文笔记：ForecastingatScale（Prophet）_UQI-LIUWJ的博客-CSDN博客Prophet是一种基于加法模型预测时间序列数据的程序，其中非线性趋势、季节性以及假日效应相匹配

UQI-LIUWJ·2023-09-07 00:55

论文笔记Monocular Depth Estimation through Virtual-world Supervision and Real-world SfM Self-Supervision

ProblemFormulationMDEonCNN:Ψ(θ;x)→d\Psi(\theta;x)\rightarrowdΨ(θ;x)→dθ∗=min⁡θL(θ;Xr,Xs.Ys)\theta^*=\min_{\theta}\mathcal{L}(\theta;X^r,X^s.Y^s)θ∗=minθL(θ;Xr,Xs.Ys).ContributionsACNNarchitecturetrainin

BlueagleAI·2023-09-06 21:27

[论文笔记]ESIM

引言这是经典论文EnhancedLSTMforNaturalLanguageInference的笔记。本篇论文文是建立在自然语言推理(NaturalLanguageInference,NLI)任务上的。提出了简单的通过基于LSTM的序列推理模型效果到达了当时的SOTA水平。同时基于该模型，在局部推理建模层和推理组合层使用了递归结构(树形LSTM)使得模型效果进一步提升。NLI任务的目的是判断一个自

愤怒的可乐·2023-09-06 16:19

机器学习笔记：node2vec（论文笔记：node2vec: Scalable Feature Learning for Networks）

2016KDD1intro利用graph上的节点相似性，对这些节点进行embedding同质性：节点和其周围节点的embedding比较相似蓝色节点和其周围的节点结构等价性结构相近的点embedding相近比如蓝色节点，都处于多个簇的连接处2随机游走2.1介绍随机游走是一种自监督学习的embedding方法，不需要利用节点标签也不需要节点的特征，训练出来的embedding也不依赖于任何的特定任务

UQI-LIUWJ·2023-09-06 15:36

视觉大模型高效应用方法盘点（内附论文代码）

为此，可以使用模型压缩、量化、剪枝等技术，减少模型参数量和计算量，从而提高模型推理速度。

PaperWeekly·2023-09-05 23:40

模型转换需要用到的一些基本层的定义

深度学习在计算机视觉等模式识别领域具有强大的能力，但是也遭遇内存占用大、部署环境不友好问题，这里打算写一个专栏，从模型转换到模型压缩，以期可以为深度学习的广泛使用做推广。

HeroFUCKEVERYTHING·2023-09-05 09:52

【论文笔记】色素性皮肤病图像预处理与内容检索研究

识别对象：常见色素性皮肤病图像（如黑色素瘤、色素痣、脂溢性角化病、基底细胞癌等）核心算法：基于深层卷积神经网络的深度语义Hash编码+基于Hash-AP分层次深度排序算法算法过程：预处理去噪小波阈值去噪：利用图像小波分解后，根据不同子图像不同特性选取不同阈值，从而去除噪声在这里插入图片描述增强（提高高频信息）需要先去噪达到高信噪比直方图均衡化：微分，拉普拉斯图像和原图叠加毛发消除在这里插入图片描述

饭团_zz·2023-09-05 09:04

论文笔记：Spatio-Temporal Trajectory Similarity Measures: AComprehensive Survey and Quantitative Study

1intro1.1背景轨迹相似度测量在很多应用中都起着基础性的作用不同的测量选择可能导致完全不同的结果和质量以轨迹聚类为例，聚类旨在将相似的轨迹分组到集群中，其中相似度计算是聚类的基础任务DTW和EDR聚类的效果千差万别1.1.1轨迹相似度需要考量的四个轨迹特性与孤立的空间点或一维时间序列不同（这些距离定义是直接了当的）定义连续二维轨迹之间的距离并非易事。还需要考虑以下四个轨迹特性不同的数据源（自

UQI-LIUWJ·2023-09-04 21:23

NLP：长文本场景下段落分割（文本分割、Text segmentation）算法实践----一种结合自适应滑窗的文本分割序列模型

NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法、文本信息抽取、多模态信息抽取、可解释性分析、性能调优、模型压缩算法等专栏详细介绍：NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法

汀、人工智能·2023-09-04 17:47

[论文笔记]A COMPARE-AGGREGATE MODEL FOR MATCHING TEXT SEQUENCES

引言今天带来论文ACOMPARE-AGGREGATEMODELFORMATCHINGTEXTSEQUENCES的阅读笔记。很多NLP任务，包括阅读理解、文本蕴含和问答任务，都需要在序列之间进行比较。匹配序列间重要的单位是这些解决这些任务的关键。本篇工作提出了一个通用的比较聚合(compare-aggragate)框架执行单词级匹配，然后使用CNN进行聚合。比较聚合网络并不是作者首先提出来的，但作者

愤怒的可乐·2023-09-04 15:46

论文笔记：Integrating Semantic Segmentation and Retinex Model for Low Light Image Enhancement

来源：Proceedingsofthe28thACMInternationalConferenceonMultimedia(2020)目录ContributionsMothologyArchitectureInformationExtractionImageDecompositionSemanticSegmentationReflectanceEnhancementIlluminationAdju

Wenretium·2023-09-04 13:30

论文笔记：Zero-Reference Deep Curve Estimation for Low-Light Image Enhancement

来源：CVPR2020提出背景：UnsupervisedGAN-basedmethodshavetheadvantageofeliminatingpaireddatafortraining.EnlightenGAN[12],anunsupervisedGAN-basedandpioneermethodthatlearnstoenhancelow-lightimagesusingunpairedlo

Wenretium·2023-09-04 13:00

论文笔记：Underexposed Photo Enhancement using Deep Illumination Estimation

UnderexposedPhotoEnhancementusingDeepIlluminationEstimation来源：CVPR2019目录UnderexposedPhotoEnhancementusingDeepIlluminationEstimation优点：提出背景：Methodology：ImageEnhancementModelNetworkArchitectureLossFunct