论文笔记——模型压缩

万字长文解读图像超分辨率 Real-ESRGAN 论文笔记+代码阅读

目录一、介绍二、重点创新1.ESRGAN2.Real-ESRGAN三、生成器结构1.整体结构2.RRDB结构四、判别器结构五、高阶退化模型六、损失函数1.生成模型损失函数2.判别模型损失函数一、介绍超分辨率(Super-Resolution)指通过硬件或软件的方法提高原有图像的分辨率，通过一系列低分辨率的图像来得到一幅高分辨率的图像过程。通俗的说就是在保持原图像清晰度不变的前提下，将图像放大。使用
小殊小殊·2023-07-18 11:43

论文笔记：MPRNet: Multi-Stage Progressive Image Restoration

相关方法单阶段、多阶段、注意力方法将图像分割为不重叠的patches：四个用于第一阶段，两个用于第二阶段，原始图像用于最后一阶段。残差学习：XS=I+RSX_S=I+R_SXS=I+RS，损失函数为L=∑S=13[Lchar(XS,Y)+λLedge(XS,Y)]\mathcal{L}=\sum_{S=1}^{3}\left[\mathcal{L}_{char}\left(\mathbf{X}_{
love_lqz·2023-07-18 11:11

【论文笔记】图像修复MPRNet:Multi-Stage Progressive Image Restoration 含代码解析

目录一、介绍二、使用方法1.推理2.训练三、MPRNet结构1.整体结构2.CAB(ChannelAttentionBlock)3.Stage1Encoder4.Stage2Encoder5.Decoder6.SAM(SupervisedAttentionModule)7.ORSNet(OriginalResolutionSubnetwork)四、损失函数1.CharbonnierLoss2.Ed
小殊小殊·2023-07-18 11:08

[论文笔记]Towards Evaluating the Robustness of Neural Networks

题目：TowardsEvaluatingtheRobustnessofNeuralNetworks地址：https://arxiv.org/abs/1608.04644代码：https://github.com/carlini/nn_robust_attacksC&WObjectivefunctionBoxconstraintsProjectedgradientdescentClippedgrad
wangxiaoguang·2023-07-17 21:41

YOLO系列学习

论文学习】收藏夹里面DeepLearningPapersTranslation(CV)论文阅读：YouOnlyLookOnce:Unified,Real-TimeObjectDetectionYOLOv2论文笔记
孟孟单单·2023-07-17 08:29

图像修复论文整理

[1]ContextEncoders:FeatureLearningbyInpainting(CVPR2016)参考文章：图像修复论文笔记:ContextEncoders:FeatureLearningbyInpainting
牛奶芝麻·2023-07-17 02:06

模型压缩-裁剪、量化、蒸馏

模型压缩是一种缩小神经网络结构和参数的技术。
loong_XL·2023-07-16 22:08

论文笔记：Deep Spatio-Temporal Residual Networks for Citywide Crowd FlowsPrediction

2017AAAI使用时空残差网络ST-ResNet进行城市区域流入流出客流量预测1研究对象城市客流流入流出根据经纬度将城市划分为网格I×J1.1难点空间依赖性时间依赖性外部影响2模型3实验北京出租车数据+纽约自行车数据评价指标：RMSE
UQI-LIUWJ·2023-07-16 19:45

论文笔记--DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter

论文笔记--DistilBERT,adistilledversionofBERT:smaller,faster,cheaperandlighter1.文章简介2.文章概括3文章重点技术3.1知识蒸馏3.2DistilBERT4
Isawany·2023-07-16 18:57

论文笔记--PTR: Prompt Tuning with Rules for Text Classification

论文笔记--PTR:PromptTuningwithRulesforTextClassification1.文章简介2.文章概括3文章重点技术3.1Pre-training&Fine-tuning&Prompt-basedFineTuning3.2PTR
Isawany·2023-07-16 18:57

论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks

论文笔记--Goat:Fine-tunedLLaMAOutperformsGPT-4onArithmeticTasks1.文章简介2.文章概括3文章重点技术3.1LLM的选择3.2算数任务的可学习性(learnability
Isawany·2023-07-16 18:56

论文笔记--BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

论文笔记--BERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding1.文章简介2.文章导读2.1概括2.2文章重点技术
Isawany·2023-07-16 18:26

论文笔记--SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural

论文笔记--SentencePiece:AsimpleandlanguageindependentsubwordtokenizeranddetokenizerforNeuralTextProcessing1
Isawany·2023-07-16 18:26

论文笔记--TinyBERT: Distilling BERT for Natural Language Understanding

论文笔记--TinyBERT:DistillingBERTforNaturalLanguageUnderstanding1.文章简介2.文章概括3文章重点技术3.1TransformerDistillation3.2
Isawany·2023-07-16 17:48

故障诊断——迁移学习整理

深度学习&故障诊断初学者-学习路线_深度学习故障诊断初学者_故障诊断与python学习的博客-CSDN博客域适应方法顶刊论文列表近两年（2020-2021）-知乎(zhihu.com)【论文笔记】AdversarialMulti-taskLearningforTextClassification
Mr_Pingg·2023-07-16 01:41

【论文笔记】SINE: SINgle Image Editing with Text-to-Image Diffusion Models

声明不定期更新自己精度论文，通俗易懂，初级小白也可以理解涉及范围：深度学习方向，包括CV、NLP论文标题：SINE:SINgleImageEditingwithText-to-ImageDiffusionModels论文链接：https://www.semanticscholar.org/paper/SINE%3A-SINgle-Image-Editing-with-Text-to-Image-Z
来自γ星的赛亚人·2023-07-15 23:22

EfficientNet论文笔记

EfficientNet论文笔记通过NAS平衡了channel，depth，resolution，发现在相同的FLOPs下，同时增加depth和resolution的效果最好。
白蜡虫可·2023-07-15 23:47

论文笔记：AugGPT: Leveraging ChatGPT for Text Data Augmentation

AugGPT：利用ChatGPT进行文本数据增强摘要1介绍2相关工作2.1数据增强2.2小样本学习2.3超大型语言模型2.4ChatGPT：现在与未来3数据集3.1亚马逊数据集3.2症状数据集3.3PubMed20k数据集4方法4.2使用ChatGPT进行数据增强4.3小样本文本分类4.4BaselineMethods4.5PromptDesign4.6评估指标4.6.1EmbeddingSimi
帅帅梁·2023-07-15 13:44

GraphTrip论文笔记【Information Fusion 92 (2023)】

Dual-grainedhumanmobilitylearningforlocation-awaretriprecommendationwithspatial–temporalgraphknowledgefusion期刊：EI检索InformationFusion92(2023)Challenges（1）异质交互信息的挖掘POI位置信息、POI类别信息、访问时间等。（能够反映一些人类的访问偏好。传
hhy不许摸鱼·2023-07-15 12:53

搜索语义模型的大规模量化实践

作者|把酒问青天导读经过近几年的技术演进，语义模型在百度搜索场景中被广泛地应用，消耗了大量的GPU资源，模型压缩技术也随之得到大量研究和实践。
百度Geek说·2023-07-14 10:19

论文笔记--SentEval: An Evaluation Toolkit for Universal Sentence Representations

论文笔记--SentEval:AnEvaluationToolkitforUniversalSentenceRepresentations1.文章简介2.文章概括3文章重点技术3.1evaluationpipeline3.2
Isawany·2023-07-14 03:41

【论文笔记】Guided Skill Learning and Abstraction for Long-Horizon Manipulation

【论文笔记】GuidedSkillLearningandAbstractionforLong-HorizonManipulation更多笔记（在耕）：这里文章目录【论文笔记】GuidedSkillLearningandAbstractionforLong-HorizonManipulationAbstractI.INTRODUCTIONII.RELATEDWORKTAMPandLearningfo
Ctrl+Alt+L·2023-07-14 03:35

Few-Shot Class-Incremental Learning from anOpen-Set Perspective论文笔记

ECCV2022目录摘要IntroductionProblemFormulationMethodology实验摘要一个Few-ShotClass-IncrementalLearning(FSCIL)模型，需要在所有类上表现良好，无论它们的表示顺序如何或是否缺乏数据。它还需要对需要对较少的数据(one-shotscenario)具有鲁棒性，并且容易适应该领域出现的新任务目前的SOTA方法仅使用cla
杳杳不失眠·2023-07-13 20:50

论文笔记-医学图像分类

DLDeepconvolutionalneuralnetworkbasedmedicalimageclassificationfordiseaseauthorIntroductionLiteraturereviewDeepconvolutionalneuralnetworkbasedmedicalimageclassificationfordiseaseauthorSamirS.YadavandS
強云·2023-07-13 19:15

论文笔记-A Deep Learning Approach for Slice to Volume Biomedical Image Integration

数据集：EdinburghMouseAtlasProject(EMAP)切片在三维空间中的描述pitch,yaw,androllangles,andthedistanceofthesectioningplane.这个距离指的是什么？数据生成对三维数据进行改变d和p来生成二维数据。预处理正则化到0-1之间；resize128*128.进行图像增强.回归利用CNN网络回归参数。
強云·2023-07-13 19:45

论文笔记--STRUCTBERT: INCORPORATING LANGUAGE STRUCTURES INTO PRE-TRAINING FOR DEEP LANGUAGE UNDERSTANDIN

论文笔记--STRUCTBERT:INCORPORATINGLANGUAGESTRUCTURESINTOPRE-TRAININGFORDEEPLANGUAGEUNDERSTANDING1.文章简介2.文章概括
Isawany·2023-06-24 10:15

论文笔记--Prompt Consistency for Zero-Shot Task Generalization

论文笔记--PromptConsistencyforZero-ShotTaskGeneralization1.文章简介2.文章概括3文章重点技术3.1Prompt-basedzero-shottaskgeneralization3.2PromptConsistencyTraining3.3
Isawany·2023-06-24 10:12

深度学习模型压缩方法综述

深度学习因其计算复杂度或参数冗余，在一些场景和设备上限制了相应的模型部署，需要借助模型压缩、系统优化加速等方法突破瓶颈，本文主要介绍模型压缩的各种方法,希望对大家有帮助。
@BangBang·2023-06-24 04:02

【论文笔记】BLIP: Bootstrapping Language-Image Pre-training forUnified Vision-Language Understanding and

1.背景1.1之前存在的两个问题（1）模型视角：大多数方法要么采用基于编码器的模型，要么采用编码器-解码器模型。基于编码器的模型不太容易直接转移到文本生成任务（例如，图像字幕），而编码器-解码器模型尚未成功用于图像文本检索任务。(2)数据集j角度：存在噪声，训练次优基于编码器的模型：CLIP，缺少decoder对文本生成的能力相对较弱采用编码器-解码器：SimVLM1.2提出的解决办法（a）编码器
weixin_50862344·2023-06-24 00:34

【论文笔记】Align before Fuse: Vision and LanguageRepresentation Learning with Momentum Distillation

0.前言【参考】多模态论文串讲基于2021年之前的研究，有几个大趋势：（1）模型的视觉能力应该强于文本提取能力（2）模型融合应该有更加复杂的设计，而不只是简单的点积运算（clip）（3）损失函数的选择上：①ITC②MLM③ITM之所以放弃WPA损失函数，是因为他给训练带来了比较大的成本。（参考ViLT）1.介绍1.1挑战（1）图像特征和单词标记嵌入存在于它们自己的空间中，难以建模两者之间关系（2）
weixin_50862344·2023-06-24 00:34

细粒度分类：Cross-X论文笔记——Cross-X Learning for Fine-Grained Visual Categorization

细粒度分类：Cross-X论文笔记——Cross-XLearningforFine-GrainedVisualCategorization综述主要思想网络结构OSME模块C3S正则化器CL正则化器损失优化实验可视化分析精度对比总结综述论文题目
视觉萌新、·2023-06-23 22:05

细粒度分类：API-Net论文笔记——Learning Attentive Pairwise Interaction for Fine-Grained Classification

细粒度分类：API-Net论文笔记——LearningAttentivePairwiseInteractionforFine-GrainedClassification综述主要思想网络结构训练与测试训练过程损失函数图像配对测试精度对比总结综述论文题目
视觉萌新、·2023-06-23 22:04

细粒度分类：MC-Loss论文笔记——The Devil is in the Channels: Mutual-Channel Loss for FGVC

细粒度分类：MC-Loss论文笔记——TheDevilisintheChannels:Mutual-ChannelLossforFine-GrainedImageClassification综述主要思想方法网络结构判别组件多样性组件实验可视化分析精度对比总结综述论文题目
视觉萌新、·2023-06-23 22:33

PolarFormer：Multi-camera 3D Object Detection with Polar Transformer——论文笔记

参考代码：PolarFormer1.概述介绍：在仓库RoboBEV中总结了现有的一些bev感知算法在不同输入情况下的鲁棒性，在这些感知算法中PolarFormer拥有较为不错的泛化性能。这个算法的思想是将之前由直角坐标系栅格化构建bev网格，转换到由极坐标构建栅格化bev网格，这样的bev特征构建方法其实是符合相机成像过程的，在W维度切分的单个竖向特征代表的便是由光心和两条射线组成的扇形区域。其大
m_buddy·2023-06-23 07:16

MEC相关论文笔记

论文名称：基于深度强化学习的车辆边缘计算调度DeepReinforcementLearning-BasedOffloadingSchedulingforVehicularEdgeComputing前言VEC绝对式车辆边缘计算‘（Abstract—Vehicularedgecomputing），是一种新型计算范例，可增强车辆终端能力，以支持低延迟和高能效的资源匮乏的车载应用。本文研究了在典型的VEC场
照旧的你好·2023-06-23 03:52

图情论文笔记 | 专家谈重大公共安全突发事件中图书馆应急服务

文章目录国家图书馆的应急服务（魏大威廖永霞）公共安全突发事件中图书馆应急服务机制(柯平)当前存在的问题关于图书馆应急服务机制的十个建议系统思维构建图书馆突发事件应急服务（滕五晓）参考资料国家图书馆的应急服务（魏大威廖永霞）国家图书馆做了什么？为重大公共安全突发事件提供决策信息参考及时整合资源,为用户提供优质网络服务主动采集专题网络资源,做好文献资料的征集和保存借助社会化合作,营造温暖健康的互助氛围
是希望·2023-06-23 03:21

图情论文笔记 | 学术图书馆“十四五”规划的思考（杨新涯）

文章目录前言十四五初步构想三个关键词总结前言  《学术图书馆“十四五”规划的思考》是重庆大学图书馆的杨新涯研究馆员在中国知网组织的“2020高校图书馆知识服务与创新应用高级线上研修班”上做的报告，事后整理的一篇文章。作者认为学术图书馆的叫法相较于大学图书馆要跟严谨，给出的理由是“学术图书馆的名称对于大学图书馆的建设发展、核心业务的把握而言更加严谨，很多人觉得大学图书馆和公共图书馆都是图书馆，很多工
是希望·2023-06-23 03:51

图情论文笔记 | 主题图书馆建设中的若干问题与发展思考（柯平）

文章目录1.前言2.主题图书馆2.1主题图书馆的发展背景和条件2.2主题图书馆与特色图书馆的关系2.3主题图书馆的功能价值2.4主题图书馆的杭州模式2.4.1杭州模式的五大特色2.5主题图书馆发展路径2.6主题图书馆模式的推广价值2.7主题图书馆建设当中的误区2.8主题图书馆的未来发展方向3.总结1.前言  最近看了几篇柯平老师关于主题图书馆的研究论文，感觉柯平老师的学术水平甩了杨研究馆员几条街，
是希望·2023-06-23 03:51

图情论文笔记 | 基于新文科下的图书情报学科发展研究总结

文章目录前言1.新文科1.1学科协同之新1.2信息技术之新1.3人才培养模式之新2.新技术对我国图书情报学科的影响2.1对图书情报工作的影响2.2对图书情报研究的影响2.3对图书情报学教育的影响3.新文科背景下我国图书情报学科发展思考3.1关注社会需求3.2重视交叉融合3.3加强理论创新3.4坚守人文传统4.总结前言  本篇笔记的主题是“新文科和图书情报学科”，目前报关于新文科建设和图书情报学科建
是希望·2023-06-23 03:51

图情论文笔记 | 四川大学图书馆关于“十四五”发展规划的初步思考（党跃武）

文章目录前言1.新时代高校图书馆是什么1.1三个至上1.2六大体系1.3本章小结2.新时代高校图书馆在干什么2.1事业发展重效益2.2基础服务重根本2.3创新服务重引领2.4本章小结3新时代高校图书馆要干什么3.1围绕中心明方向3.2服务中心明目标3.3融入中心明任务3.4本章小结4新时代高校图书馆要怎么干4.1加强建设下硬功4.2加强管理下真功4.3加强服务下苦功4.4本章小结5.全文总结前言 
是希望·2023-06-23 03:21

图情论文笔记 | 图书馆未来2035与“十四五”规划编制(柯平)

文章目录前言1.未来与图书馆未来的三个维度2.战略规划与图书馆2.1SWOT分析2.2三种新方向3图书馆的规划与转型3.1转型应坚持的原则3.2战略规划要求前言  《图书馆未来2035与“十四五”规划编制》是南开大学商学院柯平教授对于图书馆在未来该如何进行战略规划以应对这百年未有之大变局的一些观点，在此给大家进行分享。1.未来与图书馆  “未来已经到来，只是分布不甚均匀而已。”          
是希望·2023-06-23 03:20

论文笔记 - 对话系统中的 OOD （Out of Domain出域）问题

徐阿衡人工智能与机器学习工程师最近看了下2021年关于OOD的几篇paper，记录一下~对话系统中的domain都是预先定义好的，而在实际应用场景中，会有很多现有系统回答不了的问题（outofthedesignscope），我们把系统支持的意图称为in-domain(IND)，系统不支持的意图称为out-of-domain(OOD)，OOD是需要被拒识的。处理OOD问题一般分为有监督和无监督两类方
AI生成曾小健·2023-06-21 08:16

论文笔记：Toolformer：可以教会自己使用工具的语言模型

Toolformer：可以教会自己使用工具的语言模型摘要Introduction现有大模型的局限处理办法本文的ideaApproach样例化API调用执行API调用筛选API调用模型微调实验局限论文地址点这里摘要语言模型（LMs）呈现了令人深刻的仅使用少量的范例或文本说明，就能处理大规模的新问题。矛盾的是，他们面临着挑战去完成一些基础功能，比如：数据统计或是事实查找，在一些更为简单、更为小的模型表
高星熠·2023-06-21 02:50

RES 新的数据集 Advancing Referring Expression Segmentation Beyond Single Image 论文笔记

RES新的数据集AdvancingReferringExpressionSegmentationBeyondSingleImage论文笔记一、Abstract二、引言三、相关工作3.1ReferringExpressionSegmentation
乄洛尘·2023-06-20 22:38

论文笔记【WiNCE: Unobtrusive Sensing of Upper Facial Action Units with EOG-based Eyewear】

W!NCE:UnobtrusiveSensingofUpperFacialActionUnitswithEOG-basedEyewear文章目录W!NCE:UnobtrusiveSensingofUpperFacialActionUnitswithEOG-basedEyewear每一篇论文都需要问自己：摘要：需要解决的挑战：以往的方式基于相机的方式[6,15,37,48]接近传感器([52],[3
kidominox·2023-06-20 19:37

干货 | 图文教程 OpenVINO 安装+demo运行 + VS配置

（2）模型优化器：模型转换、模型压缩、32F/16F、模型优化。（3）
OpenVINO 中文社区·2023-06-20 16:04

Segment Anything——论文笔记

homepage：segment-anything.comcode：segment-anything1.概述介绍：SAM是最近提出的一种通用分割大模型，其表现出了强大的零样本泛化能力，视觉感知模型的通用化又前进了一步。为了达到文章标题字面意义“segmentanything”，那么就需要该算法具有强大的物体语义感知能力，在模型的设计阶段就不能对其所使用的类别进行假设，更类似于常见的交互式分割方法。
m_buddy·2023-06-20 13:42

DualCross：Cross-Modality Cross-Domain Adaptation for Monocular BEV Perception——论文笔记

主页：homepage参考代码：DualCross1.概述介绍：去年（2022年）大家都在卷各式各样的view-transfer，到了今年就沉寂了不少，鲜有新的view-transfer提出，也有一些对于行业更加工程实际的paper出来了。这篇文章便是通过从domain-adaption和distillation技术角度去缓解BEV感知方案部署的痛点问题。当训练时的数据分布与实际部署时的训练分布不
m_buddy·2023-06-20 13:12

[论文笔记] chatgpt系列 2.1 DeepSpeed-chat 简介

DeepSpeedExamples/applications/DeepSpeed-Chatatmaster·microsoft/DeepSpeedExamples·GitHubDeepSpeed-Chat:简单，快速和负担得起的RLHF训练的类chatgpt模型一个快速、经济、可扩展和开放的系统框架，用于实现端到端的强化学习人类反馈(RLHF)训练体验，以在所有尺度上生成高质量的类chatgpt模
心心喵·2023-06-20 12:55

《Amazon DynamoDB》 论文笔记 1

文章目录1.写在最前面2.核心观点2.1作为服务提供要考虑的问题2.1.1.1部署方案2.1.1.2多租户的问题2.1.1.3容量上限2.1.1.4容量扩展2.1.1.5可用性指标评估3.碎碎念4.参考资料1.写在最前面最近读到一句话，「所谓云原生并不是简单的将一个云下的数据库搬到云上自动部署就叫DBaaS，而是需要从内核到管控平台针对云提供的能力和环境进行深层次的改造，否则一个直观的代价就是：在
phantom_111·2023-06-20 10:45
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他