论文笔记——模型压缩第31页

论文笔记《DeepTective》

DeepTective:DetectionofPHPVulnerabilitiesUsingHybridGraphNeuralNetworks∗摘要1简介2模型概述2.1预处理2.2GRU2.3GCN2.4Classification3DATTASETS3.1SARD3.2GIT4EXPERIMENTS4.1实验构建4.2ClassificationPerformance4.3ToolCompar

炎凰先生·2023-01-14 09:36

《电池管理系统关键技术的概述》论文笔记

《电池管理系统关键技术的概述》论文笔记链接：电池管理系统关键技术概述-IOPscience储能电池的研究为可再生新能源的开发和利用提供了时间和空间支持。为了有效利用能源电池，需要特殊的电池管理系统。

Karry D·2023-01-14 09:57

调制识别论文笔记1----Spatial Transformer Networks保持空间不变性

论文题目：ModulationClassificationusingConvolutionalNeuralNetworksandSpatialTransformerNetworks论文地址1.主要思想应用spatialtransformernetwork确保原始IQ信号不受信道条件的影响。研究了将STN应用到CNN上对不同过采样率下分类正确率的影响。2.背景介绍首先介绍了调制识别从军事向无线通信领

JaJaJaJaaaa·2023-01-14 08:20

Transformer-XL论文笔记

论文地址：Transformer-XL::AttentiveLanguageModelsBeyondaFixed-LengthContext摘要Transformer具有学习长期依赖的能力，但是在语言模型的设置中，受限于固定长度的上下文。在本文，我们提出xl,能够学习超过固定长度的依赖，并且不破坏时间上的统一性。它包含一个asegment-levelrecurrencemechanism以及nov

牧童在路上·2023-01-14 07:25

【论文笔记：Progressive Feature Alignment for Unsupervised Domain Adaptation 2019 CVPR】

ProgressiveFeatureAlignmentforUnsupervisedDomainAdaptation概览动机PFAN结构图理论分析插图实验结果1.Introduction2.RelatedWork3.ProgressiveFeatureAlignmentNetwork3.1.TaskFormulation3.2.Easy-to-HardTransferStrategy3.3.Ada

十月十二日·2023-01-13 16:39

【Asymmetric Tri-training for Unsupervised Domain Adaptation 2017 ICML】

论文笔记：AsymmetricTri-trainingforUnsupervisedDomainAdaptation速览背景及方法模型概览结果观察总结IntroductionRelatedWorkMethodLossforMultiviewFeaturesNetworkLearningProcedureandLabelingMethodBatchNormalizationforDomainAdap

十月十二日·2023-01-13 16:09

【论文笔记：Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling】

UnsupervisedDomainAdaptationviaStructuredPredictionBasedSelectivePseudo-Labeling基于结构化预测的选择性伪标记的无监督域自适应IntroductionRelatedWorkProposedMethodExperimentsandResults基于结构化预测的选择性伪标记的无监督域自适应论文链接Introduction结构

十月十二日·2023-01-13 16:08

【论文笔记】A three-way model for collective learning on multi-relational data

摘要提出了一种基于三维张量因式分解的关系学习新方法。与其他张量方法不同，我们的方法能够通过模型的潜在成分进行集体学习，并提供了一种计算因子分解的有效算法。背景从建模的角度来看，张量提供了简单性，因为任意阶的多个关系可以直接表示为高阶张量。此外，关于问题结构的先验知识不需要已知，也不需要从数据中推断，因为这是必要的，例如对于贝叶斯网络或马尔可夫逻辑网络（MLN）等图形模型。从学习角度使用张量分解的一

CodingJazz·2023-01-13 16:05

从复杂到简洁：基于EEG的跨主题情绪识别的渐进转移策略

小白的论文笔记：FromIntricacytoConciseness:AProgressiveTransferStrategyforEEG-BasedCross-SubjectEmotionRecognition

qq_43025979·2023-01-13 16:32

Multi-Object Tracking with Multiple Cues and Switcher-Aware Classification 论文笔记

Multi-ObjectTrackingwithMultipleCuesandSwitcher-AwareClassification似乎是商汤投CVPR2019的论文。文中提出了一个统一的多目标跟踪（MOT）框架，学习充分利用长期和短期线索来处理MOT场景中的复杂情况。在现实系统中，可以认为每个组件都是不可靠的，所以作者联合多个模块交叠使用。现行方案中，检测器用于发现，ReID进行识别。ReID

图波列夫·2023-01-13 15:04

Adversarial Robustness vs. Model Compression, or Both?

本文提出了一种并行对抗性训练和权重修剪的框架，该框架在保持对抗性鲁棒性的同时实现了模型压缩，并从本质上解决了对抗性训练的困境。此外，本工作研究了传统环境中关于权重修剪

你今天论文了吗·2023-01-13 08:52

【论文笔记】IEEE | 一种新卷积 DSConv: Efficient Convolution Operator

论文标题：DSConv:EfficientConvolutionOperator论文链接：https://arxiv.org/abs/1901.01928v2论文代码：发表时间：2019年11月创新点实现更低的内存使用，并且加快计算速度Abstract我们引入了一种称为DSConv（分布移位卷积）的卷积层变体，它可以很容易地替换到标准神经网络架构中，并实现更低的内存使用和更高的计算速度。DSCon

来自γ星的赛亚人·2023-01-12 22:49

【论文笔记】TransFG: A Transformer Architecture for Fine-Grained Recognition

TransFG简介与基于CNN的模型在细粒度任务上的对比disadvantagesofCNNadvantageofTransformer整体结构改进点1、overlappingpatchesPartSelectionModuleContrastivefeaturelearning总结简介2021年3月由字节跳动在CVPR发表的一篇细粒度分类文章。在CUB-200-2011上最高识别精度为91.7%

事多做话少说·2023-01-12 21:36

SimCSE 论文笔记

单位：普林斯顿大学计算机科学系、清华大学跨学科信息科学研究所时间：2021.09发表：EMNLP论文链接：https://arxiv.org/pdf/2104.08821.pdf一、前言1.SimCSE想做些什么？学习通用句向量是自然语言处理中一个基本的问题，在sentence-bert中已经证明过原始bert生成的句向量在语义相似度任务中表示非常差，但在经过孪生网络的训练后就能生成很好的句向量表

shuaiZuJiaoFu·2023-01-12 19:41

ContrastNet 论文笔记

单位：北京航空航天大学，渥太华大学，利德大学时间：2022.06发表：AAAI论文链接：https://ojs.aaai.org/index.php/AAAI/article/view/21292一、前言1.ContrastNet想做些什么？主要想解决的问题是小样本（few-shot）文本分类中的判别表示和过拟合问题。2.ContrastNet做到了什么？提出了一个用于小样本文本分类的对比学习框架

shuaiZuJiaoFu·2023-01-12 19:41

DistilBERT 论文笔记

单位：HuggingFace时间：2020.5发表：NIPS2019论文链接：https://arxiv.org/pdf/1910.01108.pdf一、背景1.什么是distill（蒸馏）？蒸馏简单的说是将大模型（teacher）的学习结果，作为小模型（student）的学习目标，意在小模型能学习到大模型的表示。蒸馏这个方法的核心思想是：好模型的目标不是拟合训练数据而是学习如何泛化到新的数据。所

shuaiZuJiaoFu·2023-01-12 19:10

ALBERT 论文笔记

单位：GoogleResearch时间：2020.2发表：ICLR2020论文链接：https://arxiv.org/abs/1909.11942一、前言1.ALBERT想做些什么？深度学习在模型结构想不到更好的后，就会想到增加模型的规模即深度和宽度，google团队在提出bert模型后也如是思考，想通过增加bert的宽度来提高效果。但bert模型再预训练时已经很大了，强如google拥有这么好

shuaiZuJiaoFu·2023-01-12 19:10

DKT 论文笔记

单位：北京邮电大学，美团时间：2022.06发表：ACL论文链接：https://aclanthology.org/2022.acl-short.6/一、前言1.DKT想做些什么？在文本分类中，域外（Out-of-Domain）意图识别旨在将新的未知意图归入不同的聚类，发现域外意图对意图识别机器人能实现完全自动化至关重要，这有助于改善对话系统的未来发展。其中一个重大的挑战是如何将先前的域内（IND

shuaiZuJiaoFu·2023-01-12 19:02

GIoU损失论文笔记

文章目录GeneralizedIntersectionoverUnion:AMetricandALossforBoundingBoxRegression代码Giou能够优化那些完全没有相交的框（IOU损失做不到）l2损失的缺点如上图a所示三者的l2损失相同，但是iou相差巨大，因为如果利用的是l2损失，bbox的信息其实就是用左上角和右下角坐标信息来代表的。因此，如果第二个角位于以绿色矩形的第二个

yuyijie_1995·2023-01-12 18:30

知识点链接

2105.14485.pdf视频：【AIDrive】ACL2021：基于对抗学习的事件抽取预训练模型_哔哩哔哩_bilibili笔记：论文阅读笔记25【CLEVE：基于对比学习的事件抽取预训练】-知乎论文笔记

Rose sait·2023-01-12 16:30

消除anchor-base与anchor-free检测算法之间的精度差距——ATSS 论文笔记

消除anchor-base与anchor-free检测算法之间的精度差距——ATSS论文笔记作者：ShifengZhang,ChengChi,YongqiangYao,ZhenLei,StanZ.Li论文地址

_white_door·2023-01-12 16:57

【论文笔记】：PSS（NMS-free）

&TitleObjectDetectionMadeSimplerbyEliminatingHeuristicNMS代码&SummaryMotivation：如果网络只能为图像中的每个实例对象识别一个正样本，那么就没有必要使用NMS。allthelocationsontheCNNfeaturemapswithinthecenterregionofanobjectareassignedpositive

Activewaste·2023-01-12 16:52

《YOLOF：You Only Look One-level Feature》论文笔记

参考代码：YOLOF1.概述导读：回顾之前检测网络中普遍使用的FPN网络进行不同尺度特征的融合，以及在不同scale下进行目标检测（不同size的目标会被分配到不同stride的FPN特征图上），这其实是一种分而治之的策略。但是这样的网络设计方式会带来较多的计算开销，毕竟需要计算那么多层级的FPN金字塔。而这篇文章的思路便是思考可否将FPN网络进行简化，这样检测网络的耗时就能得到极大减少。对此文章

m_buddy·2023-01-12 16:20

论文笔记（二）《Adversarial Manipulation of Deep Representations》

1.看过摘要之后，自己提出几个问题；具体如何针对DNN内部层，生成新的对抗网络?2.对应问题的解答；3.用自己的话阐述文章的核心问题和思路；4.可能改进的地方；5.自己画一遍文章的流程图；6.捋一遍算法流程.没看懂abstract我们证明，深度神经网络(DNN)中的图像表示可以被操纵，以模仿其他自然图像，只对原始图像进行微小的、难以察觉的扰动。以前的对抗图像生成方法主要针对产生错误类别标签的图像扰

学而时习之！！·2023-01-12 13:26

[2017NIPS]Learning Efficient Object Detection Models with Knowledge Distillation 论文笔记

目录Method1.结果蒸馏——分类2.结果蒸馏——回归3.特征蒸馏实验结果总结Method将知识蒸馏用在检测方向最大的问题就是前景和背景的类别不均衡问题。感觉就是很常规的思路，蒸特征+蒸输出，具体是在Faster-RCNN上做。其中蒸特征是使用的FitNet的方法在backbone做，在RPN和分类回归网络(RCN)部分蒸输出，两个部分都同时做分类和回归蒸馏。分类是做了一个weighted交叉熵

机器就不学习·2023-01-12 13:34

[2021ICLR]Improve Object Detection with Feature-based Knowledge Distillation 论文笔记

动机认为目标检测知识蒸馏效果不好的问题出在两个地方。1.前背景像素比例不平衡问题。提出了基于注意力引导的提取方法，利用==注意机制(而非gt)找到前景物体的关键像素点==，使学生更加努力地学习前景物体的特征。具体做法是在backbone处，利用attention生成一个fine-grainedmask而非二值mask，并且生成的mask包含空间maskMs∈RH,W和通道maskMc∈Rc两个部分

机器就不学习·2023-01-12 13:34

【论文笔记_知识蒸馏_2022】Compressing Deep Graph Neural Networks via Adversarial Knowledge Distillation

通过对立知识蒸馏压缩深度图神经网络摘要深度图神经网络(GNNs)已被证明对图结构数据的建模具有表达能力。然而，深度图模型的过度堆积的体系结构使得在移动或嵌入式系统上部署和快速测试变得困难。为了压缩过度堆积的广义神经网络，通过师生架构进行知识提炼是一种有效的技术，其中关键步骤是用预定义的距离函数来度量教师和学生网络之间的差异。然而，对各种结构的图使用相同的距离可能是不合适的，并且最佳距离公式很难确定

乱搭巴士·2023-01-12 13:33

【论文笔记_知识蒸馏_2022】Spot-adaptive Knowledge Distillation

点自适应知识蒸馏摘要知识提取(KD)已经成为压缩深度神经网络的一个良好建立的范例。进行知识提炼的典型方式是在教师网络的监督下训练学生网络，以利用教师网络中一个或多个点(即，层)的知识。蒸馏点一旦指定，在整个蒸馏过程中，所有训练样本的蒸馏点都不会改变。在这项工作中，我们认为蒸馏点应该适应训练样本和蒸馏时期。因此，我们提出了一种新的提取策略，称为点自适应KD(SAKD),在整个提取周期的每次训练迭代中

乱搭巴士·2023-01-12 13:03

【论文笔记_知识蒸馏_2022】Knowledge Distillation from A Stronger Teacher

来自一个更强的教师的知识蒸馏摘要不同于现有的知识提取方法侧重于基线设置，其中教师模型和培训策略不如最先进的方法强大和有竞争力，本文提出了一种称为DIST的方法，以从更强的教师中提取更好的知识。我们从经验上发现，学生和更强的老师之间的预测差异可能会相当严重。因此，KL散度预测的精确匹配将干扰训练，并使现有方法表现不佳。在本文中，我们证明了简单地保持教师和学生的预测之间的关系就足够了，并提出了一种基于

乱搭巴士·2023-01-12 13:02

【论文笔记_知识蒸馏_2022】Class-Incremental Learning by Knowledge Distillation with Adaptive Feature Consolida

摘要我们提出了一种基于深度神经网络的新型类增量学习方法，该方法在有限的内存中不断学习新的任务，用于存储以前任务中的例子。我们的算法以知识提炼为基础，提供了一种原则性的方法来保持旧模型的表征，同时有效地调整到新任务。所提出的方法估计了模型更新所产生的表征变化和损失增加之间的关系。它利用表征最小化了损失增加的上界，这利用了骨干模型内每个特征图的估计重要性。基于重要性，该模型限制重要特征的更新以获得稳健

乱搭巴士·2023-01-12 13:02

【论文笔记_知识蒸馏】Adaptive multi-teacher multi-level knowledge distillation

2020年的论文。摘要知识提炼（KD）是一种有效的学习范式，通过利用从教师网络中提炼的额外监督知识来提高轻量级学生网络的性能。大多数开创性研究要么在学习方法上只向一名教师学习，忽视了一名学生可以同时向多名教师学习的潜力，要么简单地将每位教师视为同等重要，无法揭示教师对具体例子的不同重要性。为了弥补这一差距，我们提出了一种新的自适应多教师多级知识提炼学习框架（AMTML-KD），这包括两个新的见解：

乱搭巴士·2023-01-12 13:32

【论文笔记_知识蒸馏】Interactive Knowledge Distillation for image classification

摘要知识提炼（KD）是一个标准的师生学习框架，在训练有素的大型教师网络的指导下，培养一个轻量级的学生网络。互动教学作为一种有效的教学策略，在学校得到了广泛的应用，以激发学生的学习动机。在互动教学中，教师不仅提供知识，而且对学生的反应给予建设性的反馈，以提高学生的学习成绩。在这项工作中，我们提出了交互式知识提炼（IAKD）来利用交互式教学策略进行有效的知识提炼。在提取过程中，教师网络和学生网络之间的

乱搭巴士·2023-01-12 13:32

【论文笔记_自知识蒸馏_2021】Revisiting Knowledge Distillation via Label Smoothing Regularization

代码地址：https://github.com/yuanli2333/Teacher-free-Knowledge-Distillation摘要知识提炼（KD）旨在将繁琐的教师模型中的知识提炼为轻量级的学生模型。它的成功通常归功于教师模型提供的关于类别之间相似性的特权信息，从这个意义上说，只有强大的教师模型被部署在实践中教较弱的学生。在这项工作中，我们通过以下实验观察来挑战这一共同信念：1）除了承

乱搭巴士·2023-01-12 13:32

【论文笔记_知识蒸馏_2021】KNOWLEDGE DISTILLATION VIA SOFTMAX REGRESSION

代码地址:https://github.com/jingyang2017/KD_SRRL摘要本文通过知识提炼解决了模型压缩的问题。

乱搭巴士·2023-01-12 13:32

Feature-map-level Online Adversarial Knowledge Distillation论文笔记

Feature-map-levelOnlineAdversarialKnowledgeDistillation论文笔记论文地址：https://arxiv.org/abs/2002.01775v1github

hankeryeah·2023-01-12 13:01

2020知识蒸馏《Channel Distillation: Channel-Wise Attention for Knowledge Distillation》论文笔记

论文笔记《ChannelDistillation:Channel-WiseAttentionforKnowledgeDistillation》摘要问题1.ChannelDistillation(CD)渠道蒸馏

星竹紫兰·2023-01-12 13:31

知识蒸馏 Knowledge distillation（学习笔记）

把大的复杂的东西变成小的纯净的东西在知识蒸馏中大的模型为教师模型（teacher）臃肿集成牛逼复杂的小的为学生模型（student）小的精干的轻量化的这里有一个知识的迁移因为落地实现的终端边缘设备的算计十分有限所以急需将一个大的优秀的模型压缩成一个小巧精干的轻量化模型这张图它背后的含义是预训练的大模型的增长速率时很恐怖的比摩尔定律还大而我们小设备的算力提升是很受限的

：）�东东要拼命·2023-01-12 13:00

论文笔记：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

前言本文提出了一种可扩展的基于图数据结构的半监督学习方法，该方法基于一个有效的卷积神经网络变形，这种变形能够直接对图进行操作（卷积层变为了图卷积层）。图结构的数据在现实应用中非常常见，比如:SocialNetworks,CitationNetwoks,KnowledgeGraphs等。图半监督学习的setting是，在给定的图结构的数据中，只有少部分节点是有标记的，大部分节点是未标记的。其任务就是

饮冰l·2023-01-12 12:40

Paddle 印刷电路板（PCB）瑕疵检测

该框架中提供了丰富的数据增强、网络组件、损失函数等模块，集成了模型压缩和跨平台高性能部署能力。目前基于PaddleDetection已经完成落地的项目涉及工业质检、遥感图像检测、无人巡检等多个领域。

Yuetianw·2023-01-12 11:33

【论文笔记05】在智能合约中执行联合学习过程

原文作者：A.R.Short,H.C.LeligouandE.Theocharis*原文标题：ExecutionofaFederatedLearningprocesswithinasmartcontract*原文链接：https://ieeexplore.ieee.org/document/9427734*原文来源：IEEEInternationalConferenceonConsumerElec

小海马的人生·2023-01-12 06:41

CVPR2021论文--深度学习GAN&&图像处理--论文笔记3

/1Image-to-imageTranslationviaHierarchicalStyleDisentanglement通过层次风格解缠的图像到图像的转换paper：https://arxiv.org/abs/2103.01456code：https://github.com/imlixinyang/HiSD多标签和多风格的图像到图像的转换显著发展，但是由于标签中未探索的独立性和排他性，现有的

竹篓有个天·2023-01-12 06:36

CVPR2021论文--深度学习GAN&&图像处理--论文笔记

/1Image-to-imageTranslationviaHierarchicalStyleDisentanglementpaper：https://arxiv.org/abs/2103.01456code：https://github.com/imlixinyang/HiSD/2EncodinginStyle:aStyleGANEncoderforImage-to-ImageTranslati

竹篓有个天·2023-01-12 06:06

GoogLeNet （Inception）v1论文笔记

GoogLeNetv1Goingdeeperwithconvolutions这篇论文角度偏向于实际部署，减少计算消耗。Abstract提出了inception结构，旨在提升网络内的计算资源利用率。可以在计算开销不变的情况下增加网络的深度和宽度。decisionswerebasedon赫布法则和对于multi-scale处理的直觉。multi-scale：用多种尺度的卷积核并行处理，之后汇总Intr

白蜡虫可·2023-01-11 20:58

【论文笔记】—GoogLeNet（Inception-V1）—2015-CVPR

论文介绍谷歌提出的GoogLeNet（Inception-V1）深度卷积神经网络结构，在ImageNet2014年图像分类竞赛以top-5误差6.7%获得冠军（亚军为VGG）。使用Inception模块，引入并行结构和不同尺寸的卷积核，对传统的串行堆叠CNN充分分解、解耦。加入1x1卷积，降低参数量和计算量。辅助分类头将梯度注入网络浅层实现正则化，实现多层次预测。其后续变种包括BN-Incepti

chaiky·2023-01-11 20:56

GoogLeNet（Inception V1）论文笔记及Pytorch代码解析

本文仅供自己学习记录感谢良心up同济子豪兄精彩讲解【精读AI论文】GoogLeNet（InceptionV1）深度学习图像分类算法_哔哩哔哩_bilibiliGoogLeNet（InceptionV1）论文笔记详细结构图

麻花地·2023-01-11 20:23

论文笔记：[CVPR 2019] PointConv： Deep Convolutional Networks on 3D Point Clouds

[CVPR2019]PointConv：DeepConvolutionalNetworkson3DPointClouds.[tensorflow][cls.seg.]火1、四个问题解决什么问题CNN使用卷积被证明是成功的，希望将卷积操作搬到3D数据上。用什么方法解决提出了一个在3D数据上的卷积算子，称为：PointConv用了内存更加高效的办法实现PointConv在PointConv上扩展到反卷

I"ll carry you·2023-01-11 19:05

论文笔记10：Denoising and Dimensionality Reduction Using Multilinear Tools for Hyperspectral Images

LRTA：DenoisingandDimensionalityReductionUsingMultilinearToolsforHyperspectralImages引言多向表示与性质去噪工具：LRTA-(K1,K2,K3)(K_1,K_2,K_3)(K1,K2,K3)降维工具：LRTAdr_{dr}dr-(K1,K2,D3)(K_1,K_2,D_3)(K1,K2,D3)实验无降维的分类有降维的分

love_lqz·2023-01-11 18:26

Effective Sequence-to-Sequence Dialogue State Tracking论文笔记

粗读了一下，大概是说seq2seq很好，但是怎么在DST上使用它们还没有被系统地研究过，从两个角度来研究怎么更好使用seq2seq来匹配dst任务：一个是从预训练的任务（用T5的大量不同预训练setups）；另一个是从context的形式上（fullhistory和先前预测出的states循环作为history的summary）觉得对我的开题有参考想精读一下2methods:2.1模型encode

我是汪汪酱·2023-01-11 17:48

论文笔记：Subgraph Retrieval Enhanced Model for Multi-hop Knowledge BaseQuestion Answering

引用格式：ZhangJ,ZhangX,YuJ,etal.SubgraphRetrievalEnhancedModelforMulti-hopKnowledgeBaseQuestionAnswering[C]//Proceedingsofthe60thAnnualMeetingoftheAssociationforComputationalLinguistics(Volume1:LongPapers

空想之余·2023-01-11 17:47

论文笔记Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signa

ImprovingMulti-hopKnowledgeBaseQuestionAnsweringbyLearningIntermediateSupervisionSignals引用格式：[1]HeG,LanY,JiangJ,etal.Improvingmulti-hopknowledgebasequestionansweringbylearningintermediatesupervisionsi

空想之余·2023-01-11 17:46

推荐频道

论文笔记——模型压缩

论文笔记《DeepTective》

《电池管理系统关键技术的概述》论文笔记

调制识别论文笔记1----Spatial Transformer Networks保持空间不变性

Transformer-XL论文笔记

【论文笔记：Progressive Feature Alignment for Unsupervised Domain Adaptation 2019 CVPR】

【Asymmetric Tri-training for Unsupervised Domain Adaptation 2017 ICML】

【论文笔记：Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling】

【论文笔记】A three-way model for collective learning on multi-relational data

从复杂到简洁：基于EEG的跨主题情绪识别的渐进转移策略

Multi-Object Tracking with Multiple Cues and Switcher-Aware Classification 论文笔记

Adversarial Robustness vs. Model Compression, or Both?

【论文笔记】IEEE | 一种新卷积 DSConv: Efficient Convolution Operator

【论文笔记】TransFG: A Transformer Architecture for Fine-Grained Recognition

SimCSE 论文笔记

ContrastNet 论文笔记

DistilBERT 论文笔记

ALBERT 论文笔记

DKT 论文笔记

GIoU损失论文笔记

知识点链接

消除anchor-base与anchor-free检测算法之间的精度差距——ATSS 论文笔记

【论文笔记】：PSS（NMS-free）

《YOLOF：You Only Look One-level Feature》论文笔记

论文笔记（二）《Adversarial Manipulation of Deep Representations》

[2017NIPS]Learning Efficient Object Detection Models with Knowledge Distillation 论文笔记

[2021ICLR]Improve Object Detection with Feature-based Knowledge Distillation 论文笔记

【论文笔记_知识蒸馏_2022】Compressing Deep Graph Neural Networks via Adversarial Knowledge Distillation

【论文笔记_知识蒸馏_2022】Spot-adaptive Knowledge Distillation

【论文笔记_知识蒸馏_2022】Knowledge Distillation from A Stronger Teacher

【论文笔记_知识蒸馏_2022】Class-Incremental Learning by Knowledge Distillation with Adaptive Feature Consolida

【论文笔记_知识蒸馏】Adaptive multi-teacher multi-level knowledge distillation

【论文笔记_知识蒸馏】Interactive Knowledge Distillation for image classification

【论文笔记_自知识蒸馏_2021】Revisiting Knowledge Distillation via Label Smoothing Regularization

【论文笔记_知识蒸馏_2021】KNOWLEDGE DISTILLATION VIA SOFTMAX REGRESSION

Feature-map-level Online Adversarial Knowledge Distillation论文笔记

2020知识蒸馏 《Channel Distillation: Channel-Wise Attention for Knowledge Distillation》论文笔记

知识蒸馏 Knowledge distillation（学习笔记）

论文笔记：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

Paddle 印刷电路板（PCB）瑕疵检测

【论文笔记05】在智能合约中执行联合学习过程

CVPR2021论文--深度学习GAN&&图像处理--论文笔记3

CVPR2021论文--深度学习GAN&&图像处理--论文笔记

GoogLeNet （Inception）v1论文笔记

【论文笔记】—GoogLeNet（Inception-V1）—2015-CVPR

GoogLeNet（Inception V1）论文笔记及Pytorch代码解析

论文笔记：[CVPR 2019] PointConv： Deep Convolutional Networks on 3D Point Clouds

论文笔记10：Denoising and Dimensionality Reduction Using Multilinear Tools for Hyperspectral Images

Effective Sequence-to-Sequence Dialogue State Tracking论文笔记

论文笔记：Subgraph Retrieval Enhanced Model for Multi-hop Knowledge BaseQuestion Answering

论文笔记Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signa

2020知识蒸馏《Channel Distillation: Channel-Wise Attention for Knowledge Distillation》论文笔记