论文笔记——模型压缩第19页

模型压缩概述

模型压缩大概分为以下几个方向：更精细模型的设计：目前的很多网络都具有模块化的设计，在深度和宽度上都很大，这也造成了参数的冗余很多，因此有很多关于模型设计的研究，如SqueezeNet、MobileNet

April63·2023-06-20 02:43

论文笔记：Normalizing Flows for Probabilistic Modeling and Inference

Abstract正则流（Normalizingflows）提供了一种通用的机制来定义富有表达力的概率分布，只需要指定一个（通常简单的）基础分布和一系列可逆变换。Intraduction正则流通过将简单的密度通过一系列变换来产生更丰富、可能更多模态的分布，就像液体流经一组管道一样运作。灵活性意味着正则流非常适合用于建模、推断和模拟这些关键的统计任务。我们对正则流的探索旨在揭示那些将指导它们在可预见的

BlueagleAI·2023-06-20 00:08

Attentive Moment Retrieval in Videos论文笔记

AttentiveMomentRetrievalinVideos论文笔记0.论文地址1.摘要2.引言3.模型结构3.1MemoryAttentionNetwork3.2Cross-ModalFusionNetwork4

7个七·2023-06-19 17:00

详解4种模型压缩技术、模型蒸馏算法

摘要：本文主要为大家讲解关于深度学习中几种模型压缩技术、模型蒸馏算法：Patient-KD、DistilBERT、DynaBERT、TinyBERT。

华为云开发者联盟·2023-06-19 11:00

论文笔记 --《Enhanced LSTM for Natural Language Inference》

标签：Jd_Paperweekly时间：2020.11.18来源：ACL2017关键词：文本匹配，Alignmentlayer1.背景及问题描述文本匹配（TextMatching）是自然语言处理领域最经典的问题之一，也是搜索、QA、推荐等领域的基础研究课题。而短文本匹配，因为其特殊性，比如语义性缺失，句法缺失等，往往需要特殊的处理模型。而对齐机制（Alignment）是处理短文本的有效方案，今天介

ColdCoder·2023-06-19 10:14

[论文笔记]End-to-end Sequence Labeling via Bi-directional LSTM-CNNs-CRF

引言本文是论文End-to-endSequenceLabelingviaBi-directionalLSTM-CNNs-CRF的阅读笔记。本论文提出了一个受益于单词级(word)和字符级(character)表示的网络架构，通过组合双向LSTM，CNN和CRF。简介首先通过CNN编码一个单词的字符级信息到相应的字符表征。然后组合字符和单词级表征输入到Bi-LSTM来建模每个单词的上下文信息。在Bi

愤怒的可乐·2023-06-19 08:36

论文笔记：A Multi-source Trajectory Correlation Algorithm based on Spatial-temporal Similarity

2017ICIF0摘要提出了一种适用于异步多源多轨迹的轨迹相似性模型以及基于该模型的轨迹相关联算法基于在空间和时间约束下搜索潜在匹配数据点的思想，通过设置空间和时间阈值，从匹配点集中确定最佳匹配点，并获得多源轨迹之间的相似度测量考虑了多源轨迹潜在匹配点之间的时空关系允许多源轨迹之间存在时间槽（temporalslot），大大降低了复杂度并确保了轨迹映射的准确性模拟实验结果表明，在应用于模拟复杂多目

UQI-LIUWJ·2023-06-19 08:08

论文笔记： Spatiotemporal Recurrent Convolutional Networks for Traffic Prediction in Transportation Netwo

2017sensors1模型CNN+LSTM空间依赖关系选择一个交通网络根据道路情况把它分成n个路段计算这些路段在一个特定的时间段内的平均速度vi——第i个路段m——时间段内的m辆车使用网格划分交通网络将平均速度映射到网格。空白区域的值设置为0;如果多个路段通过同一个网格，便将它们的平均速度分配给相应的网格使用CNN提取空间信息时间依赖关系LSTM

UQI-LIUWJ·2023-06-19 08:38

论文笔记：A multi-source dataset of urban life in the city of Milan and the Province of Trentino

Scientificdata20150摘要描述了两个地理区域上发布的丰富的多源数据集。该数据集由米兰市和特伦蒂诺省的电信、天气、新闻、社交网络和电力数据组成。1背景通话详单记录CallDetailRecordCDR提取移动模式提取社交互动估算人口密度建模城市结构预测社会经济指标模拟疾病的传播。。。新兴的地理定位信息和通信技术（ICT）服务（如Twitter和Foursquare）的出现为研究人员提

UQI-LIUWJ·2023-06-19 08:37

论文笔记：MEASURING DISENTANGLEMENT: A REVIEW OF METRICS

0摘要学习解缠和表示数据中的变化因素是人工智能中的一个重要问题。虽然已经取得了许多关于学习这些表示的进展，但如何量化解缠仍然不清楚。虽然存在一些度量标准，但对它们的隐含假设、真正衡量的内容以及限制了解甚少。因此，当比较不同的表示时，很难解释结果本篇论文调查了有监督的解缠度量标准，并对它们进行了深入分析。提出了一个新的分类体系，将所有的度量标准分为三个类别：基于干预、基于预测器和基于信息。进行了大量

UQI-LIUWJ·2023-06-19 07:03

全国大数据与计算智能挑战赛：面向低资源的命名实体识别基线方案，排名13/64，组织单位：国防科技大学系统工程学院（大数据与决策实验室）

NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法、文本信息抽取、多模态信息抽取、可解释性分析、性能调优、模型压缩算法等专栏详细介绍：NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法

汀、人工智能·2023-06-18 23:56

论文笔记：Attention U-Net: Learning Where to Look for the Pancreas

Abstract我们提出了一种用于医学成像的新型注意门（AG）模型，该模型自动学习聚焦于不同形状和大小的目标结构。用AG训练的模型隐含地学习抑制输入图像中的不相关区域，同时突出显示对特定任务有用的显着特征。这使我们能够消除使用级联卷积神经网络（CNN）的显式外部组织/器官定位模块的必要性。AG可以很容易地集成到标准CNN架构中，例如U-Net模型，具有最小的计算开销，同时提高模型灵敏度和预测精度。

YaksaWang·2023-06-18 22:58

Attention U-Net: Learning Where to Look for the Pancreas论文笔记

attentionu-net论文翻译笔记摘要[外链图片我们提出了一种新颖的医学图像注意力们模型，它能自动学习聚焦在形状、尺寸变化的目标结构。用AG训练的模型隐形地抑制输入图像的非相关区域，同时强调对指定任务有用的显著性特征。这让我们不必去显式地使用级联CNN的组织定位模块。AG可以轻易的被集成到标准的CNN结构中，比如U-net模型，带有少量的计算开销同时能增加模型的敏感性和准确性。提出的Atte

achong_2050·2023-06-18 22:56

LLM 系列 | 08: 如何用ChatGPT构建点餐机器人？

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。

JasonLiu1919·2023-06-18 18:40

LLM 系列 | 07：吴恩达ChatGPT Prompt课程实践：以智能客服邮件为例

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。

JasonLiu1919·2023-06-18 18:10

多模态之论文笔记BLIP，BLIP2，Instruct BLIP

文章目录BLIP一.简介1.1摘要与引言1.2相关工作1.3方法模型结构预训练目标函数CapFilt噪声过滤1.4实验以及讨论实验设置CapFilt的讨论BLIP2一.简介1.1摘要与引言1.2相关工作1.3方法模型结构第一阶段BootstrapVision-LanguageRepresentationLearningfromaFrozenImageEncoder第二阶段BootstrapVisi

猴猴猪猪·2023-06-18 10:42

多模态之论文笔记ViLT

文章目录ViLT:Vision-and-LanguageTransformerWithoutConvolutionorRegionSupervision一.简介1.1摘要1.2文本编码器，图像编码器，特征交互复杂度分析1.2特征交互方式分析1.3图像特征提取分析二.方法Vision-and-LanguageTransformer2.1.方法概述2.2预训练的目标任务ImageTextMatchin

猴猴猪猪·2023-06-18 10:42

[论文笔记]Bidirectional LSTM-CRF Models for Sequence Tagging

引言本文是论文BidirectionalLSTM-CRFModelsforSequenceTagging的阅读笔记。这篇论文是15年发表的，比上次介绍的那篇还要早。首次应用双向LSTM＋CRF(BI-LSTM-CRF)到序列标注数据集。BI-LSTM-CRF模型可以有效地使用双向输入特征，也因为CRF层可以利用句子级标签信息。简介本论文主要贡献如下：第一个应用双向LSTMCRF模型到序列标注数据集

愤怒的可乐·2023-06-18 09:34

论文笔记：Geometric Reasoning for Single Image Structure Recovery David(Orientation Map算法)(CVPR 2009)

恢复室内布局，传统方法主要分为3个步骤：线段检测和估计消失点、生成布局假设、对假设进行打分，方向图可以作为布局打分重要部分。墙角分为3类：凸角convex(+)corners.凹角concave(-)corners.遮挡角occluding(>)corners.所有房间布局可由这3种基本类别进行组合。进一步根据消失点划分3个区域(视角不同)，每个区域只有凸角、凹角、遮挡角1、遮挡角2，这4种类型的

snoopy_21·2023-06-18 03:24

2023中国高校计算机大数据挑战赛：论文学科分类baseline|清华主办

NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法、文本信息抽取、多模态信息抽取、可解释性分析、性能调优、模型压缩算法等专栏详细介绍：NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法

汀、人工智能·2023-06-17 23:08

论文笔记：ZERO-SHOT RESTORATION OF UNDEREXPOSED IMAGES VIA ROBUST RETINEX DECOMPOSITION

通过稳健的Retinex分解对曝光不足的图像进行零镜头恢复会议：2020IEEEInternationalConferenceonMultimediaandExpo(ICME)论文地址：Zero-ShotRestorationofUnderexposedImagesviaRobustRetinexDecomposition|IEEEConferencePublication|IEEEXplore论

weixin_43535668·2023-06-17 09:34

低光照图像增强《Deep Retinex Decomposition for Low-Light Enhancement》论文笔记

论文链接—Github链接—项目主页1原理经典Retinex将图像分解为反射率RRR和照明度III。SSS表示源图像，则表示为：S=R∘I(1)S=R\circI\tag{1}S=R∘I(1)RRR代表反射率，描述了捕获物体的内在属性，它被认为在任何光照（III）条件下都是一致的III代表照明度(亮度)，代表各种物体上的亮度，在低光照图像上，它通常会受到黑暗和不平衡的照明分布影响∘\circ∘代表

清楓·2023-06-17 09:04

论文笔记-Multi-Task Learning as Multi-Objective Optimization

Intro在深度学习，使用多个任务（loss）训练模型时，通常使用最小化加权线性和的方式来训练整个模型。但是这要求多任务之间不存在相互竞争。因此作者提出新的多任务学习方法，将多任务学习转化成多目标优化问题，借助凸优化问题求帕累托（pareto）最优解。method问题定义对一个输入空间X和任务集合空间{Yt}t∈[T]\left\{\mathcal{Y}^t\right\}_{t\in[T]}{Y

chenxino·2023-06-17 08:14

【论文笔记】DS-UNet: A dual streams UNet for refined image forgery localization

DS-UNet:用于细化图像伪造定位的双流UNet摘要提出了一种名为DS-UNet的双流网络来检测图像篡改和定位伪造区域。DS-UNet采用RGB流提取高级和低级操纵轨迹，用于粗定位，并采用Noise流暴露局部噪声不一致，用于精定位。由于被篡改对象的形状和大小总是不同的，DS-UNet采用了轻量级的分层融合方法，使得DS-UNet能够感知不同尺度的篡改对象。之后，DS-UNet通过单个解码器接收跳

Deep_Lnna·2023-06-17 06:48

论文笔记 | 谷歌 Soft Prompt Learning ，Prefix-Tuning的 -＞ soft promt -＞ p tuning v2

论文笔记|谷歌SoftPromptLearningptuning->Prefix-Tuning->softpromt->ptuningv2"ThePowerofScaleforParameter-EfficientPromptTuning"EMNLP2021GoogleBrain

AI生成曾小健·2023-06-17 06:42

深度学习实战——模型推理优化（模型压缩与加速）

https://github.com/yiru1225（转载标明出处勿白嫖starforprojectsthanks）目录系列文章目录一、实验思路综述1.实验工具及内容2.实验数据3.实验目标4.实验步骤二、模型压缩与加速综述

@李忆如·2023-06-17 04:57

论文笔记与实战：对比学习方法MOCO

目录1.什么是MOCO2.MOCO是干吗用的3.MOCO的工作原理3.1一些概念1.无监督与有监督的区别2.什么是对比学习3.动量是什么3.2MOCO工作原理1.字典查找2.如何构建一个好的字典3.工作流程3.3（伪）代码分析4.其他一些问题5.MOCOv2和MOCOv35.1MOCOv25.2MOCOv36.实战部分6.1数据6.2模型与参数设置6.3实验结果（好久没更新了~~~准备分享一些pa

lokvke·2023-06-17 03:13

TALL论文笔记

TALL论文笔记0.论文来源1摘要2引言3模型结构3.1视觉编码器3.2句子编码器3.3模态融合3.4时间定位回归网络4训练4.1损失函数4.2采集训练样本5评估5.1数据集5.2评价指标5.3实验结果

7个七·2023-06-16 23:28

【知识蒸馏】知识蒸馏（Knowledge Distillation）技术详解

因此，涌现出了大量的模型压缩和加速技术，知识蒸馏是其中的代表，可以有效的从大型的教师模型中学习到小型的学生模型。本

姚路遥遥·2023-06-16 21:33

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、预训练模型、计算机视觉、自然语言处理、推荐系统、）

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、对抗神经网络、预训练模型、计算机视觉、自然语言处理、推荐系统、模型压缩、强化学习、元学习）人工智能领域：面试常见问题1.深度学习基础为什么归一化能够提高求解最优解的速度

·2023-06-16 14:29

深度学习实践篇[17]：模型压缩技术、模型蒸馏算法：DynaBERT、TinyBERT

深度学习实践篇[17]：模型压缩技术、模型蒸馏算法：Patient-KD、DistilBERT、DynaBERT、TinyBERT1.模型压缩概述1.2模型压缩原有理论上来说，深度神经网络模型越深，非线性程度也就越大

·2023-06-16 14:26

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、预训练模型、计算机视觉、自然语言处理、推荐系统、）

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、对抗神经网络、预训练模型、计算机视觉、自然语言处理、推荐系统、模型压缩、强化学习、元学习）人工智能领域：面试常见问题1.深度学习基础为什么归一化能够提高求解最优解的速度

·2023-06-16 14:26

FL Backdoor Defense (Ⅱ) - DeepSight

文章目录论文笔记-DeepSight:MitigatingBackdoorAttacksinFederatedLearningThroughDeepModelInspection1.基本信息2.研究动机

WBZhang2022·2023-06-16 12:32

FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning

文章目录论文笔记-FLAME:TamingBackdoorsinFederatedLearning1.基本信息2.研究动机3.基本原理3.1面临挑战分析3.2FLAME算法总体概述3.3FLAME算法设计思想

WBZhang2022·2023-06-16 12:02

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、对抗神经网络、预训练模型、计算机视觉、自然语言处理、推荐系统、模型压缩、强化学习、元学习）

【深度学习入门到进阶】必看系列，含激活函数、优化策略、损失函数、模型调优、归一化算法、卷积模型、序列模型、预训练模型、对抗神经网络等专栏详细介绍：【深度学习入门到进阶】必看系列，含激活函数、优化策略、损失函数、模型调优、归一化算法、卷积模型、序列模型、预训练模型、对抗神经网络等本专栏主要方便入门同学快速掌握相关知识。后续会持续把深度学习涉及知识原理分析给大家，让大家在项目实操的同时也能知识储备，知

汀、人工智能·2023-06-16 11:33

深度学习实践篇[17]：模型压缩技术、模型蒸馏算法：Patient-KD、DistilBERT、DynaBERT、TinyBERT

【深度学习入门到进阶】必看系列，含激活函数、优化策略、损失函数、模型调优、归一化算法、卷积模型、序列模型、预训练模型、对抗神经网络等专栏详细介绍：【深度学习入门到进阶】必看系列，含激活函数、优化策略、损失函数、模型调优、归一化算法、卷积模型、序列模型、预训练模型、对抗神经网络等本专栏主要方便入门同学快速掌握相关知识。后续会持续把深度学习涉及知识原理分析给大家，让大家在项目实操的同时也能知识储备，知

汀、人工智能·2023-06-16 11:31

CVPR 2022 | 美团技术团队精选论文解读

计算机视觉国际顶会CVPR2022近日在美国新奥尔良召开，今年美团技术团队有多篇论文被CVPR2022收录，这些论文涵盖了模型压缩、视频目标分割、3D视觉定位、图像描述、模型安全、跨模态视频内容检索等研究领域

·2023-06-16 11:33

论文笔记 | KDD2014 | Practical Lessons from Predicting Clicks on Ads at Facebook

gbdt_lr-title.jpg论文地址：https://quinonero.net/Publications/predicting-clicks-facebook.pdf一为什么读这篇本文属于深度学习时代之前的一篇经典CTR预估paper，即大名鼎鼎的GBDT+LR，记得当年刚出来的时候还是挺火的，可惜深度学习遍地开花后，就退出舞台了，不过为了夯实下基础，还是得看看，同时希望可以从历史经典中挖

ktulu7·2023-06-16 04:12

知识蒸馏、轻量化模型架构、剪枝…几种深度学习模型压缩方法

摘要：模型压缩算法旨在将一个大模型转化为一个精简的小模型。工业界的模型压缩方法有：知识蒸馏、轻量化模型架构、剪枝、量化。本文分享自华为云社区《深度学习模型压缩方法综述》，作者：嵌入式视觉。

华为云开发者联盟·2023-06-15 15:40

——Object Counting：You Only Need To Look At One论文笔记

——ObjectCounting：YouOnlyNeedToLookAtOne论文笔记一、Abstract二、引言三、相关工作四、方法4.1问题定义4.2特征关联4.3特征提取和尺度聚合4.4训练损失五

乄洛尘·2023-06-15 15:26

【知识普及】神经网络架构搜索（Neural Architecture Search，NAS）

2.1.2基于进化算法2.1.3基于梯度的方法2.2NAS加速2.2.1层次化表示2.2.2权值共享2.2.3表现预测2.3NAS变体及扩展2.3.1语义分割2.3.2多目标2.3.3优化器2.3.4模型压缩

^_^ 晅菲·2023-06-15 12:43

【论文笔记】SAM3D: Zero-Shot 3D Object Detection via Segment Anything Model

原文链接：https://arxiv.org/pdf/2306.02245.pdf1.引言分割一切模型（SAM）作为视觉领域的基石模型，有强大的泛化性，能解决很多2D视觉问题。但是SAM是否可以适用于3D视觉任务，仍需要被探索。目前几乎没有关于3D目标检测的零样本学习，如何使SAM的零样本能力适用于3D目标检测是本文的主要研究内容。本文提出SAM3D，使用SAM分割BEV图，然后从输出

byzy·2023-06-15 06:51

李沐读论文笔记--大模型时代下做科研的四个思路

大模型时代下做科研的四个思路0.视频来源：1.提高效率（更快更小）1.1PEFT介绍(parameterefficientfinetuning)1.2作者的方法1.3AIM效果1.3.1AIM在K400数据集上的表现1.3.2AIM在Something-Something数据集、K700数据集和Diving-48数据集上的表现2.调用已训练好的模型做应用3.做即插即用的模块4.构建数据集，做分析为

7个七·2023-06-15 00:29

Cross-modal Moment Localization in Videos论文笔记

Cross-modalMomentLocalizationinVideos论文笔记0.来源1.摘要2.介绍3.模型3.1语言-时间注意网络3.2损失函数3.2.1对齐损失3.2.2位置损失3.2.2损失函数

7个七·2023-06-15 00:55

加速44%！RT-DETR量化无损压缩优秀实战

在实际部署中，为了追求“更准、更小、更快”的效率能力，本文使用飞桨模型压缩工具PaddleSlim中的自动压缩工具（ACT,AutoCompressionToolkit）将针对RT-DETR进行量化压缩及部署实战

飞桨PaddlePaddle·2023-06-14 21:58

加速44%！RT-DETR量化无损压缩优秀实战

在实际部署中，为了追求“更准、更小、更快”的效率能力，本文使用飞桨模型压缩工具PaddleSlim中的自动压缩工具（ACT,AutoCompressionToolkit）将针对RT-DETR进行量化压缩及部署实战

飞桨PaddlePaddle·2023-06-14 21:28

BERT和GAN咋压缩，且看咱PaddleSlim新利器—— OFA

针对部署难题，可以使用剪枝、量化、蒸馏等传统的模型压缩技术，但是这些模型压缩技术整

·2023-06-14 18:36

加速44%！RT-DETR量化无损压缩优秀实战

在实际部署中，为了追求“更准、更小、更快”的效率能力，本文使用飞桨模型压缩工具PaddleSlim中的自动压缩工具（ACT,AutoCompressionToolkit）将针对RT-DETR进行量化压缩及部署实战

·2023-06-14 18:21

深度学习模型精度与PyTorch模型量化

深度学习的模型压缩的主流方法有基于量化的方法、模型剪枝和知识蒸馏（teacher-student），模型量化，这是最广泛使用的模型压缩形式。

思考实践·2023-06-14 12:48

LiveBot: Generating Live Video Comments Based on Visual and Textual Contexts 论文笔记

源码：https://go.ctolib.com/article/wiki/104234弹幕，已经成为人们看视频的一种习惯；不同用户之间的弹幕往往会形成上下文回复关系，更让弹幕成为一种新的社交模式。基于这一现象，微软亚洲研究院设计了一款名为LiveBot的自动弹幕生成系统。在这一系统中需要克服两个难点：一是要充分理解视频内容，根据其他用户的评论弹幕生成适当的内容；二是要在合适的时间点显示在对应的视

yeva_o·2023-06-14 09:21

推荐频道

论文笔记——模型压缩

模型压缩概述

论文笔记：Normalizing Flows for Probabilistic Modeling and Inference

Attentive Moment Retrieval in Videos论文笔记

详解4种模型压缩技术、模型蒸馏算法

论文笔记 --《Enhanced LSTM for Natural Language Inference》

[论文笔记]End-to-end Sequence Labeling via Bi-directional LSTM-CNNs-CRF

论文笔记：A Multi-source Trajectory Correlation Algorithm based on Spatial-temporal Similarity

论文笔记： Spatiotemporal Recurrent Convolutional Networks for Traffic Prediction in Transportation Netwo

论文笔记：A multi-source dataset of urban life in the city of Milan and the Province of Trentino

论文笔记：MEASURING DISENTANGLEMENT: A REVIEW OF METRICS

全国大数据与计算智能挑战赛：面向低资源的命名实体识别基线方案，排名13/64，组织单位：国防科技大学系统工程学院（大数据与决策实验室）

论文笔记：Attention U-Net: Learning Where to Look for the Pancreas

Attention U-Net: Learning Where to Look for the Pancreas论文笔记

LLM 系列 | 08: 如何用ChatGPT构建点餐机器人？

LLM 系列 | 07：吴恩达ChatGPT Prompt课程实践：以智能客服邮件为例

多模态之论文笔记BLIP，BLIP2，Instruct BLIP

多模态之论文笔记ViLT

[论文笔记]Bidirectional LSTM-CRF Models for Sequence Tagging

论文笔记 ：Geometric Reasoning for Single Image Structure Recovery David(Orientation Map算法)(CVPR 2009)

2023中国高校计算机大数据挑战赛：论文学科分类baseline|清华主办

论文笔记：ZERO-SHOT RESTORATION OF UNDEREXPOSED IMAGES VIA ROBUST RETINEX DECOMPOSITION

低光照图像增强《Deep Retinex Decomposition for Low-Light Enhancement》论文笔记

论文笔记-Multi-Task Learning as Multi-Objective Optimization

【论文笔记】DS-UNet: A dual streams UNet for refined image forgery localization

论文笔记 | 谷歌 Soft Prompt Learning ，Prefix-Tuning的 -＞ soft promt -＞ p tuning v2

深度学习实战——模型推理优化（模型压缩与加速）

论文笔记与实战：对比学习方法MOCO

TALL论文笔记

【知识蒸馏】知识蒸馏（Knowledge Distillation）技术详解

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、预训练模型、计算机视觉、自然语言处理、推荐系统、）

深度学习实践篇[17]：模型压缩技术、模型蒸馏算法：DynaBERT、TinyBERT

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、预训练模型、计算机视觉、自然语言处理、推荐系统、）

FL Backdoor Defense (Ⅱ) - DeepSight

FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning

人工智能领域：面试常见问题超全（深度学习基础、卷积模型、对抗神经网络、预训练模型、计算机视觉、自然语言处理、推荐系统、模型压缩、强化学习、元学习）

深度学习实践篇[17]：模型压缩技术、模型蒸馏算法：Patient-KD、DistilBERT、DynaBERT、TinyBERT

CVPR 2022 | 美团技术团队精选论文解读

论文笔记 | KDD2014 | Practical Lessons from Predicting Clicks on Ads at Facebook

知识蒸馏、轻量化模型架构、剪枝…几种深度学习模型压缩方法

——Object Counting：You Only Need To Look At One论文笔记

【知识普及】神经网络架构搜索（Neural Architecture Search，NAS）

【论文笔记】SAM3D: Zero-Shot 3D Object Detection via Segment Anything Model

李沐读论文笔记--大模型时代下做科研的四个思路

Cross-modal Moment Localization in Videos论文笔记

加速44%！RT-DETR量化无损压缩优秀实战

加速44%！RT-DETR量化无损压缩优秀实战

BERT和GAN咋压缩，且看咱PaddleSlim新利器—— OFA

加速44%！RT-DETR量化无损压缩优秀实战

深度学习模型精度与PyTorch模型量化

LiveBot: Generating Live Video Comments Based on Visual and Textual Contexts 论文笔记

论文笔记：Geometric Reasoning for Single Image Structure Recovery David(Orientation Map算法)(CVPR 2009)