知识蒸馏论文翻译第30页

Sequence to Sequence – Video to Text 论文翻译

序列到序列–视频到文本摘要现实世界的视频往往具有复杂的动态性；生成开放域视频描述的方法应该对时间结构敏感，并且允许可变长度的输入（帧序列）和输出（字序列）。为了解决这个问题，我们提出了一种新的端到端序列对序列模型来生成视频字幕。为此，我们开发了递归神经网络，特别是LSTM，它在图像字幕生成方面显示了最先进的性能。我们的LSTM模型基于视频句子对进行训练，并学习将视频帧序列与单词序列相关联，以便在视

白白白白白8·2022-05-20 08:22

美国老姐看完200+中国学生SCI论文，怒写超详细“中国人英文论文写作指南”，还被推上了B站热门…...

各位本科僧/研究僧/博士僧，你的SCI论文翻译好了吗？投稿之前，总少不得再给文章润色一番，可作为非母语写作者，语法、惯用语的坑多少是有点防不胜防。

QbitAl·2022-05-17 16:10

知识蒸馏联邦学习的个性化技术综述

目录前言摘要I.引言II.个性化需求III.方法A.添加用户上下文B.迁移学习C.多任务学习D.元学习E.知识蒸馏F.基础+个性化层G.全局模型和本地模型混合IV.总结前言题目：SurveyofPersonalizationTechniquesforFederatedLearning

·2022-05-11 19:58

CVPR 2022 | 腾讯优图实验室30篇论文入选，含场景文本语义识别、3D人脸重建、目标检测、视频场景分割和视频插帧等领域...

以下为腾讯优图实验室入选论文介绍：01面向评估的深度人脸识别知识蒸馏方法Evalua

OpenCV中文网公众号·2022-05-09 07:08

知识蒸馏Knownledge Distillation

知识蒸馏源自Hintonetal.于2014年发表在NIPS的一篇文章：DistillingtheKnowledgeinaNeuralNetwork。

Pr4da·2022-05-07 16:28

论文解读：Decoupled Knowledge Distillation

DecoupledKnowledgeDistillation地址：https://arxiv.org/pdf/2203.08679.pdf代码：https://github.com/megvii-research/mdistiller2.背景与摘要知识蒸馏花样繁多

littletomatodonkey·2022-05-06 07:17

Video synopsis: A survey 视频摘要论文翻译

视频摘要：一项调查ComputerVisionandImageUnderstanding181(2019)26–38ComputerVisionandImageUnderstandingjournalhomepage:www.elsevier.com/locate/cviu作者：KemalBatuhanBaskurt,RefikSamet文章目录视频摘要：一项调查0Abstract1Introdu

卡塞尔学院临时副主任·2022-05-03 07:50

Transformers in Vision: A Survey论文翻译

TransformersinVision:ASurvey论文翻译原文翻译链接摘要摘要——Transformer模型在自然语言任务上的惊人结果引起了视觉界的兴趣，而致力于研究它们在计算机视觉问题中的应用。

PLANET_ME·2022-05-03 07:10

【ORB-SLAM2源码解读】论文公式

文章目录ORB_SLAM2论文翻译robustHubercostfunction协方差矩阵SpanningGraphCovisibilityGraphEssentialGraph非线性优化ORB_SLAM2

SLAM实战教程·2022-05-03 07:29

MobileViT: Light-weight, General-purpose, and Mobile-friendly Vision Transformer论文翻译理解

背景目前CV领域主要使用轻量级的CNN，CNN带有的空间归纳偏置（局部性，平移不变性）使得它能在各种任务上以更少的参数学习表征。然而，CNN是局部的。为了学习全局特征，ViT被应用到了CV领域，但是比起CNN，ViT更复杂。那么有没有一种可能，将CNN和ViT的优点结合起来，去构建一个轻量级而且低延迟的网络呢。本文提出了MobileViT，轻量且通用的视觉transformer。MobileViT

Katherine121·2022-05-01 11:31

tensorflow利用for循环进行训练遇到的内存爆炸问题(OOM)

文章目录问题背景出现问题解决问题部分一部分二其他部分参考问题背景最近在用tensorflow学习模型的知识蒸馏，自己基于cifar10数据集训练得到的teacher模型，在对3种不同参数量的student

alphanoblaker·2022-04-27 16:28

深度学习经典网络解析图像分类篇（七）：ResNet

3.ResNet3.1ResNet概要3.2ResNet网络结构3.2.1残差结构3.2.2ResNet中卷积块设计3.2.3不同跳跃连接3.3RenNet创新点4.1总结ResNet论文翻译详情见我的博客

Jsper0420·2022-04-22 07:10

论文翻译：2020_TinyLSTMs: Efficient Neural Speech Enhancement for Hearing Aids

论文地址：TinyLSTMs：助听器的高效神经语音增强音频地址：https://github.com/Bose/efficient-neural-speech-enhancement引用格式：FedorovI，StamenovicM，JensenC，etal.TinyLSTMs：Eff

凌逆战·2022-04-18 12:00

深度学习(13):pointnet++论文翻译与学习

原文名称:PointNet++:DeepHierarchicalFeatureLearningonPointSetsinaMetricSpace译文名称：PointNet++：度量空间中点集的深度分层特征学习Pointnet++论文地址:https://arxiv.org/pdf/1706.02413.pdf注:（meng:xxxx）为个人理解目录Abstract—摘要1Introduction—

biter0088·2022-04-16 11:32

CRNN文字识别

AnEnd-to-EndTrainableNeuralNetworkforImage-basedSequenceRecognitionandItsApplicationtoSceneTextRecognitionCRNN论文翻译

GoAI·2022-04-14 07:17

论文翻译：2018_LSTM剪枝_Learning intrinsic sparse structures within long short-term memory

论文地址：在长短时记忆中学习内在的稀疏结构论文代码：https://github.com/wenwei202/iss-rnns引用格式：WenW,HeY,RajbhandariS,etal.Learningintrinsicsparsestructureswithinl

凌逆战·2022-04-11 22:00

元学习之《On First-Order Meta-Learning Algorithms》论文详细解读

元学习系列文章optimizationbasedmeta-learning《Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks》论文翻译笔记元学习方向

田小成plus·2022-04-11 07:44

元学习方向 optimization based meta learning 之 MAML论文详细解读

元学习系列文章optimizationbasedmeta-learning《Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks》论文翻译笔记元学习方向

田小成plus·2022-04-11 07:14

知识蒸馏之DistilBERT

文章目录题目知识知识蒸馏DistilBERT题目知识蒸馏之DistilBERT知识这个概念很广，小到身边道理，大到天文地理，而这都不是今天的重点，我要学的是一个模型MODEL如何从“胖”变“瘦”，实现它的华丽变化

365JHWZGo·2022-04-11 07:42

目标检测算法——YOLOv1

YOLOv1损失函数4.YOLOv1总结1.YOLOv1简介yolov1全称：YouOnlyLookOnce:Unified,Real-TimeObjectDetection，论文链接有博主将其进行了翻译，论文翻译

Clichong·2022-04-10 08:39

预训练技术在美团到店搜索广告中的应用

美团技术团队·2022-04-10 07:29

论文翻译：2021_Performance optimizations on deep noise suppression models

论文地址：深度噪声抑制模型的性能优化引用格式：CheeJ,BraunS,GopalV,etal.Performanceoptimizationsondeepnoisesuppressionmodels[J].arXivpreprintarXiv:2110.0437

凌逆战·2022-04-09 23:00

论文翻译：2021_Performance optimizations on deep noise suppression models

论文地址：深度噪声抑制模型的性能优化引用格式：CheeJ,BraunS,GopalV,etal.Performanceoptimizationsondeepnoisesuppressionmodels[J].arXivpreprintarXiv:2110.0437

凌逆战·2022-04-09 23:00

论文翻译：2021_Towards model compression for deep learning based speech enhancement

论文地址：面向基于深度学习的语音增强模型压缩论文代码：没开源，鼓励大家去向作者要呀，作者是中国人，在语音增强领域深耕多年引用格式：TanK,WangDL.Towardsmodelcompressionfordeeplearningbasedspeechenhancem

凌逆战·2022-04-08 10:00

【论文翻译|2020】A Survey on Heterogeneous Graph Embedding: Methods, Techniques, Applications and Sources

论文链接：ASurveyonHeterogeneousGraphEmbedding:Methods,Techniques,ApplicationsandSources论文作者：北京邮电大学王啸、石川等【注】异构图表示学习综述——韩家炜组文章目录摘要1引言2定义2.1基本概念异构图元路径元图异构网络嵌入2.2HG嵌入的异构性挑战3分类方法3.1结构保留的异构图嵌入3.1.1基于链接（边）的HG嵌入3

林若漫空·2022-04-08 08:34

【深度学习论文篇 01-1 】AlexNet论文翻译

前言：本文是我对照原论文逐字逐句翻译而来，英文水平有限，不影响阅读即可。翻译论文的确能很大程度加深我们对文章的理解，但太过耗时，不建议采用。我翻译的另一个目的就是想重拾英文，所以就硬着头皮啃了。本文只作翻译，总结及代码复现详见后续的姊妹篇。Alex原论文链接：https://proceedings.neurips.cc/paper/2012/file/c399862d3b9d6b76c8436e9

最菜程序员Sxx·2022-04-05 11:00

论文翻译：2021_Acoustic Echo Cancellation with Cross-Domain Learning

论文地址：https://graz.pure.elsevier.com/en/publications/acoustic-echo-cancellation-with-cross-domain-learning具有跨域学习的声学回声消除摘要：本文提出了跨域回声控制器（CDEC），提交给Interspeech2021AEC-Challenge。该算法由三个构建块组成：(i)时延补偿(TDC)模块，(

建人类命运共同体·2022-03-29 09:00

SiamRPN++: Evolution of Siamese Visual Tracking with Very Deep Networks(论文翻译)

论文地址：https://arxiv.org/pdf/1812.11703.pdf项目地址：SiamRPN++:EvolutionofSiameseVisualTrackingwithVeryDeepNetworks摘要基于孪生网络的跟踪器将跟踪公式化为目标模板和搜索区域之间的卷积特征互相关。然而，与最先进的算法相比，孪生追踪器的准确度仍然有差距，而且它们不能利用深层网络的特性，例如resnet-

MJ5513·2022-03-29 07:16

论文翻译：2021_Joint Online Multichannel Acoustic Echo Cancellation, Speech Dereverberation and Source Separation

论文地址：https://arxiv.53yu.com/abs/2104.04325联合在线多通道声学回声消除、语音去混响和声源分离摘要：本文提出了一种联合声源分离算法，可同时减少声学回声、混响和干扰源。通过最大化相对于其他源的独立性，将目标语音从混合中分离出来。结果表明，分离过程可以分解为级联的子过程，分别与声学回声消除、语音去混响和源分离相关，所有这些都使用基于辅助函数的独立分量/矢量分析技术

建人类命运共同体·2022-03-28 09:00

论文翻译：2018_Source localization using deep neural networks in a shallow water environment

论文地址：https://asa.scitation.org/doi/abs/10.1121/1.5036725深度神经网络在浅水环境中的源定位摘要：深度神经网络(DNNs)在表征复杂的非线性关系方面具有优势。本文将DNNs应用于浅水环境下的源定位。提出了两种方法，通过不同的神经网络结构来估计宽带源的范围和深度。第一阶段采用经典的两阶段方案，特征提取和DNN分析是两个独立的步骤;与模态信号空间相关

建人类命运共同体·2022-03-27 14:00

图像拼接算法及实现_NL-means：一种非局部均值图像降噪算法 || 论文翻译及代码实现...

论文原文链接：《Imagedenoisingbysparse3Dtransform-domaincollaborativefiltering》：https://www.cs.tut.fi/~foi/GCF-BM3D/BM3D_TIP_2007.pdf萌新项目地址：GitHberChen/NL-means论文结构：简述1、引入2、方法噪声（降噪方法的误差）2.1、高斯滤波2.2、各向异性滤波器2.3

weixin_39778218·2022-03-26 07:44

论文翻译：2021_论文翻译：2018_F-T-LSTM based Complex Network for Joint Acoustic Echo Cancellation and Speech Enhancement

论文地址：https://arxiv.53yu.com/abs/2106.07577基于F-T-LSTM复杂网络的联合声学回声消除和语音增强摘要随着对音频通信和在线会议的需求日益增加，在包括噪声、混响和非线性失真在内的复杂声学场景下，确保声学回声消除（AEC）的鲁棒性已成为首要问题。尽管已经有一些传统的方法考虑了非线性失真，但它们对于回声抑制仍然效率低下，并且在存在噪声时性能会有所衰减。在本文中，

建人类命运共同体·2022-03-24 17:00

【Pytorch】使用Pytorch进行知识蒸馏_2

使用Pytorch进行知识蒸馏_2一、先训练老师网络查看教师的暗知识二、让老师教学生网络`关键，定义kd的loss`三、让学生自己学，不使用KD四、可视化五、完整源代码上一篇：[【Pytorch】使用Pytorch

码猿小菜鸡·2022-03-22 07:30

【Pytorch】使用Pytorch进行知识蒸馏

使用Pytorch进行知识蒸馏一、知识蒸馏原理1.使用`softmax`进行蒸馏：2.知识迁移：老师知识—>学生知识二、知识蒸馏实现1.导入各种包2.设置随机种子3.加载MNIST数据集4.定义教师模型

码猿小菜鸡·2022-03-22 07:28

深度篇——人脸识别(一) ArcFace 论文翻译

返回主目录返回人脸识别目录下一章：深度篇——人脸识别(二)人脸识别代码insight_face_pro项目讲解目录内容：深度篇——人脸识别(一)ArcFace论文翻译深度篇——人脸识别(二)人脸识别代码

万道一·2022-03-21 09:05

小样本目标检测论文翻译总结 2021 CVPR Dense Relation Distillation with Context-aware Aggregation

DenseRelationDistillationwithContext-awareAggregationforFew-ShotObjectDetectionAbstractConventionaldeeplearningbasedmethodsforobjectdetectionrequirealargeamountofboundingboxannotationsfortraining,whic

星 ♚ 城·2022-03-18 07:29

PV-RCNN论文翻译

PV-RCNN:Point-VoxelFeatureSetAbstractionfor3DObjectDetectionAbstract1.Introduction2.RelatedWork3.PV-RCNNforPointCloudObjectDetection3.1.3DVoxelCNNforEfficientFeatureEncodingandProposalGeneration3.2.Vo

jiangtao129·2022-03-17 07:35

用于异常检测的多分辨率知识蒸馏

论文地址：https://arxiv.org/pdf/2011.11108.pdf官方代码：https://github.com/Niousha12/Knowledge_Distillation_AD自实现代码：https://github.com/HibikiJie/Multiresolution-Knowledge-Distillation-for-Anomaly-Detection/tree

Hibiki阿杰·2022-03-16 19:47

open pose2019 OpenPose: Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields论文翻译与原理理解

highlights：①证明只有PAFs的优化有助于系统的性能和准确性。（之前的工作认为PAFs和bodypartlocationestimation共同作用才能促进系统优化）②提出第一个组合body和foot的detector（基于一个内部注释的脚部数据集，已开源）③本文提出的组合检测器不仅减少了推理时间而且保持了每个部件的准确性④发布了openpose这一开源系统Humanposeestima

sxxblogs·2022-03-16 18:09

语义分割技术综述

综述论文翻译：AReviewonDeepLearningTechniquesAppliedtoSemanticSegmentation近期主要在学习语义分割相关方法，计划将arXiv上的这篇综述好好翻译下

JaedongXue·2022-03-16 07:22

Background Matting V2算法讲解

参考论文：Real-TimeHigh-ResolutionBackgroundMatting，我也已经发布过Real-TimeHigh-ResolutionBackgroundMatting的论文翻译。

Kaleidoscope-·2022-03-15 14:56

YOLOX论文翻译

题目：《YOLOX:2021年超越YOLO系列》文章目录摘要一、介绍二、YOLOX2.1YOLOX-DarkNet532.2其他backbones三、与SOTA比较四、流媒体感知挑战第一名(2021年CVPR自动驾驶研讨会)五、结论图1：YOLOX和其他SOTA目标检测模型在“速度-精确度”的对比曲线和部署在移动设备的轻量模型“参数量-精确度”的对比曲线。摘要在本报告中，我们介绍了YOLO系列

秦失其鹿的博客·2022-03-15 07:49

Learning Without Forgetting 笔记及实现

LearningWithoutForgettingLWF简介方法对比LWF算法流程总结实现LWF简介LWF是结合知识蒸馏(KD)避免灾难性遗忘的经典持续学习方法。

juggle_gap_horse·2022-03-15 07:57

＜论文翻译＞RepVGG: Making VGG-style ConvNets Great Again

RepVGG:让VGG风格的卷积网络再一次伟大文章目录RepVGG:让VGG风格的卷积网络再一次伟大摘要1.Introduction2.RelatedWork2.1从单路径到多分支2.2有效的单路径模型的训练2.3模型重新参数化2.4温诺格勒(Winograd)卷积3.通过结构性重新参数化构建RepVGG3.1简单就是快，内存经济型，灵活3.2训练时间多分支架构3.3普通的推理模型的重新化参数3.

CSU迦叶·2022-03-12 07:02

AlexNet论文解读

AlexNet论文翻译及解读摘要1、网络结构卷积层：5个（其中一些后面跟着最大池化层）全连接层：3个（连接着一个最终是1000路的softmax）2、tips非饱和神经元，使用GPU实现Dropout正则化方法

秋天的风儿·2022-03-10 07:22

论文翻译：2020_DCCRN: Deep Complex Convolution Recurrent Network for Phase-Aware Speech Enhancement

论文地址：DCCRN：用于相位感知语音增强的深度复杂卷积循环网络论文代码：https://paperswithcode.com/paper/dccrn-deep-complex-convolution-recurrent-1引用：HuY，LiuY，LvS，etal.DCCRN:Deepcomplexconvolutionrecurrentnetworkforphase-awarespeechenh

凌逆战·2022-03-09 15:00

交通预测论文翻译：Deep Learning on Traffic Prediction: Methods,Analysis and Future Directions

原文链接：[2004.08555v3]DeepLearningonTrafficPrediction:Methods,AnalysisandFutureDirections(arxiv.org)IEEETransactionsonIntelligentTransportationSystems20211abstract交通预测在智能交通系统中起着至关重要的作用。准确的交通预测可以辅助路线规划，指导

UQI-LIUWJ·2022-03-04 07:17

论文翻译：Two-phase Hair Image Synthesis by Self-Enhancing Generative Model

论文地址：https://arxiv.org/pdf/1902.11203.pdf文中所有图片与表格统一移动至了文末基于自增强生成模型的两阶段头发图像合成摘要给予有限的指导，如稀疏草图或低分辨率图像，生成可信头发图像，已经随着生成对抗网络(GANs)的兴起而成为可能。传统的图像到图像翻译网络可以产生可辨别的结果，但通常会丢失更精细的纹理，而且普遍存在模糊伪像。本文提出了一种高质量的用于头发图像合成

xiongxyowo·2022-03-02 07:14

Keras（三十三）Transformer模型总体架构和理论

本文将介绍：Transformer论文地址及论文翻译地址Seq2seq+attention优缺点Transformer模型结构图例Encoder-Decoder架构缩放点积注意力多头注意力位置编码Add

TFATS·2022-03-01 07:37

模型压缩综述

一卷积神经网络压缩中的知识蒸馏技术综述1.目前卷积神经网络压缩和加速的方法主要有以下五种：网络剪枝、参数量化、低秩分解、轻量化网络设计、知识蒸馏。

@少帅·2022-02-21 07:54

推荐频道

知识蒸馏论文翻译

Sequence to Sequence – Video to Text 论文翻译

美国老姐看完200+中国学生SCI论文，怒写超详细“中国人英文论文写作指南”，还被推上了B站热门…...

知识蒸馏联邦学习的个性化技术综述

CVPR 2022 | 腾讯优图实验室30篇论文入选，含场景文本语义识别、3D人脸重建、目标检测、视频场景分割和视频插帧等领域...

知识蒸馏Knownledge Distillation

论文解读：Decoupled Knowledge Distillation

Video synopsis: A survey 视频摘要论文翻译

Transformers in Vision: A Survey论文翻译

【ORB-SLAM2源码解读】论文公式

MobileViT: Light-weight, General-purpose, and Mobile-friendly Vision Transformer论文翻译理解

tensorflow利用for循环进行训练遇到的内存爆炸问题(OOM)

深度学习经典网络解析图像分类篇（七）：ResNet

论文翻译：2020_TinyLSTMs: Efficient Neural Speech Enhancement for Hearing Aids

深度学习(13):pointnet++论文翻译与学习

CRNN文字识别

论文翻译：2018_LSTM剪枝_Learning intrinsic sparse structures within long short-term memory

元学习之《On First-Order Meta-Learning Algorithms》论文详细解读

元学习方向 optimization based meta learning 之 MAML论文详细解读

知识蒸馏之DistilBERT

目标检测算法——YOLOv1

预训练技术在美团到店搜索广告中的应用

论文翻译：2021_Performance optimizations on deep noise suppression models

论文翻译：2021_Performance optimizations on deep noise suppression models

论文翻译：2021_Towards model compression for deep learning based speech enhancement

【论文翻译|2020】A Survey on Heterogeneous Graph Embedding: Methods, Techniques, Applications and Sources

【深度学习 论文篇 01-1 】AlexNet论文翻译

论文翻译：2021_Acoustic Echo Cancellation with Cross-Domain Learning

SiamRPN++: Evolution of Siamese Visual Tracking with Very Deep Networks(论文翻译)

论文翻译：2021_Joint Online Multichannel Acoustic Echo Cancellation, Speech Dereverberation and Source Separation

论文翻译：2018_Source localization using deep neural networks in a shallow water environment

图像拼接算法及实现_NL-means：一种非局部均值图像降噪算法 || 论文翻译及代码实现...

论文翻译：2021_论文翻译：2018_F-T-LSTM based Complex Network for Joint Acoustic Echo Cancellation and Speech Enhancement

【Pytorch】使用Pytorch进行知识蒸馏_2

【Pytorch】使用Pytorch进行知识蒸馏

深度篇——人脸识别(一) ArcFace 论文 翻译

小样本目标检测论文翻译总结 2021 CVPR Dense Relation Distillation with Context-aware Aggregation

PV-RCNN论文翻译

用于异常检测的多分辨率知识蒸馏

open pose2019 OpenPose: Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields论文翻译与原理理解

语义分割技术综述

Background Matting V2算法讲解

YOLOX论文翻译

Learning Without Forgetting 笔记及实现

＜论文翻译＞RepVGG: Making VGG-style ConvNets Great Again

AlexNet论文解读

论文翻译：2020_DCCRN: Deep Complex Convolution Recurrent Network for Phase-Aware Speech Enhancement

交通预测论文翻译：Deep Learning on Traffic Prediction: Methods,Analysis and Future Directions

论文翻译：Two-phase Hair Image Synthesis by Self-Enhancing Generative Model

Keras（三十三）Transformer模型总体架构和理论

模型压缩综述

【深度学习论文篇 01-1 】AlexNet论文翻译

深度篇——人脸识别(一) ArcFace 论文翻译