论文笔记——模型压缩第27页

神经网络不收敛的 11 个原因

译文作者：kbsc13联系方式：Github：https://github.com/ccc013知乎专栏：机器学习与计算机视觉，AI论文笔记前言如果你的神经网络不收敛，应该怎么办呢？一般来

材才才·2023-02-04 07:18

论文阅读《API2Com: On the Improvement of Automatically Generated Code Comments Using API Documentations》

第一篇论文笔记，感觉还是有点偏向于全文翻译+个人想法文章链接：https://ieeexplore.ieee.org/document/9463033笔记原链接：https://shimo.im/docs

user_kay·2023-02-03 18:01

Datawhale GNN组队学习-Task 03

基于图神经网络的节点表征学习经典论文笔记（GCNMoNetChebNetGraphSAGE)Semi-SupervisedClassificationwithGraphConvolutionalNetworks

lingwenzhenjun·2023-02-03 17:55

CGAN 论文笔记研究热点GAN

CGAN论文笔记结合看到的综合总结论文地址：ConditionalGenerativeAdversarialNets发表于：2014年SCI2014年，Goodfellow提出了GenerativeAdversarialNetworks

weixin_40744387·2023-02-03 14:08

论文笔记10：ITSEGO: An Ontology for Game-based Intelligent Tutoring Systems

参考论文：ITSEGO:AnOntologyforGame-basedIntelligentTutoringSystemsAbstract这项工作提出了一个方法，发展学生解决问题的能力和数字能力，实现从幼儿园到小学的过渡。通过一种基于本体的方法，该方法将一个智能的辅导系统（ITS）集成到一个结构化的基于游戏的教育环境中，方便了教师和儿童。ITSEGO，提供了一个模型（通常适用于不同的学习环境）来构

uuummmmiiii·2023-02-03 14:45

论文笔记：KDD 2019 Heterogeneous Graph Neural Network

1.前言论文链接：https://dl.acm.org/doi/10.1145/3292500.3330961github：https://github.com/chuxuzhang/KDD2019_HetGNN该文提出了一种基于深层模型的异质网络表示学习的方法HetGNN。异构图的表示学习旨在为每个节点寻求一个有意义的向量表示，以便于链接预测、个性化推荐、节点分类等下游应用。然而,这个任务是挑战

饮冰l·2023-02-03 11:46

论文笔记-CVPR2019 Associatively Segmenting Instances and Semantics in Point Clouds

标题-AssociativelySegmentingInstancesandSemanticsinPointClouds作者-XinlongWang1ShuLiu2XiaoyongShen2ChunhuaShen1JiayaJia2;3介绍实例分割，语义分割：检测场景中由最小单位的集合代表的特定信息的区域。例如。一个点云可以分析成几组点，每个组表示一个类。或者一个单独的实例。应用点：如自动驾驶，增

BenjaminYoung29·2023-02-03 07:08

论文笔记 -- Learning Representations for Time Series Clustering

文章目录LearningRepresentationsforTimeSeriesClusteringMotivationContributionModelDTCR工作DTCR流程输入输出变量定义算法流程Experiment数据集介绍Baseline方法对比试验消融实验各项损失的贡献学习表示的过程鲁棒性分析超参数分析主要方法参考文献LearningRepresentationsforTimeSeri

博o_Oer~·2023-02-03 03:43

论文笔记：HIE-SQL:History Information Enhanced Network for Context-Dependent Text-to-SQL Semantic Parsing

论文笔记：HIE-SQL:HistoryInformationEnhancedNetworkforContext-DependentText-to-SQLSemanticParsing目录论文笔记：HIE-SQL

11好好学习，天天向上·2023-02-02 23:09

论文笔记：Pay More Attention to History: A Context Modeling Strategy for Conversational Text-to-SQL

论文笔记：PayMoreAttentiontoHistory:AContextModelingStrategyforConversationalText-to-SQL目录论文笔记：PayMoreAttentiontoHistory

11好好学习，天天向上·2023-02-02 23:39

AirVO: An Illumination-Robust Point-Line Visual Odometry 论文笔记

论文GitHub开源：GitHub开源ABSTRACTAirVO,一个基于点、线特征具有光照鲁棒性行且精确的双目视觉里程计系统。为了实现对于光照变化的鲁棒性，我们引入了基于学习的特征提取和匹配方法，并设计了一个新颖的视觉里程计管道：包括特征跟踪、三角测量、关键帧选择和图形优化等。我们还采用了环境中的长线特征来提高系统的准确性。我们提出了一个光照鲁棒性的线追踪方法，其中点特征追踪、点分布和线特征被用

Kris_u·2023-02-02 23:38

《ESPNet v1：Efficient Spatial Pyramid of Dilated Convolutions for Semantic Segmentation》论文笔记

代码地址：ESPNetv11.概述导读：这篇文章提出了在有限资源环境下对高分辨率图像进行快速高效分割的卷积网络ESPNet。ESPNet是基于一个新型的卷积模块（EfficientSpatialPyramid，ESP），该模块高效且强大。在（标准？）GPU上比PSPNet快22倍，体积却小了180倍，在GPU上可以飚到112FPS。在VOC-2012数据集上达到了63.01的IoU，对效果要求比较

m_buddy·2023-02-02 22:59

系统类优质论文

://segmentfault.com/a/1190000012461561(6篇论文)https://chuanleiguo.com/2017/03/27/tensorflow_learning/(论文笔记

Ethan_f3ce·2023-02-02 19:31

《EfficientNetV2：Smaller Models and Faster Training》论文笔记

参考代码：EfficientNetV21.概述导读：这篇文章是在EfficientNet基础（借鉴了其中一些既有结论）上进行改进优化来的，其主要的优化点有：1）通过加入training-aware的网络搜索（也就是将网络性能/训练时间/网络参数量组合起来作为NAS的优化目标）去优化网络的训练速度和参数的效率（参数量与最后换得性能的比例）；2）在深度可分离卷积组成的MBConv基础上在浅层的stag

m_buddy·2023-02-02 19:16

【论文笔记】A promotion method for generation error-based video anomaly detection

关键词：2020年、GE-based、block-levelGE摘要基于生成误差(GE)的方法在此任务中表现出良好的性能。该方法首先训练生成神经网络生成正态样本，然后将梯度（GEs）较大的样本判断为异常。几乎所有基于GE的方法都利用框架级GEs来检测异常。然而，异常通常发生在局部区域，帧级GE将正常区域的GEs引入异常检测中，这带来了两个问题i）正常区域的GEs降低了异常帧的异常显著性ii）不同的

依鸡腿·2023-02-02 18:44

Generative Adversarial Network Fittingfor High Fidelity 3D Face Reconstruction论文笔记

0、摘要总结了过去人脸重建的趋势（深度卷积的力量神经网络（DCNN）），和最近几年可微渲染器来学习面部身份特征与3D可变形模型的形状和纹理参数之间的关系。但这些都无法高质量的重建纹理和高保真度，介绍了论文利用生成对抗网络(GAN)和DCNNs来从单个图像重建面部纹理和形状。1、Introduction过去：主要的研究方向，利用深度卷积神经网络进行3D形状和纹理重建，包含的两种方法：1训练回归DCN

HR_Reborn·2023-02-02 17:56

Nonlinear 3D Face Morphable Model 论文笔记

1、传统线性3DMM：模型和纹理分别是平均值+基础值*系数——S=S¯+Aα,T(l)=T¯(l)+Bβ,此为3DMM的基础。并且提出了将3D人脸投影到图像平面上使用弱透视投影模型（3D转为2D透视投影模型）：g(α,m)：3D顶点位置在2D中的函数输出f：比例因子：正交投影矩阵R：欧拉角表示旋转角度t2d：平移向量M：有维度2×4，有六个自由度，通过一个6维向量m来参数化。然后使用2D图像渲染纹

HR_Reborn·2023-02-02 17:26

【论文笔记】MOT16 A Benchmark for Multi-Object Tracking数据集介绍

MOT16:ABenchmarkforMulti-ObjectTrackingMOT16是2016年提出的多目标跟踪MOTChallenge系列的一个衡量多目标检测跟踪方法标准的数据集。官方网站：https://motchallenge.net/论文可见：https://arxiv.org/abs/1603.00831MOT16主要标注目标为移动的行人与车辆，是基于MOT15的添加了细化的标注、更

修行的猫_zq·2023-02-02 17:06

论文笔记——FairMOT：A Simple Baseline for Multi-Object Tracking

论文题目：ASimpleBaselineforMulti-ObjectTracking论文链接：https://github.com/ifzhang/FairMOT以往的MOT大多是基于tracking-by-detection的，首先对每一个frame做检测，再用re-Id，各种匹配关联算法进行dataassociation，这两个步骤都是独立的。这篇文章提出了一个网络，可以将上述步骤进行结合，

汐梦聆海·2023-02-02 17:02

《PWC-Net：CNNs for Optical Flow Using Pyramid,Warping,and Cost Volume》论文笔记

参考代码（official）：PWC-Net参考代码（pytorchconvert）：pytorch-pwc1.概述导读：这篇文章给出了一种使用CNN网络实现光流估计的方法，在该方法中采用了经典的特征金字塔结构作为特征提取网络。之后在金字塔的某个层级上使用上一级的光流作为warp引导，第二幅图像的特征将被warp。进而使用第二幅图像warp之后的特征和第一幅图像的特征构建一个costvolume。

m_buddy·2023-02-02 14:20

《Proximal Policy Optimization Algorithms》--强化学习论文笔记

原文链接Markdown公式速写1.policygradient从onpolicy到offpolicypolicygradient：∇Rθ‾=Eτ∼pθ(τ)[R(τ)∇logpθ(τ)]\nabla\overline{R_\theta}=E_{\color{red}\tau\simp_\theta(\tau)}[R(\tau)\nablalogp_\theta(\tau)]∇Rθ=Eτ∼pθ(τ

ksvtsipert·2023-02-02 10:42

ACL2023赶会必备，拿来即用之Experiments

©作者｜刘沛羽机构｜中国人民大学高瓴人工智能学院研究方向｜自然语言处理，模型压缩来自|RUCAIBox本文从ACL2022年中的论文中整理出来了常见的数据集描述和基准方法，范围涵盖14个子领域20篇论文

zenRRan·2023-02-02 09:41

活体识别4：论文笔记之《Face Spoofing Detection Using Colour Texture Analysis》

说明本文是我对论文《FaceSpoofingDetectionUsingColourTextureAnalysis》做的一个简单笔记。这个论文是芬兰奥卢大学(Oulu)课题组的一篇很有代表性的论文，写于2016年，使用的是“手工特征+SVM分类器”这种比较传统的方案，方案不复杂，效果还不错。也适合改造后在嵌入式端做部署。其基本原理就是在RGB色彩空间分辨真假脸有困难，但是发现在YCbCr和HSV色

yuanlulu·2023-02-02 08:12

活体识别5：论文笔记之FeatherNets

说明这篇文章是这次比赛的第三名：ChaLearnFaceAnti-spoofingAttackDetectionChallenge@CVPR2019，此次比赛项目是人脸防欺诈攻击检测。论文标题：《FeatherNets:ConvolutionalNeuralNetworksasLightasFeatherforFaceAnti-spoofing》论文地址：https://arxiv.org/pdf

yuanlulu·2023-02-02 08:12

活体识别3：论文笔记之《FACE ANTI-SPOOFING BASED ON COLOR TEXTURE ANALYSIS》

说明本文是我对论文《FACEANTI-SPOOFINGBASEDONCOLORTEXTUREANALYSIS》做的一个简单笔记。这个论文是芬兰奥卢大学(Oulu)课题组的一篇很有代表性的论文，写于2015年，使用的是“LBP特征+SVM分类器”这种比较传统的方案，方案不复杂，效果还不错。也适合改造后在嵌入式端做部署。其基本原理就是在RGB色彩空间分辨真假脸有困难，但是发现在YCbCr和HSV色彩空

yuanlulu·2023-02-02 08:41

[深度学习论文笔记] TransBTS: Multimodal Brain Tumor Segmentation Using Transformer 基于Transformer的多模态脑肿瘤分割

TransBTS:MultimodalBrainTumorSegmentationUsingTransformer基于Transformer的多模态脑肿瘤分割论文：https://arxiv.org/pdf/2103.04430代码：https://github.com/Wenxuan-1119/TransBTS发表时间：Mar2021[MICCAI2021]一、基本介绍1.1胶质瘤胶质瘤是最常见

Slientsake·2023-02-02 07:50

论文笔记-Convolutional Neural Networks for Speech Recognition

问题：ASR里用CNN做声学模型，输入特征FBANK，采用三通道形式作为输入，请问如何处理句子不同帧数问题？https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/CNN_ASLPTrans2-14.pdfhttps://yh1008.github.io/DNN-HMM/slides#/CONVOLUTIONALNEU

2018燮2021·2023-02-02 02:50

CTPN论文笔记

ConnectionistTextProposalNetwork(CTPN)。本文我基本是参考原论文翻译总结的。原论文是《DetectingTextinNaturalImagewithConnectionistTextProposalNetwork》2.1.1.与RPN比较RPN在识别物体方面很好，但在文字方面不行，因为物体识别目前不需要太精确就能判断出物体类别，而文字识别需要非常的精确。2.1.

AI强仔·2023-02-01 17:15

[论文笔记-1]Aspect-based Sentiment Analysis as Machine Reading Comprehension

题目、作者一、Abstract1.现有的研究通常通过堆叠多个神经模块来处理基于方面的情感分析，这不可避免地导致严重的错误传播2.本文提出了MRCOOL:MRC-PrOmptmOdeL框架二、Introduction1.方面词提取(Aspecttermextraction)和方面层次情感分类(aspect-levelsentimentclassification)是ABSA的两个子任务；(结合前面两

lnbbbb·2023-02-01 17:07

BERT和GAN咋压缩，且看咱PaddleSlim新利器—— OFA

针对部署难题，可以使用剪枝、量化、蒸馏等传统的模型压缩技术，

飞桨PaddlePaddle·2023-02-01 17:05

以PaddleSlim为例讲解深度学习实例化模型压缩和量化-----工作日志(1.31)

目录一.背景介绍1.1什么是量化1.2如何进行量化1.3网络结构搜索二.量化示例2.1各层输出的量化2.2各层参数的量化2.3量化原理三.量化评估四.参考文献一.背景介绍1.1什么是量化深度学习神经网络模型中的量化是指浮点数用定点数来表示，神经网络模型在训练时都是浮点运算的，得到的模型参数也是浮点的。而且通常一个参数用浮点数表示占四个字节，而如果用8比特量化的话，一个参数只占一个字节，memory

Geek L·2023-02-01 17:03

[论文笔记-2]Dual Graph Convolutional Networks for Aspect-based Sentiment Analysis

题目、作者一、Abstract【写作目的】由于依赖分析结果的不准确性以及在线评论的非正式表达和复杂性，基于依赖树的图神经网络改进有限，本文提出了一种同时考虑句法结构互补性和语义相关性的双图卷积网络（DualGCN）模型来克服这些挑战SynGCN模块(具有丰富语法知识)→减少依赖分析错误SemGCN模块(自注意力机制)→捕获语义关联3.此外，本文提出正交和微分正则化器，通过约束SemGCN模块中的注

lnbbbb·2023-02-01 17:02

MobileNets详解

个人感觉论文所做工作偏向于模型压缩方面，核心思想就是卷积核的巧妙分解，可以有效减少网络参数。论文地址：MobileNets:EfficientConvolutio

qq_40147888·2023-02-01 14:24

YOLOP 论文笔记

YOLOP:YouOnlyLookOnceforPanopticDrivingPerceptionYOLOP论文链接:https://arxiv.org/abs/2108.11250v5一、ProblemStatement自动驾驶中，如果使用一个接一个模型来进行图像分析，比如目标检测，语义分割和车道线检测，会增大消耗资源，也有可能无法达到实时性能。二、Direction提出一个通用范式:oneen

Tianchao龙虾·2023-02-01 12:18

【论文笔记 - 图像生成 - CVPR2022】Self-supervised Correlation Mining Network for Person Image Generation

Ref:1.原论文人物图像生成的目的是对源图像进行非刚性变形，通常需要未对齐的数据对进行训练。近年来，自监督方法通过将解耦的表征融合在一起进行self-reconstruction，在这一领域展现出了广阔的前景。然而，现有的方法存在以下几点问题，解耦后的特征在特征空间中是对齐的，这种自监督方法无法为空间变换提供足够的监督。先前的特征融合方法（如拼接或MUSTGAN中的统计信息迁移）是全局操作，很难

No pains, no GANs!·2023-02-01 12:09

【论文笔记 - 图像生成 - CVPR2019】Unpaired Person Image Generation with Semantic Parsing Transformation

Ref:先前工作以及补充本文工作（本阅读笔记的参考论文）解读1解读2原论文是关于2019年的CVPR工作的延伸和补充（同一作）现有工作的特点：姿态引导的图像生成任务一般是在有监督下完成的，结果虽然不错，但是监督学习必须有成对的图像组成训练数据集。（成对：同一个人，同样的外观，但是姿态不同）自监督方法，无法有效的同时建模空间和外观转换，结果不够理想。虽然目前的方法都考虑到将图像分解成多个因素（背景，

No pains, no GANs!·2023-02-01 12:09

【论文笔记 - 图像生成 - CVPR2022】Unpaired Cartoon Image Synthesis via Gated Cycle Mapping

UnpairedCartoonImageSynthesisviaGatedCycleMappingRef：1.原论文2.项目页1.摘要在本文中，提出了一种使用未配对的训练数据进行动漫图像合成的通用解决方案。与之前针对特定使用场景（人像或场景）学习预定义卡通风格的作品相比，本文旨在训练一个通用动漫翻译器，它不仅可以同时渲染夸张（精致的大眼睛、简化的鼻子和嘴）的动漫面孔和逼真的卡通场景，而且还可以为用

No pains, no GANs!·2023-02-01 12:08

【论文笔记 - 图像生成 - CVPR2022】Learning to Memorize Feature Hallucination for One-Shot Image Generation

论文地址：https://drive.google.com/file/d/1Gq-167f2ue30463K4XMkHOJThg9Yugk0/view参考：1.简单解读本文研究的是图像生成领域中的单样本生成(One-ShotGeneration,OSG)(One\text{-}Shot\Generation,OSG)(One-ShotGeneration,OSG)任务，要求能够将从基础类别数据集（

No pains, no GANs!·2023-02-01 12:38

【论文笔记 - 图像生成 - CVPR2022】Exploring Dual-task Correlation for Pose Guided Person Image Generation

论文地址：https://arxiv.org/pdf/2203.02910.pdf代码地址：https://github.com/PangzeCheung/Dual-task-Pose-Transformer-Network姿势引导人物图像生成是将人物图像从源姿势转换为给定目标姿势的任务，作者认为现有的方法大多只针对不适定的源到目标任务，无法捕捉到合理的纹理映射。为了解决这个问题，提出了一种新的双

No pains, no GANs!·2023-02-01 12:38

论文笔记：Graph WaveNet for Deep Spatial-Temporal Graph Modeling

IJCAI20191abstract&intro时空数据挖掘问题大多数使用邻接矩阵来建模节点之间的属性关系，这种思路的一个基本假设是：节点信息取决于自身和邻居的历史信息。但这类模型的假设存在着一些问题：未能充分建模节点之间的依赖关系两个节点之间没有连边，但是有依赖关系两个节点虽然是邻居节点，但是没有依赖关系未能有效学习到时间的依赖关系RNN：迭代传播耗时（无法并行）、存在梯度爆炸/消失的问题CNN

UQI-LIUWJ·2023-02-01 12:37

论文笔记：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

ICLR20171abstract和intro部分问题的setting在图上进行节点分类，其中只有一部分节点有label——>基于图的半监督学习传统的方法是使用平滑正则其中L0表示图中有监督部分的lossf是神经网络，Δ=D-A表示unnormalized的拉普拉斯矩阵这种方式假设相邻的节点有相同/相似的label——>这种平滑性假设在一定程度上限制了模型的表达能力论文中直接使用一个神经网络f(X

UQI-LIUWJ·2023-02-01 12:07

【论文笔记 - NeRFs - ECCV2020】NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis

NeRF:RepresentingScenesasNeuralRadianceFieldsforViewSynthesis0背景介绍用神经辐射场来表征场景，用于新视角图像生成任务。0.1ViewSynthesis该任务是通过给定从不同视角获取的同一场景的一张或多张图片，来合成其他视角下的图片。以下图为例，输入是不同视角的图片，来建模三维场景，然后就可以从任意视角来得到一张二维图像。0.2Repre

No pains, no GANs!·2023-02-01 12:31

论文笔记：Learning Disentangled Representations of Video with Missing Data

2020Neurips1intro&abstract视频表征的一个挑战是高维、动态、各个像素之间多模态分布最近的一些研究通过探索视频的inductivebias，并将高维数据映射到低微数据中—>这种方法通过将视频的各帧分解成语义上有意义的因子，来获得视频的解耦表征——>但是，当物体在视频中有缺失时，现存的方法并不能很好地进行建模这篇论文就希望学习带有缺失数据的视频的解耦表征提出了DIVE(dise

UQI-LIUWJ·2023-02-01 12:31

Bert: 双向预训练+微调

Transformer:Attention集大成者GPT-1&2:预训练+微调带来的奇迹Bert:双向预训练+微调Bert与模型压缩Bert与模型蒸馏：PKD和DistillBertALBert:轻量

张雨石·2023-02-01 10:06

【论文笔记】HGT

HeterogeneousGraphTransformer2020WWW论文链接：https://arxiv.org/pdf/2003.01332代码：官方代码：https://github.com/acbull/pyHGTDGL实现：https://github.com/dmlc/dgl/tree/master/examples/pytorch/hgt个人实现：https://github.co

zzy979·2023-02-01 09:34

深度学习论文笔记

1.语音情感识别、人工神经网络，深度学习神经网络发展历程介绍2.语音情感识别的基本理论3.人工神经网络4.深度学习神经网络基本理论1.语音情感识别、人工神经网络，深度学习神经网络发展历程介绍深度学习常用模型：自编码器、限制玻尔兹曼机、卷积神经网络应用：图像识别、语音设别、广告推荐系统情感分类：anger,joy,sadness,surprise,disgust,fear,netural情感表现：语

weixin_30730053·2023-02-01 09:30

论文笔记：Scaling Memcache at Facebook

论文笔记：ScalingMemcacheatFacebook论文介绍了Facebook如何使用memcache，以及相关魔改和维护memcache集群。

weixin_30480583·2023-02-01 09:00

DPRQA论文笔记

DensePassageRetrievalforOpen-DomainQuestionAnswering这篇文章依然是关于开放问答领域，由Facebook发表，重点研究passageretrieval模块。Overviewopen-domainquestionanswering通常有两大模块：PassageRetrieval和Reader，前者是针对问题在数据库中寻找与该问题有关的文章，后者是对文

lzk_nus·2023-02-01 09:59

论文笔记：Forecasting at Scale（Prophet）

1时间序列数据的特征图2：在Facebook上创建的事件数量。每天都有一个点，点按星期几用颜色编码以显示每周周期。这个时间序列的特征代表了很多业务时间序列：多重强季节性、趋势变化、异常值、假期效应。很多时间序列数据都有共同的特征。图2显示了Facebook事件的时间序列。用户可以为事件创建页面、邀请他人参与互动。在这个时间序列中有几个明显的季节性影响：每周和每年的周期，以及圣诞节和新年前后的明显下

UQI-LIUWJ·2023-02-01 09:28

论文笔记目录（ver2.0）

1时间序列1.1时间序列预测论文名称来源主要内容论文笔记：DCRNN（DiffusionConvolutionalRecurrentNeuralNetwork:Data-DrivenTrafficForecasting