ICLR 第7页

通道融合替换注意力，减少75%参数量且性能显著提升 ICLR 2021...

导读本文是微软&加大圣地亚哥分校的研究员在动态卷积方面的一次突破性的探索，针对现有动态卷积(如CondConv、DY-Conv)存在的参数量大、联合优化困难问题，提出了一种动态通道融合机制替换之前的动态注意力。paper:https://arxiv.org/abs/2103.08756code:https://github.com/liyunsheng13/dcd本文是微软&加大圣地亚哥分校的研究

深度学习技术前沿·2023-02-22 07:22

【复数表达】Deep Complex Network

2.2复数表达特点2.3如何构建2.4贡献点3.Method3.1卷积操作3.2激活函数：3.3BatchNorm3.4权值初始化4.Experiments5.其他参考：1.Introduction来源：ICLR2018

^_^ 晅菲·2023-02-07 11:29

一起读论文 | Complex-order: 一种新的位置编码方式

导读：今天分享一篇华人学者发表在顶会ICLR2020上的论文《EncodingWordOrderinComplexEmbeddings》，主要对序列建模的位置信息编码方法进行研究。

DestinedAI·2023-02-07 10:44

背景宽高随文本变化_今日论文|零资源口语建模&多尺度合并蒸馏语义分割持续学习&迷彩动物识别&数据到文本语义准确新指标&自动深度GNN设计&MORE...

这些论文主要来自AAAI，AAMAS，ACCV，CIKM，ArtificialIntelligence，CVPR，ECCV，EMNLP，ICASSP，ICLR，ICML，ICONIP，ICPR，ICRA

weixin_39611072·2023-02-06 18:49

Paper Reading - Deep Captioning with Multimodal Recurrent Neural Networks ( m-RNN ) ( ICLR 2015 ) ...

PaperReading-DeepCaptioningwithMultimodalRecurrentNeuralNetworks(m-RNN)(ICLR2015)★LinkofthePaper:https

dichunpu6524·2023-02-06 13:53

ELECTRA：类似GAN的预训练语言模型

Pre-trainingTextEncodersasDiscriminatorsRatherThanGenerators论文链接：https://arxiv.org/abs/2003.10555论文来源：ICLR2020

酷酷的群·2023-02-06 01:48

ICLR 2020|知识图谱推理框架：基于向量空间推理和数值逻辑推理

2篇ICLR2020推理主题论文解读ICLR专题知识图谱作为人类知识的载体，蕴含着丰富的语义知识，因此支撑着许多上游的应用，例如问答，推荐等。

学术头条·2023-02-05 15:22

图像分类与 MMClassification

机器学习步骤收集数据定义模型训练预测机器学习的局限：机器学习算法善于处理低维、分布相对简单的数据卷积神经网络常用网络AlexNet（2012）VGG（2015ICLR）https://arxiv.org

qq_55346191·2023-02-05 15:18

多目标、多阶段、多层次的强化学习合作方法

这是佐治亚理工学院发表在计算机顶级会议ICLR2020上的一篇文章。2摘要不同的多智能体合作控制问题需要智能体实现各自的目标的同时为全局的成功做贡献。

当交通遇上机器学习·2023-02-05 08:04

ICLR 2023 | 环境标签平滑，一行代码提升对抗学习稳定性/泛化性

©PaperWeekly原创·作者|张一帆单位|中科院自动化所博士生研究方向|计算机视觉Domainadaptation（DA:域自适应），Domaingeneralization（DG:域泛化）一直以来都是各大顶会的热门研究方向。DA假设我们有有一个带标签的训练集（源域），这时候我们想让模型在另一个数据集上同样表现很好（目标域），利用目标域的无标签数据，提升模型在域间的适应能力是DA所强调的。以

PaperWeekly·2023-02-04 14:08

MyDLNote - Enhancement : [NLA系列] Image Restoration via Residual Non-local Attention Networks

[2019ICLR]ImageRestorationviaResidualNon-localAttentionNetworks[paper]ImageRestorationviaResidualNon-localAttentionNetworks

Phoenixtree_DongZhao·2023-02-04 12:40

每日学术速递2.3

Subjects:cs.Cv、cs.LG1.CompositionalPromptTuningwithMotionCuesforOpen-vocabularyVideoRelationDetection(ICLR2023

AiCharm·2023-02-04 09:13

Gated Graph Sequence Neural Networks

ICLR2016Github地址：https://github.com/Microsoft/gated-graph-neural-network-samplesGatedGraphNeuralNetworks

懿想天开_·2023-02-03 00:21

使用Tensorboard查看训练过程(tf.summary.FileWriter)

元学习论文总结||小样本学习论文总结2017-2019年计算机视觉顶会文章收录AAAI2017-2019CVPR2017-2019ECCV2018ICCV2017-2019ICLR2017-2019NIPS2017

TBYourHero·2023-02-02 22:32

论文笔记：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

ICLR20171abstract和intro部分问题的setting在图上进行节点分类，其中只有一部分节点有label——>基于图的半监督学习传统的方法是使用平滑正则其中L0表示图中有监督部分的lossf

UQI-LIUWJ·2023-02-01 12:07

ICLR 2022 | 基于扩散模型(DDPM)的语义分割

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>CV微信技术交流群转载自：咚咚学AI论文标题：LABEL-EFFICIENTSEMANTICSEGMENTATIONWITHDIFFUSIONMODELS论文地址：https://arxiv.org/abs/2112.03126.论文代码：https://github.com/yandex-research/ddpm-

Amusi（CVer）·2023-02-01 11:23

论文笔记目录（ver2.0）

DCRNN（DiffusionConvolutionalRecurrentNeuralNetwork:Data-DrivenTrafficForecasting）_UQI-LIUWJ的博客-CSDN博客iclr2017

UQI-LIUWJ·2023-02-01 09:28

动态神经网络

--GaoHuang,RANet(ICLR2018).ResolutionAdaption，输入的冗余分类任务，other作模型冗余transition--降通道数（depth）MSDNet特点：identity

Yah_da·2023-02-01 08:05

Very Deep Convolutional Networks for Large-Scale Image Recognition-VGGNet解读

作者：HYH日期：2020-9-10论文期刊：ICLR2015标签：VGG论文：《VeryDeepConvolutionalNetworksforLarge-ScaleImageRecognition》

中南大学苹果实验室·2023-01-31 23:29

ICLR 2020趋势分析：NLP中更好&更快的Transformer

使用子树掩码的树结构的注意力哈希注意力多跳注意力训练目标识别替换任务词和句子结构任务类型限制的实体替换嵌入位置感知的复杂词向量层次嵌入分解的嵌入参数模型结构压缩记忆可逆层交叉层参数共享自适应深度预测总结转载来源：https://mp.weixin.qq.com/s/hbx4DryEaaB0TlJPH7uyyA导读：介绍了ICLR2

郝伟老师的技术博客·2023-01-31 13:44

2020-ICLR-Memory-Based Graph Networks

2020-ICLR-Memory-BasedGraphNetworksPaper：https://arxiv.org/abs/2002.09518Code:https://github.com/amirkhas

发呆的比目鱼·2023-01-31 12:03

ReMixMatch半监督论文分析【终于说清楚了系列2】

ReMixMatch:Semi-SupervisedLearningwithDistributionAlignmentandAugmentationAnchoring文章发表于ICLR2020这篇文章是针对

米米不多·2023-01-30 19:56

ICLR 2022 | 基于积分梯度的迁移对抗攻击

©PaperWeekly原创·作者|鬼谷子引言该论文是关于黑盒对抗攻击的工作。论文中作者提出了一种基于积分梯度的可迁移性攻击算法（TAIG），该算法可以生成高可迁移性的对抗样本。作者将三种方法分别是优化标准目标函数、注意力图和平滑决策面集成到论文方法TAIG中，作者研究了两种计算直线路径和随机分段线性路径上积分梯度的TAIG。实验结果表明，论文中提出的方法生成了高迁移性的对抗样本，并且可以与以前的

PaperWeekly·2023-01-29 21:18

ICLR2022：基于积分梯度的迁移对抗攻击

1引言该论文是关于黑盒对抗攻击的工作。论文中作者提出了一种基于积分梯度的可迁移性攻击算法（TAIG），该算法可以生成高可迁移性的对抗样本。作者将三种方法分别是优化标准目标函数、注意力图和平滑决策面集成到论文方法TAIG中，作者研究了两种计算直线路径和随机分段线性路径上积分梯度的TAIG。实验结果表明，论文中提出的方法生成了高迁移性的对抗样本，并且可以与以前的方法进行无缝协同工作，而且TAIG的性

鬼道2022·2023-01-29 21:17

2021-03-16（Original GAT和Dot-product，哪种注意力机制更适合图？）

如今也涌现出了很多复现在图网络中以dp注意力机制交互的工作，下面发表在ICLR2021的一篇工作就做实验拆解分析了两种不同的注意交互方式：Howtofind

thelong的学习日记·2023-01-28 22:19

每日学术速递1.27

CV-计算机视觉|ML-机器学习|RL-强化学习前沿推介：ICLR2023ICLR全称为国际学习表征会议（InternationalConferenceonLearningRepresentations

AiCharm·2023-01-28 10:09

增量学习方法分类及近两年论文汇总

增量学习方法分类四、总结及论文链接4.1总结4.2相关论文链接相关论文链接无监督增量学习UnsupervisedClass-IncrementalLearningThroughConfusion.论文详解ICLR2021

祥瑞Coding·2023-01-27 15:57

《On Large-Batch Training for Deep Learning: Generalization Gap and Sharp Minima》-ICLR2017文章阅读

这是一篇发表在ICLR2017上面的文章。这篇文章探究了深度学习中一个普遍存在的问题——使用大的batchsize训练网络会导致网络的泛化性能下降（文中称之为GeneralizationGap）。

zhangboshen·2023-01-27 13:07

论文笔记：On Large-Batch Training for Deep Learning: Generalization Gap and Sharp Minima

2017ICLR0摘要这篇文章探究了深度学习中一个普遍存在的问题——使用大的batchsize训练网络会导致网络的泛化性能下降（GeneralizationGap）。

UQI-LIUWJ·2023-01-27 13:02

【论文笔记】【ICLR2018】Towards Deep Learning Models Resistant to Adversarial

个人总结：本文方法在19,20年的多数相关文章中都作为对比实验出现比如上述文章、AdvGan、AdvCam等，可见这篇文章的提出方法的效果还是很可以的。这篇文章提出了一个Min-Max的攻击&防御融为一体的框架，在该框架控制下使用PGD（迭代FGSM的一般方法）生成的对抗样本进行对抗训练，提高模型的鲁棒性，抵制一系列的first-orderattack（基于梯度）。不过本文中提出解决方法采用的近似

Wwwwhy_　·2023-01-26 15:31

通过不断重置学习率来逃离局部极值点

*/黄通文张俊林（2016年12月）注：这篇文章的思路以及本文是我们在2016年底左右做自动发现探索网络结构过程中做的，当时做完发现ICLR2017有类似论文提出相似的方法，所以没有做更多实验并就把这篇东西搁置了

张俊林博客·2023-01-25 10:10

无监督与领域自适应的行人重识别任务(Re-ID)

参考链接：IntroductiontoMutualMean-Teaching(ICLR2020),StructuredDomainAdaptation,VisDA-2020Solution(ECCVW2020

努力学习DePeng·2023-01-25 07:16

【论文解读】ICLR2020 | 深度自适应Transformer

作者|kaiyuan整理|NewBeeNLP一篇来自ICLR2020，facebook人工智能实验室的论文，关于改进Transformer推理速度的。

风度78·2023-01-25 07:12

Cross-Domain Transformer用于无监督域自适应ICLR2022

前置内容：CrossAttention（Transformer的解码器部分）自注意力的计算回顾关于自注意力机制的思考；key-value注意力的计算为：Attention(Q,K,V)=softmax(QKTdk)VAttention(Q,K,V)=softmax(\frac{QK^{T}}{\sqrt{d_{k}}})VAttention(Q,K,V)=softmax(dkQKT)V交叉注意力和

tzc_fly·2023-01-25 07:10

「ICLR2021_rejected」【RETHINKING THE PRUNING CRITERIA FOR CONVOLUTIONAL NEURAL NETWORK】论文笔记

「ICLR2021_rejected」【RETHINKINGTHEPRUNINGCRITERIAFORCONVOLUTIONALNEURALNETWORK】论文笔记Abstract1.Introduction2

Ed. Liu·2023-01-24 08:11

ICLR2021对比学习（Contrastive Learning）NLP领域论文进展梳理

本次我挑选了ICLR2021中NLP领域下的六篇文章进行解读，包含了文本生成、自然语言理解、预训练语言模型训练和去偏、以及文本匹配和文本检索。

程序员对白·2023-01-24 07:24

从论文中学习篇1——海底捞的机器学习自学日记（二）

一、基础概念1.1源域与目标域1.2域适应二、思路分析2.1背景目的2.2解决方案视频推荐今日学习论文香港中文大学发表于ICLR2020的论文《MutualMean-Teaching:PseudoLabelRefineryforUnsupervisedDomainAdaptationonPersonRe-identification

Mid-Sep·2023-01-21 03:30

套娃的开始——Network in Network网络学习笔记

前言《NetworkinNetwork》是2014年ICLR的一篇文章，文章当时较为创新，对后面的一些模型产生了一些较为深远的影响，现在看来，尽管文章较为久远，仍不失为经典论文，对现在的吾辈来说仍值得细细品读学习

20Xx太空漫游·2023-01-20 15:52

ICLR2022 论文阅读笔记：HYPERPARAMETER TUNING WITHRENYI DIFFERENTIAL PRIVACY(使用Renyi差分隐私的超参数调优)之ml萌新浅尝

Notion整理-使用Renyi差分隐私的超参数调优https://warp-swift-7fe.notion.site/Paper1-Hyperparamter-tuning-with-Renyi-Differential-Privacy-Renyi-7dc8336cd4f147f7be45c162fec5770b

yellow_p·2023-01-18 11:32

CycleMLP:一种用于密集预测的mlp架构

CycleMLP由香港大学、商汤科技研究院和上海人工智能实验室共同开发，在2022年ICLR上发布。

·2023-01-18 11:05

SMASH：经典One-Shot神经网络搜索，仅需单卡 | ICLR 2018

SMASH方法使用辅助网络生成次优权重来支持网络的快速测试，从结果来看，生成的权重与正常训练的权重在准确率上存在关联性，整体搜索速度很快，仅需要单卡进行搜索，提供了一个很好的新思路。来源：晓飞的算法工程笔记公众号论文:SMASH:One-ShotModelArchitectureSearchthroughHyperNetworks论文地址：https://arxiv.org/abs/1708.0

晓飞的算法工程笔记·2023-01-18 10:47

CVPR和ICLR双榜公布！最离谱审稿人竟然没读论文！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达转载自：新智元|编辑：好困LRS【导读】随着顶会论文越收越多，审稿人手又不够，所以分配到的审稿人也是良莠不齐。最近CVPR2022论文陆续放榜，不过审稿意见的质量似乎和中稿结果有非常强的相关性。1月25日，CVPR2022的审稿结果已经开始陆续放出。截至北京时间1月25日早上5点，共有6427位审稿人给出了25801个评审意见，包

Amusi（CVer）·2023-01-17 15:17

FedBN总结

《FEDBN:FEDERATEDLEARNINGONNON-IIDFEATURESVIALOCALBATCHNORMALIZATION》ICLR2021。

联邦学习小白·2023-01-17 09:58

【联邦学习论文阅读】常用算法理解（SCAFFOLD、FedPD、FedBN）-目前仅SCAFFOLD

SCAFFOLD:StochasticControlledAveragingforFederatedLearningFedPD：https://arxiv.org/abs/2005.11418FedBN（ICLR2021

Momahe·2023-01-17 09:58

论文分享：「FED BN」使用LOCAL BATCH NORMALIZATION方法解决Non-iid问题

‍‍本次分享内容基于ICLR2021收录的一篇文章：《FEDBN:FEDERATEDLEARNINGONNON-IIDFEATURESVIALOCALBATCHNORMALIZATION》，这篇论文主要探讨了使用

隐语SecretFlow·2023-01-17 09:51

anomaly transformer文章解读

ANOMALYTRANSFORMER:TIMESERIESANOMALYDETECTIONWITHASSOCIATIONDISCREPANCY1.文章简介文章发表在2022ICLR上，被评为ICLR亮点文章

lyj19941231·2023-01-15 20:29

Anomaly-Transformer (ICLR 2022 Spotlight)复现过程及问题

Anomaly-Transformer:AboutCodereleasefor"AnomalyTransformer:TimeSeriesAnomalyDetectionwithAssociationDiscrepancy"(ICLR2022Spotlight

理心炼丹·2023-01-15 20:27

ICLR2020推荐阅读论文50篇

来源|香侬科技作者|香侬科技我们为大家整理了ICLR2020的相关论文，此次分享的是从Openreview中选取的部分论文，共50篇，其中大部分为NLP相关。

数智物语·2023-01-15 18:49

训练史上最佳GAN用了512块TPU，一作自述：这不是算法进步，是算力进步

这篇还在双盲审中的ICLR19论文一作现身，实名反对这种看法。在接受外媒FastCompany采访时，一作AndrewBrock表示，大GAN成功的关键，不在于算法的改进，而是计算力的进步。

量子位·2023-01-15 12:38

推荐频道

ICLR