对抗样本第9页

对抗样本(论文解读六):Adversarial camera stickers: A physical camera-based attack on deep learning systems

准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。

Enjoy_endless·2020-07-06 21:42

对抗样本(论文解读二): Transferable Adversarial Attacks for Image and Video Object Detection

准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。

Enjoy_endless·2020-07-06 21:42

对抗样本(论文解读九):Making an Invisibility Cloak Real World Adversarial Attacks on Object

MakinganInvisibilityCloakRealWorldAdversarialAttacksonObjectZuxuanWuFacebookAIUniversityofMarylandSer-NamLimFacebookAILarryDavisUniversityofMarylandTomGoldsteinFacebookAIUniversityofMaryland论文公开于2019.

Enjoy_endless·2020-07-06 21:42

对抗样本(论文解读十一):PatchAttack: A Black-box Texture-based Attack with Reinforcement Learning

PatchAttack:ABlack-boxTexture-basedAttackwithReinforcementLearningChenglinYang,AdamKortylewski,CihangXie,YinzhiCao,andAlanYuilleJohnsHopkinsUniversity通过强化学习实现一个基于纹理的黑盒攻击这是一篇比较新的对抗块攻击的相关文章，发布于arxiv：202

Enjoy_endless·2020-07-06 21:42

对抗样本(论文解读八):Towards More Robust Adversarial Attack Against Real World Object Detectors

准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。

Enjoy_endless·2020-07-06 21:42

对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review

准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。

Enjoy_endless·2020-07-06 21:42

清华朱军团队包揽三项冠军 | NIPS 2017对抗样本攻防竞赛总结（附学习资料）

本次比赛总结由谷歌大脑、清华大学以及其它参与研究人员们联合撰写，为你介绍NIPS2017对抗样本攻防比赛的情况。

数据派THU·2020-07-06 18:14

论文阅读笔记：GENERATING NATURAL ADVERSARIAL EXAMPLES

论文阅读笔记：GENERATINGNATURALADVERSARIALEXAMPLES本文发表在ICLR2018上问题传统对抗样本是unnatural的，在真实数据中几乎不存在contribution提出了一种生成更

qq_36356761·2020-07-06 17:17

对抗样本(论文解读一): DPATCH: An Adversarial Patch Attack on Object Detectors

准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。

Enjoy_endless·2020-07-06 15:10

【科普】人工智能秒变人工智障：如何误导神经网络指鹿为马

包括用对抗样本修改图片误导神经网络指鹿为马、针对不同深度学习模型的逃逸攻击、白盒攻击与黑盒攻击、NIPS2017神经网络对抗攻防赛清华三连冠团队算法模型解读，以及未来人工智能面临的信息安全挑战。

同济子豪兄·2020-07-05 08:46

论文阅读-可迁移对抗样本攻击

oukohou.wang，敬请前往～～paper:TransferableAdversarialAttacksforImageandVideoObjectDetectionHello大家好，本次带来的是针对目标检测的可迁移对抗样本攻击

oukohou·2020-07-02 14:15

神经网络太好骗？清华团队如何做到打NIPS攻防赛得3冠军的

文章介绍了如何用对抗样本修改图片，误导神经网络指鹿为马；对NIPS2017神经网络对抗攻防赛3项冠军清华团队的算法模型进行了解读。

csdn人工智能头条·2020-07-02 01:16

[论文分享]-通过输入多样性提高对抗样本的迁移性(Improving Transferability of Adversarial Examples with Input Diversity)

以下内容来自于组会论文分享，后面部分slides中比较清晰，就直接引用了。有需要slides的朋友，可关注公众号进行获取。文中的假设部分，暂时还没结论，感兴趣的同学可以探索下。文中的方法来自于Nips17的defence比赛中，该团队先将把比赛策略写成的文章，投中了ICLR18，可以参考另一篇文章[读论文]-通过随机操作减缓对抗攻击的影响(MitigatingAdversarialEffectsT

Donald Su·2020-07-01 22:28

[读论文]通过中间层攻击提高对抗样本的迁移性(Enhancing Adversarial Example Transferability with an ILA)

内容来源于论文：EnhancingAdversarialExampleTransferabilitywithanIntermediateLevelAttack，发表在11月初的ICCV2019会议上。论文地址：EnhancingAdversarialExampleTransferabilitywithanIntermediateLevelAttack完整论文：arxiv.org/pdf/1907.

Donald Su·2020-07-01 22:28

OpenAI详细解析：攻击者是如何使用「对抗样本」攻击机器学习的

「雷克世界」编译：嗯~是阿童木呀、EVA导语：一般来说，对抗样本（adversarialexamples）是机器学习模型的输入，攻击者故意设计它们以引起模型出错;它们就像是机器的视觉错觉。

人工智能学家·2020-07-01 19:29

产生和防御对抗样本的新方法 | 分享总结

来源：AI研习社作者：杨文在线上公开课上，来自清华大学的在读博士生廖方舟分享了他们团队在NIPS2017上一个对抗样本攻防大赛中提到的两个新方法，这两个方法在大赛中分别获得了攻击方和防守方的第一名。

人工智能学家·2020-07-01 19:29

近期值得读的 9 篇「对抗样本」最新论文

本期我们筛选了9篇「对抗样本」领域的最新论文，一起来看看读过这些论文的推荐人的推荐理由与个人评价吧！

PaperWeekly·2020-07-01 19:59

[论文笔记]集成方法提高神经网络的对抗鲁棒性

集成方法提高神经网络的对抗鲁棒性一、多个弱防御的集成不能形成强防御1.攻击者2.防御策略3.对抗样本生成方法4.干扰大小的度量5.实验6.结论二、简单集成神经网络1.攻击方法2.集成模型3.计算梯度4.

Xie Zhuang·2020-07-01 15:39

对抗样本(攻防赛冠军分享)

NIPS2017对抗样本攻防赛冠军廖方舟的算法分享清华大学化学生物学学士，清华大学生医系在读博士。研究兴趣：计算神经学、机器学习、计算机视觉。

Enjoy_endless·2020-07-01 09:59

[读论文]Delving into Transferable Adversarial Examples and Black-box Attacks

论文题目：深入研究对抗样本和黑盒攻击的可转移性本文内容来源于论文：DelvingintoTransferableAdversarialExamplesandBlack-boxAttacks论文地址：arxiv

Donald Su_·2020-07-01 09:00

MIT最新研究：对抗样本才不是bug呢，人家，人家是特征~

大数据文摘出品来源：gradientscience编译：Andy到目前为止，业内对于对抗样本的流行观点是，其源于模型的“怪癖”，一旦训练算法和数据收集方面取得足够的进展，那么它们终将消失。

BigDataDigest·2020-07-01 08:10

CVPR 2020 学术礼包 | 旷视研究院6篇Oral论文视频解读全面上线！

Oral论文6篇，研究领域涵盖物体检测与行人再识别（尤其是遮挡场景），人脸识别，文字检测与识别，实时视频感知与推理，小样本学习，迁移学习，3D感知，GAN与图像生成，计算机图形学，语义分割，细粒度图像，对抗样本攻击等众多领域

旷视·2020-07-01 01:28

对抗样本的创建和防御

先列出两个对抗样本创建的github链接：cleverhans百度的AdvBox什么是对抗样本对抗样本产生原因对抗样本发生的原因：深度学习模型的高度线性性质，导致通过线性模型参数的点乘累积放大输入图像像素值的微小改变

ygfrancois·2020-06-30 07:36

如何一招“骗过”五种神经网络？

对抗样本通过对图像做微小的改动，在用户无感知的情况下，会导致AI系统被入侵、错误命令被执行。欺骗AI系统做出错误的决断，将会给社会造成重大的损失。通过研究如何欺骗AI系统，对现有的薄弱点进行

百度大脑·2020-06-29 15:10

【数据堂开放数据】活体检测数据免费开放

//www.datatang.com/webfront/limitationExemption.html数据介绍：本数据摘自数据堂采集制作的“1000人活体检测数据”，即采集包括一人多姿态、多表情、多对抗样本

数据堂官方账号·2020-06-29 13:32

深度学习---对抗样本生成

对抗样本攻击：在深度学习神经网络（DNN）输入较小的干扰因素会使DNN出现误判，这种攻击被称为是对抗样本攻击对抗样本：是指在正常样本中有目的性地添加的一些干扰因素，使得DNN出现误判举例说明对抗样本分析带来的影响

聆一·2020-06-29 08:25

任奎：人工智能算法安全浅析——深度学习中的对抗攻击与防御

然而，近年来研究者发现，深度学习模型存在着易受对抗样本攻击的安全隐患。攻击者可以通过向良性数据中添加特定的扰动，生成对抗样本。附加轻微扰动的对抗样本不会影响人类的

喜欢打酱油的老鸟·2020-06-29 03:39

ICLR 2020丨微软亚洲研究院精选论文解读

本文为大家介绍的4篇微软亚洲研究院精选论文分别研究了BERT在机器翻译中的应用，有理论保障的对抗样本防御模型MACER，一种新的基于自我博弈的文本生成对抗网络（GAN）训练算法，以及可广泛应用于视觉-语言任务的预训练通用特征表示

人工智能与算法学习·2020-06-29 00:23

论文阅读 | Adversarial Example Generation with Syntactically Controlled Paraphrase Networks

[pdf][code]句法控制释义网络SCPNS生成对抗样本我们提出了句法控制意译网络(SCPNs)，并利用它们来生成对抗性的例子。

weixin_30352645·2020-06-27 18:41

[AdvGAN]Generating Adversarial Examples with Adversarial Networks阅读笔记

wanttifa·2020-06-27 14:30

生成对抗网

https://github.com/hindupuravinash/the-gan-zoo生成式模型&生成对抗网络——资料梳理（专访资料+论文分类）对抗样本与生成式对抗网络生成对抗网络GenerativeAdversarialNets

zbxzc·2020-06-27 09:45

FGSM（Fast Gradient Sign Method）生成对抗样本（32）---《深度学习》

利用FGSM方法生成对抗样本的基本原理如下图所示，通过对原始图片添加噪声来使得网络对生成的图片X’进行误分类，需要注意的是，生成图片X’和原始图片X很像，人的肉眼无法进行辨别，生成的图片X’即为对抗样本

阿华Go·2020-06-27 08:48

数据增强——mixup

BEYONDEMPIRICALRISKMINIMIZATION》2017（ICLR2018），HongyiZhangetal.Mixup，MIT和FAIR1.简介：大型深度神经网络是非常强大的，但其损耗巨大的内存以及对对抗样本的敏感性一直不太理想

Peanut_范·2020-06-27 07:12

对抗训练

对抗训练对抗训练是防御对抗样本攻击的一种方法。将对抗样本和正常样本一起训练是一种有效的正则化，可以提高模型的准确度，同时也能有效降低对抗样本的攻击成功率。

高文星星·2020-06-25 22:00

CNCC2018中国计算机大会：人工智能与信息安全分论坛

本论坛是2018中国计算机大会（CNCC）的分论坛之一，涉及人工智能与信息安全交叉应用前沿领域，包括恶意文本识别过滤、神经网络攻击、对抗样本生成与模型迁移、白盒与黑盒攻防策略，以及移动设备AI应用模型泄密等人工智能应用的信息安全挑战

同济子豪兄·2020-06-25 21:40

第十六讲--对抗样本和对抗训练

对于训练好的模型来说，这个样本会被分类为猴子不只是神经网络，线性模型也会被攻击，下图圈出来的“9”已结不再被模型认为是“9”了这种表明看起来没有区别的对抗样本，不是由于模型的过拟合引起的。

i_chase·2020-06-25 16:44

PGD:Towards Deep Learning Models Resistant to Adversarial Attacks

一.摘要1.出发点：（1）深度网络对对抗攻击（adversarialattack）即对对抗样本的天生缺陷。（2）当输入信息与自然样本差别并不大是却被网络错误的分类，如下图。

761527200·2020-06-25 16:36

文本分类对抗样本生成

本文复现一个基于文本的白盒算法，基于论文《TEXTBUGGER:GeneratingAdversarialTextAgainstReal-worldApplications》先上最终效果No-3srcSentence:theprotectoryouhearthenameyouthinkahitsacrappyhongkongmovieguesswhatitsnothongkongandyesiti

p0ther·2020-06-25 10:52

对抗样本：知其然，知其所以然

聪明汉斯的故事在二十世纪初的德国，有一匹名叫汉斯的马非常有名。在主人威廉•冯•奥斯滕的训练下，聪明的汉斯经过了一段时间的训练，掌握了简单的数学运算。当奥斯滕问汉斯“一加一等于几”的时候，它会用蹄子在地上“嗒，嗒，嗒”的敲出答案。围观的群众看到汉斯能够正确的回答各种数学题，都感到惊讶和神奇。同时，人们也疑惑，汉斯是否真的通过训练学会了过去人们认为动物做不到的事情。在一系列的调查中，人们发现，如果在提

nemoyy·2020-06-24 17:29

生成对抗样本研究笔记

2.3.2基于优化目标函数2.3.3基于几何2.3.4基于gan2.3.5基于决策访问次数2.3.6其他3对抗源码3.1cleverhans3.2advBox3.3foolbox4补充5.参考文献1引言对抗样本

Louis_lan·2020-06-24 06:33

对抗样本与对抗训练

（本文讨论仅限个人观点，因为我见解有限，错误难免（我也可能不定时更新想法），欢迎和我讨论[email protected]）本文将会介绍对抗样本与对抗训练的相关知识（请将此对抗训练与IanGoodfellow

cdpac·2020-06-22 20:54

CVPR 2018现场见闻

关于作者：万纬韬，本科毕业于清华大学电子工程系，现于清华大学信息认知与智能系统研究所攻读博士二年级，主要研究方向包括基于深度学习的人脸检测与识别，对抗样本，图像语义分割。

PaperWeekly·2020-06-22 19:54

(转) 简述生成式对抗网络

简述生成式对抗网络【转载请注明出处】chenrudan.github.io本文主要阐述了对生成式对抗网络的理解，首先谈到了什么是对抗样本，以及它与对抗网络的关系，然后解释了对抗网络的每个组成部分，再结合算法流程和代码实现来解释具体是如何实现并执行这个算法的

a1424262219·2020-06-22 10:58

Efficient Decision-based Black-box Adversarial Attacks on Face Recognition针对人脸识别系统的高效黑盒对抗攻击算法

这种现象叫做对抗样本，即针对某种特定的模型（例如图像分类模型ResNet[2]），在正常样本（例如2D图像，3D点云等）上加入微小的噪声，使得模型原来的结果发生改变

Sanven?·2020-06-21 20:07

构造AI防火墙！清华初创团队推出AI安全平台，强势修复算法漏洞“新型病毒”

并且这类极端情形也可能被恶意制造并利用，发起“对抗样本攻

BigDataDigest·2020-06-21 17:35

AdvBox 0.3发布 | 支持深度学习黑盒攻击算法及防御算法、支持Keras

AdvBox是一款支持PaddlePaddle、Caffe2、Keras以及TensorFlow的针对AI模型生成对抗样本的工具包。

百度安全·2020-06-21 17:39

AdvBox 0.2发布|助力AI时代支持Caffe2和TensorFlow平台

摘要AdvBox是一款支持PaddlePaddle、Caffe2以及TensorFlow的针对深度学习模型生成对抗样本的工具包。

百度安全·2020-06-21 17:39

对抗样本与生成式对抗网络

最近一个月，人工智能领域听的最多的名词之一，莫过于对抗样本和对抗性网络，从最开始YannLeCun在Quora上直播时表示生成对抗性网络近期人工智能最值得期待的算法之一，到近日生成对抗性网络的发明者IanGoodfellow

罗韵·2020-06-21 03:57

《Universal adversarial perturbations》文献阅读笔记

《Universaladversarialperturbations》本文介绍了一种通用（Universal）扰动的构造方法，攻击方只需要对所有同一分布的样本添加该通用算法下的扰动，就能实现对抗样本构造

VnK_·2020-05-06 22:19

《Comprehensive Privacy Analysis of Deep Learning》补完以及Deepfool对抗样本构造算法

本文关于推理攻击领域关于深度学习的隐私性的全面分析《ComprehensivePrivacyAnalysisofDeepLearning》，以及介绍Deepfool对抗样本构造算法的《DeepFool:

VnK_·2020-05-06 22:16

推荐频道

对抗样本

对抗样本(论文解读六):Adversarial camera stickers: A physical camera-based attack on deep learning systems

对抗样本(论文解读二): Transferable Adversarial Attacks for Image and Video Object Detection

对抗样本(论文解读九):Making an Invisibility Cloak Real World Adversarial Attacks on Object

对抗样本(论文解读十一):PatchAttack: A Black-box Texture-based Attack with Reinforcement Learning

对抗样本(论文解读八):Towards More Robust Adversarial Attack Against Real World Object Detectors

对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review

清华朱军团队包揽三项冠军 | NIPS 2017对抗样本攻防竞赛总结（附学习资料）

论文阅读笔记：GENERATING NATURAL ADVERSARIAL EXAMPLES

对抗样本(论文解读一): DPATCH: An Adversarial Patch Attack on Object Detectors

【科普】人工智能秒变人工智障：如何误导神经网络指鹿为马

论文阅读-可迁移对抗样本攻击

神经网络太好骗？清华团队如何做到打NIPS攻防赛得3冠军的

[论文分享]-通过输入多样性提高对抗样本的迁移性(Improving Transferability of Adversarial Examples with Input Diversity)

[读论文]通过中间层攻击提高对抗样本的迁移性(Enhancing Adversarial Example Transferability with an ILA)

OpenAI详细解析：攻击者是如何使用「对抗样本」攻击机器学习的

产生和防御对抗样本的新方法 | 分享总结

近期值得读的 9 篇「对抗样本」最新论文

[论文笔记]集成方法提高神经网络的对抗鲁棒性

对抗样本(攻防赛冠军分享)

[读论文]Delving into Transferable Adversarial Examples and Black-box Attacks

MIT最新研究：对抗样本才不是bug呢，人家，人家是特征~

CVPR 2020 学术礼包 | 旷视研究院6篇Oral论文视频解读全面上线！

对抗样本的创建和防御

如何一招“骗过”五种神经网络？

【数据堂开放数据】活体检测数据免费开放

深度学习---对抗样本生成

任奎：人工智能算法安全浅析——深度学习中的对抗攻击与防御

ICLR 2020丨微软亚洲研究院精选论文解读

论文阅读 | Adversarial Example Generation with Syntactically Controlled Paraphrase Networks

[AdvGAN]Generating Adversarial Examples with Adversarial Networks阅读笔记

生成对抗网

FGSM（Fast Gradient Sign Method）生成对抗样本（32）---《深度学习》

数据增强——mixup

对抗训练

CNCC2018中国计算机大会：人工智能与信息安全分论坛

第十六讲--对抗样本和对抗训练

PGD:Towards Deep Learning Models Resistant to Adversarial Attacks

文本分类对抗样本生成

对抗样本：知其然，知其所以然

生成对抗样本研究笔记

对抗样本与对抗训练

CVPR 2018现场见闻

(转) 简述生成式对抗网络

Efficient Decision-based Black-box Adversarial Attacks on Face Recognition针对人脸识别系统的高效黑盒对抗攻击算法

构造AI防火墙！清华初创团队推出AI安全平台，强势修复算法漏洞“新型病毒”

AdvBox 0.3发布 | 支持深度学习黑盒攻击算法及防御算法、支持Keras

AdvBox 0.2发布|助力AI时代 支持Caffe2和TensorFlow平台

对抗样本与生成式对抗网络

《Universal adversarial perturbations》文献阅读笔记

《Comprehensive Privacy Analysis of Deep Learning》补完以及Deepfool对抗样本构造算法

AdvBox 0.2发布|助力AI时代支持Caffe2和TensorFlow平台