对抗样本第4页

对抗攻击和防御

对于白盒攻击，攻击者已知模型内部的所有信息和参数，基于给定模型的梯度生成对抗样本，对网络进行攻击。对于黑盒攻击，攻击

tzc_fly·2022-12-11 00:56

对抗样本攻击方法总结

huitailangyz·2022-12-11 00:54

对抗攻击Adversarial Attack

blog.csdn.net/qq_43367558/article/details/121694626（2）对抗性样本攻击方法汇总https://zhuanlan.zhihu.com/p/136304195（3）对抗样本攻击方法总结对抗样本攻击方法总结

Jxufe渣渣斯·2022-12-11 00:53

Fairness-aware Adversarial Perturbation Towards Bias Mitigation for Deployed Deep Models[论文笔记]

在arxiv上看到一篇用对抗样本来做公平性提升的论文，fairness-awareAdversarialPerturbationTowardsBiasMitigationforDeployedDeepModels

威化饼的一隅·2022-12-10 21:02

FGSM实例：利用fgsm攻击RMB识别模型

如何生成可参考右边的帮助文档目录一、模型训练总结回顾二、对RMB分类模型进行fgsm攻击1.fgsm原理2.大致思路流程概述1.求数据集中每个数据集的梯度（以供fgsm生成噪声）2.通过fgsm，得到对抗样本数据集

自然卷的悲伤·2022-12-10 09:33

11月份Aidlux智慧交通AI安全实战--（目标检测+安全算法）

其中被增加扰动的数据也称为对抗样本。下面是一些直观的通过增加对抗噪声来让算法模

LYkuaile·2022-12-08 12:12

AI算法对抗攻击和防御技术综述「AI核心算法」

然而，近年来研究者发现，深度学习模型存在着易受对抗样本攻击的安全隐患。攻击者可以通过向良性数据中添加特定的扰动，生成对抗样本。附

九三智能控v·2022-12-07 21:29

AidLux之AI对抗防御算法

目前主流对抗防御的总体分支与逻辑：其中对抗训练是指在训练过程中加入对抗样本，通过不断的学习对抗样本的特征，从而提升模型的鲁棒性。

CV_er·2022-12-07 21:55

L0对抗攻击JSMA的算法盘点

©PaperWeekly原创·作者｜孙裕道学校｜北京邮电大学博士生研究方向｜GAN图像生成、情绪对抗样本生成引言JSMA是非常著名的对抗攻击，它第首次在对抗攻击中引入了的度量方式，度量本质上是限制输入图象中扰动像素点的个数

PaperWeekly·2022-12-07 21:22

你的 AI 算法模型安全吗？来 AI 安全测试基准平台测试下

另外，由于算法存在的“对抗样本”特征，黑客可基于对抗样本技术，通过简

AI科技大本营·2022-12-07 21:51

对抗样本生成算法-FGSM、I-FGSM、ILCM、PGD

对抗样本生成算法一、FGSM(FastGradientSignMethod)1.FGSM基本思想2.FGSM算法流程3.FGSM扰动有效性分析二、I-FGSM/BIM(IterativeFGSM)1.I-FGSM

东方旅行者·2022-12-07 12:05

AidLux智慧交通AI安全实战 ——（目标检测+安全算法）

针对这些攻击，很多工作提出了各种不同的方法，比如设计异常数据检测方法来检测并清除中毒样本，对抗样本，后门样本等攻击性样本；

Cherry CSL·2022-12-07 12:31

【信息与内容安全】实验一：对抗样本攻击实验

本文仅作翻译与稍许修改文章目录对抗性样本攻击实验题目描述欺骗模型的方法FGSM快速梯度符号攻击原理介绍FGSM实现受攻击的模型FGSM攻击函数测试攻击效果函数实施攻击结果分析准确性vsϵ\epsilonϵ对抗样本

框架主义者·2022-12-07 01:06

图片对抗样本的生成

https://wizardforcel.gitbooks.io/tf-tut-hvass/content/11_Adversarial_Examples_zh_CN/11_Adversarial_Examples_zh_CN.html

Luts·2022-12-07 01:36

pytorch 对抗样本_对抗示例生成

本教程将提高您对ML模型的安全漏洞的认识，并深入了解对抗性机器学习的热门话题。您可能会惊讶地发现，对图像添加无法察觉的扰动会导致模型性能大不相同。鉴于这是一个教程，我们将通过图像分类器上的示例来探讨该主题。具体来说，我们将使用第一种也是最流行的攻击方法之一，即快速梯度符号攻击（FGSM）来欺骗MNIST分类器。威胁模型就上下文而言，有多种类型的对抗性攻击，每种攻击者都有不同的目标和对攻击者知识的假

Foo Xu·2022-12-07 01:35

在语义层面构建的对抗样本SemanticAdv: Generating Adversarial Examples via Attribute-conditioned Image Editing

对抗样本是黑盒水印里面一个经典的手段了，今天这篇SemanticAdv:GeneratingAdversarialExamplesviaAttribute-conditionedImageEditing

_Miya_·2022-12-07 01:35

对抗样本生成方法论文阅读笔记

论文《针对黑盒智能语音软件的对抗样本生成方法》一、论文中提到的相关名词解释1.1什么是对抗样本？

跟着宇哥爱数学的Camila·2022-12-07 01:04

对抗样本生成算法之JSMA算法

目录背景算法的原理和步骤论文2016EuroS&P-TheLimitationsofDeepLearninginAdversarialSettings.背景之前的对抗样本的扰动方向都是损失函数的梯度方向

学-evday·2022-12-07 00:33

使用对抗样本的攻击过程

参考文献：针对恶意代码分类模型的对抗技术研究１、首次提出了一种基于灰度图像的对抗样本攻击算法，生成可执行的对抗样本，用以攻击基于机器学习的以灰度图像为分类依据的恶意代码分类模型。

ChaoFeiLi·2022-12-07 00:02

对抗样本（二）L-BFGS

Bai丁·2022-12-07 00:02

【对抗攻击代码实战】对抗样本的生成——FGSM

文章目录前言基于优化的对抗样本FGSM1.首先导入相关包和参数设置：2.加载数据3.定义网络模型4.定义攻击函数5.开始攻击6.可视化测试前言让我们来看一下，怎么从深度学习的基本过程到对抗样本的生成？

nanyidev·2022-12-07 00:32

在Python中使用相似性度量评估对抗样本

对于分类神经网络，一个攻击的例子是输入图像受到干扰(或策略性修改)，从而导致故意错误分类。有各种算法利用给定分类模型的信息(梯度和特征映射)，并修改输入图像，使其被错误分类(非目标攻击)或总是被错误分类为特定类别(目标攻击)。在本文中，我们将研究一些白盒攻击(在了解模型信息后生成攻击的算法)。攻击：FastGradientSignMethod(https://arxiv.org/abs/1412.

woshicver·2022-12-06 07:36

【AI安全之对抗样本】入门知识

文章目录00前言01深度学习脆弱性1.1偷取模型1.2数据投毒02对抗样本（adversarialexamples）2.1对抗样本定义2.2对抗样本原理2.3针对图像分类模型的对抗样本示例2.4对抗样本按照攻击后的效果分类

吃_早餐·2022-12-05 14:10

pytorch实现基本AutoEncoder与案例

简介思路与代码细节1.构造数据源2.构造AutoEncoder网络结构3.训练代码全部代码参考文章AutoEncoder简介AutoEncoder的思路是使用对称的网络结构，重现原有的特征，常用来降噪与应对对抗样本预训练

呆萌的代Ma·2022-12-04 02:03

计算机视觉中自监督学习的最近进展

深度视觉的挑战：找到更好的模型理解模型的鲁棒性（适用于对抗样本）————————希望模型训练时使用一些无标签数据自监督学习当我们采用更大的模型的时候，它的性能会更好，但是我们在面对数据倍增时，性能提升比大模型的增益更大

鱼与钰遇雨·2022-12-03 18:25

交大ADAPT实验室 | 常识知识论文列表

尽管以BERT为代表的的预训练语言模型已经在实体识别、机器翻译、情感分析等任务上取得了亮眼的表现，它们在面对一些人类可以使用常识轻易解决的问题时仍然表现不佳，面对对抗样本时也极为脆弱。

blmoistawinde·2022-12-02 16:35

竞赛trick-AWP对抗训练的即插即用实现

1、对抗训练的简单概括对抗训练就是使用对抗样本去训练模型，从而通过对原始训练数据添加噪声便得到了对抗样本。

nlp野指针·2022-12-02 12:29

对抗训练的理解，以及FGM、PGD和FreeLB的详细介绍

中括号里的含义为，我们要找到一组在样本空间内、使Loss最大的的对抗样本（该对抗样本由原样本x和经过某种手段得到的扰动项r_adv共同组合得到）。

_illusion_·2022-12-02 12:57

NLP对抗训练：PyTorch、Tensorflow

一、定义对抗样本：对输入增加微小扰动得到的样本。旨在增加模型损失。对抗训练：训练模型去区分样例是真实样例还是对抗样本的过程。对抗训练不仅可以提升模型对对抗样本的防御能力，还能提升对原始样本的泛化能力。

u013250861·2022-12-02 12:27

pytorch 对抗样本_【炼丹技巧】功守道：NLP中的对抗训练 + PyTorch实现

本文分享一个“万物皆可盘”的NLP对抗训练实现，只需要四行代码即可调用。盘他。最近，微软的FreeLB-Roberta[1]靠着对抗训练(AdversarialTraining)在GLUE榜上超越了Facebook原生的Roberta，追一科技也用到了这个方法仅凭单模型[2]就在CoQA榜单中超过了人类，似乎“对抗训练”一下子变成了NLP任务的一把利器。刚好笔者最近也在看这方面的内容，所以开一篇博

weixin_39756273·2022-12-02 12:27

pytorch 对抗样本_【炼丹技巧】功守道：NLP中的对抗训练 + PyTorch实

Madry认为，这个公式简单清晰地定义了对抗样本攻防“矛与盾”的两个问题：如何构造足够强的对抗样本？以及，如何使模型变得刀枪不入？剩下的，就是如何求解的问题了。

weixin_39918682·2022-12-02 12:27

解析NLP竞赛中的提分点-对抗训练

对抗训练应用场景Szegedy在14年的ICLR中提出了对抗样本的概念。

JMXGODLZ·2022-12-02 12:25

对抗训练FGM及用pytorch实现

对抗训练通过添加扰动构建对抗样本，喂入模型一同训练，提高模型遇到对抗样本时的鲁棒性，同时一定程度也能提高模型的表现和泛化能力。

艾伦·布拉德·2022-12-02 12:55

NLP中的对抗训练（附PyTorch实现）

对抗样本的基本概念要认识对抗训练，首先要了解"对抗样本"，它首先出现在论文Intriguingpropertiesofneuralnetworks之中。

数学家是我理想·2022-12-02 12:51

Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

Autoencoder-basedZerothOrderOptimizationMethodforAttackingBlack-boxNeuralNetworksAbstract最近的研究表明，当目标模型被称为白盒设置（whiteboxsetting）时，由深度神经网络（DNN）训练的最先进图像分类器中的对抗样本可以很容易地生成

ywq9696·2022-12-01 12:08

AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

Autoencoder-basedZerothOrderOptimizationMethodforAttackingBlack-boxNeuralNetworksAbstract最近的研究表明，当目标模型被称为白盒设置（whiteboxsetting）时，由深度神经网络（DNN）训练的最先进图像分类器中的对抗样本可以很容易地生成

hunt_chen·2022-12-01 11:34

【论文阅读002】Generating Natural Language Adversarial Examples through ProbabilityWeightedWord Saliency

目录论文主要工作已有的工作创新性具体方法问题对抗样本示例单词替换候选词选择替换策略效果评价论文主要工

Su-RE·2022-11-30 19:21

对抗学习学习笔记

github.com/Guo-Yunzhe/Adversarial_Learning_Paperhttps://gitee.com/guoyunzhe/Adversarial_Learning_SurveyFGSM生成对抗样本的试写

那花·2022-11-30 13:58

[当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享

但如果您想学习人工智能和安全结合的应用，您就有福利了，作者将重新打造一个《当人工智能遇上安全》系列博客，详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等

Eastmount·2022-11-29 13:04

对抗样本之黑箱对抗：Practical Black-Box Attacks Against Machine Learning

前言看到篇paper，提供了一个极其厉害的生成对抗样本的黑箱攻击方式，之前的对抗攻击必须要知道受攻击模型的详细信息（包括模型结构参数，训练样本集等），但是本文所要分享的方法，是完全不需要知道这些信息的，

于建民·2022-11-29 07:38

机器学习里的攻击-躲避攻击(Evasion attacks)

目录1前言2Evasionattacks逃逸攻击2.1逃逸攻击的应用场景2.2逃逸攻击的攻击模式2.3逃逸攻击的研究方向2.4常见对抗样本生成方式2.4.1基于梯度的攻击2.4.1.1FGSD（Fastgradientsignmethod

学渣渣渣渣渣·2022-11-29 07:06

对抗攻击与防御入门

目录一、深度学习简介二、对抗攻击与防御算法介绍三、对抗样本应用以及工具箱简介四、对抗攻击算法的衡量标准一、深度学习简介深度学习（DL，DeepLearning）是机器学习（ML，MachineLearning

一颗烂白菜·2022-11-29 07:59

【生成对抗样本】Simple Black-Box Adversarial Attacks on Deep Neural Networks

对深度神经网络的简单黑盒对抗性攻击作者：NarodytskaN，KasiviswanathanS2017年发表在IEEEComputerSocietyConferenceonComputerVisionandPatternRecognitionWorkshops主要内容深度神经网络容易受到精心设计的对抗性干扰，这会导致输入的错误分类。在本文中，我们专注于深度卷积神经网络，并证明即使没有目标网络的任

Shall_ByeBye·2022-11-29 07:27

AI安全——对抗样本（工具DeepRobust）

DeepRobust使用下载github地址：https://github.com/DSE-MSU/DeepRobust论文链接：https://arxiv.org/abs/2005.06149安装pipinstalldeeprobust注意事项scipy版本1.3.1如果用pip直接安装版本错误2.使用CPU需要修改，base_attack.py和使用的算法中definit(self,model

闻者文也·2022-11-27 11:56

文本攻击textattack-＞openattack

那么就是对抗样本，生成对抗样本的过程称为对抗攻击。

zhurui_xiaozhuzaizai·2022-11-26 17:15

cvpr2020 人脸检测与识别_就CVPR2020的来看，目前人工智能的研究热点有哪些进展？未来的研究趋势会有什么变化？...

CVPR主打视觉CV吧，从趋势来看，越来越的“红”方向，比如，自监督/半监督/弱监督/无监督、少样本/单样本/零样本、可解释性、对抗样本/安全、多模态、3D等等~个人对GAN比较感兴趣，CVPR2020

探员Fuze·2022-11-26 02:51

matlab 卷积神经网络图像去噪对抗样本修复

https://download.csdn.net/download/qq_51750957/141157381.matlab自带的0-9手写数字，共10000张，为[28,28]单通道图像2.对应的对抗样本

防搞活机·2022-11-25 07:50

MIR 2022 反者道之动, 基于因果推断的可解释对抗防御

图一：对抗样本。在原图中添加很小的扰动即可操纵模型输出。面对对抗攻击带来的威胁，一

昇思MindSpore·2022-11-24 19:09

【对抗攻击论文笔记】对抗迁移性：Delving Into Transferable Adversarial Examples And Black-Box Attacks

文章目录论文概述ideamethod详细内容摘要1.介绍2对抗深度学习和可迁移性2.1对抗深度学习问题2.2对抗样本生成的方法2.3评估方法3.非定向对抗样本3.1基于优化3.2基于FGSM4.定向对抗样本

nanyidev·2022-11-23 13:03

推荐频道

对抗样本