对抗样本

Robert+SimCLR+PGD实现文本分类

例如，可以使用FGSM或PGD算法来生成对抗样本，并将其添加到训练数据集中。使用SimCLR思想来提高模型的泛化能力。例如，可以使用对比学习来训练模型，使模型学会从相似的样本中提取更好的特征。目录
Dr.sky_·2023-06-10 21:52

Bert+FGSM/PGD实现中文文本分类（Loss=0.5L1+0.5L2)

将每个嵌入向量与一个小的扰动向量相加，从而生成对抗样本。这个扰动向量的大小可以通过一个超参数来控制。将生成的对抗样本和原始样本一起用于训练模型。
Dr.sky_·2023-06-08 22:43

网络安全学术顶会——USENIX Security '23 秋季论文清单、摘要与总结（上）

注：本文由ChatGPT与Claude联合生成总结根据USENIXSecurity'23秋季论文信息总结如下：一、研究方向热门方向:1.对抗性机器学习和对抗样本。
riusksk·2023-06-08 01:48

阿里提出：从分布视角出发理解和提升对抗样本的迁移性

第一时间送达阿里巴巴AAIG与浙江大学团队在对抗迁移攻击问题中，通过引入数据分布的视角出发，利用scorematching对替代的判别式模型与数据分布进行对齐，从而在提到模型中引入更多的数据分布相关的信息，提升对抗样本的迁移能力
Amusi（CVer）·2023-04-15 07:28

对抗样本：ICLR 2022 基于积分梯度的对抗攻击（可迁移的黑盒攻击）Transferable Attack based on Integrated Gradients (TAIG)

文章目录代码感受：该论文提出的攻击算法，在实验中特别费时间，每一次迭代需要循环N次（N为batch_size的大小），因此需要消耗大量的时间去生成对抗样本。
算法黑哥·2023-04-15 07:28

对抗样本-(CVPR 2022)-通过基于对象多样化输入来提高有针对性对抗样本的可迁移性

论文地址：https://arxiv.org/abs/2203.09123代码地址：https://github.com/dreamflake/ODI摘要：本文提出了一种新的方法来生成有针对性的对抗样本
算法黑哥·2023-04-15 07:27

对抗样本领域综述文章推荐

对于刚接触对抗样本领域的小伙伴们来说，看到领域内众多文章时，简直眼花缭乱。这时候，如果一篇好的综述概括了当前领域内的主要进展，提供给我们该领域的全局视野时，可以带领小白快速入门，起到事半功倍的效果。
wangxiaoguang·2023-04-09 19:38

PGD论文阅读笔记

内部最大化问题的目的：找到一个给定数据点x的对抗样本，从而实现高损失，这就是攻击给定神经网络的问题。外部最小化问题的目的：找到模型参数。
你今天论文了吗·2023-04-06 03:01

深度学习之对抗样本问题

深度学习之对抗样本问题2006年，GeoffreyHinton提出了深度学习。受益于大数据的出现和大规模计算能力的提升，深度学习已然成为最活跃的计算机研究领域之一。
weixin_39475996·2023-04-03 01:36

道德性验证

针对这部分，也需要测试AI系统是否能抵御对抗样本的攻击，是否遵守相关法律法规和伦理标准，是否保护用户隐私和数据安全等。增强AI系统的道德风险防控意识，让AI系统的开发者
CrissChan·2023-03-31 03:18

支持对抗样本防御的AI加速器架构设计

看到一个综述文章，感觉支持对抗样本防御的AI加速器架构设计好像是个新方向呀。DNN加速器架构设计还能继续挖么。。。。。。。。找到几个相关的文献。。
清风飞扬go·2023-03-30 12:28

Boosting Adversarial Attacks with Momentum论文解读

摘要深层神经网络容易受到对抗样本的攻击，由于潜在的严重后果，这对这些算法造成了安全问题。对抗性攻击是在部署深度学习模型之前评估其鲁棒性的重要替代手段。
你回到了你的家·2023-03-30 03:14

针对语义分割的真实世界的对抗样本攻击

针对语义分割的真实世界的对抗样本攻击来自于论文"EvaluatingtheRobustnessofSemanticSegmentationforAutonomousDrivingagainstReal-WorldAdversarialPatchAttacks
MezereonXP·2023-03-26 11:34

关于“对抗样本攻击”的思考

什么是“对抗样本攻击”笔者给“对抗样本攻击”下的定义是：通过精心的构造原始数据，使得机器学习模型以较大概率返回和事实相反的结果。最经典的例子就是对于图像、人脸识别系统的攻击样本了。
captain_hwz·2023-03-15 09:39

对抗攻击方法汇总（持续更新）

自从2014年Szegedy等人提出对抗样本以来，不断有研究者提出新的对抗攻击方法。本文汇总了当前已有的绝大多数算法，以抛砖引玉用，并不断更新。
wangxiaoguang·2023-03-14 16:04

【对抗攻击论文笔记】Enhancing the Transferability of Adversarial Attacks through Variance Tuning

文章目录MainContributionsBackgroundMotivationMethodExperimentsMainContributions本文提出了一种基于方差调整迭代梯度的方法来增强生成对抗样本的可迁移性
nanyidev·2023-03-13 16:21

基于梯度的黑盒迁移对抗攻击（附代码）

当前大部分研究主要通过在数据样本的尺寸，分布，规模，时序等方面来丰富梯度的多样性，使得生成的对抗样本在迁移到其它的模型攻击时，能够有更高的攻击成功率。
鬼道2022·2023-03-13 16:49

一文通俗讲解元学习（Meta-Learning）

©PaperWeekly原创·作者|孙裕道学校|北京邮电大学博士生研究方向|GAN图像生成、情绪对抗样本生成元学习（meta-learning）是过去几年最火爆的学习方法之一，各式各样的paper都是基于元学习展开的
PaperWeekly·2023-02-17 07:21

深度学习做不了什么事

本文源自2017年6月一次讨论深度学习缺陷的推文风暴，斯坦福大学的BharathRamsundar，在用深度学习进行药物研究的过程中发现，深度学习做不到事情其实有很多，比如无法鉴别对抗样本、处理不好高维数据
Peter_Gao_·2023-02-16 23:51

李宏毅2020机器学习作业6-Adversarial Attack：对抗攻击（更新中）

本文仍在更新中更多作业，请查看李宏毅2020机器学习资料汇总文章目录0作业链接1作业说明环境任务说明任务要求数据说明2基本概念对抗样本与对抗攻击黑盒攻击vs.白盒攻击FastGradientSignMethod
iteapoy·2023-02-04 21:00

【Pytorch项目实战】之对抗攻击：无目标对抗攻击（FGSM）、有目标对抗攻击（FGSM）

（3）常见的对抗样本生成方式（4）攻击方式（5）防御方式（一）实战：无目标-对抗攻击（FGSM）（二）实战：有目标-对抗攻击（FGSM）对抗攻击（AdversarialAttack）属于AI安全范畴。
胖墩会武术·2023-02-01 20:14

ACL2020论文：使用强化学习为机器翻译生成对抗样本

来自：南大NLP01—背景介绍对抗样本（adversarialexample）是近年来用于探索深度学习系统鲁棒性的重要工具。
zenRRan·2023-02-01 09:27

FGSM和PGD算法的介绍与实际应用

目录基于FGSM/PGD算法的对抗样本的生成中文数据集运行环境实验参数实验代码FGSMPGD如下展示FGSM算法运行结果结果补充代码【参考】基于FGSM/PGD算法的对抗样本的生成在中文文本分类的场景下
栖陆@.·2023-01-30 14:21

对抗样本之人机迁移：Adversarial Examples that Fool both Human and Computer Vision

前言Goodfellow、Elsayed团队又将对抗样本往前推进了一大步，产生了可以同时迷惑机器和人类的对抗样本，着实让人惊讶。
于建民·2023-01-29 21:22

【ICIP2022】提高对抗攻击的迁移性（在注意力空间下扰动的多样性生成）

我们知道在2D对抗攻击的领域，目前还能够做的就是提升对抗攻击的迁移性，也就是在源模型中生成的对抗样本，
馆主君晓·2023-01-29 21:20

黑盒攻击中迁移攻击和通用对抗扰动的讲解及实战（附源码）

需要源码请点赞关注收藏后评论区留言私信~~~黑盒攻击人们发现结构类似的神经网络模型在面对相同的对抗样本攻击时，会有类似的表现。
showswoller·2023-01-29 21:49

ICLR 2022 | 基于积分梯度的迁移对抗攻击

论文中作者提出了一种基于积分梯度的可迁移性攻击算法（TAIG），该算法可以生成高可迁移性的对抗样本。
PaperWeekly·2023-01-29 21:18

ICLR2022：基于积分梯度的迁移对抗攻击

论文中作者提出了一种基于积分梯度的可迁移性攻击算法（TAIG），该算法可以生成高可迁移性的对抗样本。
鬼道2022·2023-01-29 21:17

对抗样本学习笔记:Adversarial Examples: Attacks and Defenses for Deep Learning

（持续更新）一、相关优质博客1.全面入门2.直观理解原理3.相关补充论文4.对抗防御分类二、论文细节知识点1.hessian矩阵（表一）：hessian矩阵实际上就是函数的二阶导矩阵Hessian矩阵在机器学习中的应用(拓展)：即hessian矩阵能来找极值点2.RNN简单介绍，3.自编码器简单介绍：个人理解为类似无监督的学习算法，让机器训练出能保留原始数据较好特征的权值矩阵，然后每次训练当前层都
code-dream·2023-01-26 15:02

【论文笔记】【ICLR2018】Towards Deep Learning Models Resistant to Adversarial

这篇文章提出了一个Min-Max的攻击&防御融为一体的框架，在该框架控制下使用PGD（迭代FGSM的一般方法）生成的对抗样本进行对抗训练，提高模型的鲁棒性，抵制一系列的first-orderattack
Wwwwhy_　·2023-01-26 15:31

AdvFlow：一种基于标准化流的黑盒攻击新方法，产生更难被发觉的对抗样本 | NeurIPS‘20

本文提出一种新的黑盒对抗攻击方法AdvFlow，通过利用标准化流来建模对抗样本的数据分布，使得生成的对抗样本的分布和正常样本接近，从而让对抗样本更难被检测出来，打破了对抗样本和正常样本的分布大不相同的固有认知
极市平台·2023-01-26 15:59

adversarial Learning and attacks 学习笔记

AdversarialAttacks对抗攻击样本：一张正常的大熊猫图片（左图）在被加入噪声(通常为人类无法察觉的噪声)后生成对抗样本（右图），会使得神经网络分类错误，并被神经网络认为是一张长臂猿图片，然而人并不能察觉到这种变化
秃然变强了·2023-01-26 15:58

深度学习掩膜_任奎：人工智能算法安全浅析——深度学习中的对抗攻击与防御...

然而，近年来研究者发现，深度学习模型存在着易受对抗样本攻击的安全隐患。攻击者可以通过向良性数据中添加特定的扰动，生成对抗样本。附加轻微扰动的对抗样本
weixin_39747721·2023-01-21 19:11

一场国际赛事“悬赏”50万美元，向假视频宣战丨独家公开课实录（5）

在对抗样本防御的过程中还有一类很相似的任务——DeepFake识别。有数据统计，仅仅2019年到2020年期间，Deepfake视频数量增长了就达到大概6820倍，从14678个视频增长到1亿个视频。
数据实战派·2023-01-20 01:08

图对抗攻击及防御算法种类

其中逃逸攻击是攻击者构造对抗样本在模型测试简短欺骗目标模型，而投毒攻击是攻击者在模型训练阶段向训练集中注入对抗样本，使得训练后的模型具有误导性。
心若向阳，何谓悲伤·2023-01-19 20:32

CMU提出对抗生成网络：可实现对人脸识别模型的神经网络攻击

不幸的是，研究还表明使用对抗样本（adversarialexamp
机器之心V·2023-01-17 10:34

各种代码在各种模型下的正确率（对抗样本大赛）

2018年CAAD冠军代码在各种模型下的正确率（以下仅个人准备比赛时进行测试的数据）在inception_v3模型下冠军代码没有集成这个~在adv_inception_v3模型下在ens3_adv_inception_v3模型下在ens4_adv_inception_v3模型下在ens_adv_inception_resnet_v2模型下在adv_inception_resnet_v2模型下201
wujiekd·2023-01-13 21:49

对抗样本检测

对抗样本检测源于：AdversarialExamplesinModernMachineLearning:AReview下面一些内容来自这篇文章，只是对其中攻击后生成的对抗样本检测部分进行梳理。
LoganYang__·2023-01-13 21:19

Fisher信息量检测对抗样本代码详解

©PaperWeekly原创·作者|鬼谷子引言在上一篇《Fisher信息量在对抗样本中的应用》中详尽地阐述了Fisher信息量在对抗攻击，防御，以及检测中的应用，并解析了三篇具有代表性的论文。
PaperWeekly·2023-01-13 21:14

ECCV 2022 | 用于对抗攻击的频域模型增强方法

©作者|陈兆宇单位|复旦大学ROILab研究方向|对抗样本论文标题：FrequencyDomainModelAugmentationforAdversarialAttack论文来源：ECCV2022Oral
PaperWeekly·2023-01-13 21:14

Fisher信息量检测对抗样本代码详解

1引言 在上一篇《Fisher信息量在对抗样本中的应用》中详尽地阐述了Fisher信息量在对抗攻击，防御，以及检测中的应用，并解析了三篇具有代表性的论文。
鬼道2022·2023-01-13 21:42

NLP中的对抗训练

对抗训练定义对抗训练是一种引入噪声的训练方式，可以对参数进行正则化，提升模型鲁棒性和泛化能力1.1对抗训练特点相对于原始输入，所添加的扰动是微小的添加的噪声可以使得模型预测错误1.2对抗训练的基本概念就是在原始输入样本x上加上一个扰动Δx得到对抗样本
sunghosts·2023-01-13 08:45

用神经声码器进行说话人验证的对抗样本检测

ADVERSARIALSAMPLEDETECTIONFORSPEAKERVERIFICATIONBYNEURALVOCODERS摘要ASV任务最近经常受到对抗性攻击，对应的举措是有限的；本文采用神经声码器来检测对抗样本
深海的银·2023-01-12 13:49

GAN一点都不鲁棒？清华学霸们赢得NIPS攻防赛3项冠军的绝招在这里！

本文介绍了如何用对抗样本修改图片，误导神经网络指鹿为马；对NIPS2017神经网络对抗攻防赛3项冠军清华团队的算法模型进行了解读。
weixin_34054866·2023-01-12 08:07

华为开源自研AI框架昇思MindSpore应用实践：FGSM网络对抗攻击

目录一、环境准备1.进入ModelArts官网2.使用CodeLab体验Notebook实例二、对抗样本定义三、攻击方法快速梯度符号攻击（FGSM）四、数据处理五、训练LeNet网络六、实现FGSM七、
Yeats_Liao·2023-01-12 08:36

神经网络太好骗？清华团队如何做到打NIPS攻防赛得3冠军的

文章介绍了如何用对抗样本修改图片，误导神经网络指鹿为马；对NIPS2017神经网络对抗攻防赛3项冠军清华团队的算法模型进行了解读。
csdn人工智能头条·2023-01-12 08:36

Python记录 tensor求梯度时为None的错误

今天学习对抗样本，需要对tensor求梯度，x1,x2,label=datax1.requires_grad=Truex2.requires_grad=Trueifuse_gpu:x1=x1.cuda(
鲤鱼江·2023-01-10 07:36

[paper]Distillation as a Defense to Adversarial Perturbations against Deep Neural Networks

本文提出了一个防御算法，在不改变深度神经网络的结构并且在尽可能小的影响模型准确率的前提下能够有效地抵御对抗样本的攻击。
ch1762·2023-01-05 16:55

亚马逊出品：非均匀扰动的对抗鲁棒性理论分析

©PaperWeekly原创·作者｜孙裕道学校｜北京邮电大学博士生研究方向｜GAN图像生成、情绪对抗样本生成引言该论文是关于对抗训练的理论性的文章。
PaperWeekly·2023-01-03 13:22

BERT模型—6.对抗训练原理与代码实现

文章目录引言一、对抗训练一般原理1.对抗样本二、对抗训练的经典算法三、对抗训练代码实现1.FGM2.PGD引言  对抗训练对于NLP来说，是一种非常好的上分利器，所以，非常有必要加深对对抗训练的认识。
哎呦-_-不错·2023-01-02 13:07
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他