black-box

【论文阅读】GLiRA: Black-Box Membership Inference Attack via Knowledge Distillation

摘要While（虽然）DeepNeuralNetworks(DNNs)havedemonstratedremarkableperformanceintasksrelatedtoperception（感知）andcontrol（控制）,therearestillseveralunresolvedconcerns（未解决的问题）regardingtheprivacyoftheirtrainingdat

Bosenya12·2024-08-24 16:35

翻译IoUAttack:Towards Temporally Coherent Black-Box Adversarial Attack for Visual Object Tracking

IoUAttack:TowardsTemporallyCoherentBlack-BoxAdversarialAttackforVisualObjectTrackingIoUAttack:面向视觉目标跟踪的时间相干黑盒对抗攻击ShuaiJia1YibingSong2ChaoMa1*XiaokangYang11MoEKeyLabofArtificialIntelligence,AIInstitute

姜子·2024-01-22 10:43

KG+LLM(一)KnowGPT: Black-Box Knowledge Injection for Large Language Models

论文链接：2023.12-https://arxiv.org/pdf/2312.06185.pdf1.Background&Motivation目前生成式的语言模型，如ChatGPT等在通用领域获得了巨大的成功，但在专业领域，由于缺乏相关事实性知识，LLM往往会产生不准确的回复（即幻觉）。许多研究人员企图通过外部知识注入提高LLM在专业领域的表现，但许多最先进的llm都不是开源的，这使得仅向模型a

wavehaha·2023-12-31 00:37

Adaptive History-driven Attack for Decision-based Black-box Models

AHA!基于决策的黑盒模型的自适应历史驱动攻击Aha!AdaptiveHistory-drivenAttackforDecision-basedBlack-boxModelsABSTRACT基于决策的黑盒攻击指的是只使用受害者模型的前1个标签来制作对抗示例。一种常见的做法是从一个大的扰动开始，然后用一个确定的方向和一个随机的方向迭代地减少它，同时保持它的对抗性。从每个查询中获得的有限信息和低效的方

程序媛堆堆·2023-11-05 05:21

测试术语

Non-Execution-Based Testing或Static testing 动态测试：Execution-Based Testing 白盒测试：White-Box Testing黑盒测试：Black-Box

龙翱天际·2023-10-28 04:28

论文解读：Black-Box Tuning for Language-Model-as-a-Service

核心要点：诸如GPT-3等大预训练语言模型（PLM）以服务的形式发布。允许用户设计特定于任务的提示(TaskspecifiedPrompt)，并通过黑盒API查询PLM。将这种不能访问梯度参数，只能通过推理API查询模型推理结果的场景称为LMaaS（LanguageModelasaService）本文在此场景下提出了一种黑盒优化框架，通过无导数优化来优化输入文本前的连续提示。大型PLM的低固有维数

RittoQin·2023-10-26 07:41

论文阅读之Black-box Adversarial Example Attack towards FCG

目录1Introduction2Preliminaries2.1FeaturesforAndroidmalwaredetection2.2FCGbasedAndroidmalwaredetection3Problemformulation3.1System&Threat3.2Attackformulation4Malwaremanipulation4.1Backgroundofmalwareman

Gubanzeng·2023-10-19 02:50

论文阅读 (100)：Simple Black-box Adversarial Attacks (2019ICML)

文章目录1概述1.1要点1.2代码1.3引用2背景2.1目标与非目标攻击2.2最小化损失2.3白盒威胁模型2.4黑盒威胁模型3简单黑盒攻击3.1算法3.2Cartesian基3.3离散余弦基3.4一般基3.5学习率ϵ\epsilonϵ3.6预算1概述1.1要点题目：简单黑盒对抗攻击(Simpleblack-boxadversarialattacks)策略：提出了一个在黑盒设置下构建对抗图像的简单方

因吉·2023-09-12 17:42

Understanding Black-box Predictions via Influence Functions阅读笔记

UnderstandingBlack-boxPredictionsviaInfluenceFunctions阅读笔记1.案例1----理解模型行为2.案例2----生成对抗训练样本3.案例3----调试域不匹配4.案例4----修正错误标注参考1.案例1----理解模型行为通过告诉我们对一个给定的预测“负责”的训练点，影响函数揭示了关于模型如何依赖训练数据和从训练数据中推断的见解。在本节中，我

喝过期的拉菲·2023-08-31 02:52

《Understanding Black-box Predictions via Influence Functions》笔记

[1]通过升权（§2.1\S2.1§2.1）、扰动（§2.2\S2.2§2.2）两种方式研究某个trainingpointz=(x,y)z=(x,y)z=(x,y)对（优化后的）模型参数θ^\hat\thetaθ^、模型在某个testpointztest=(xtest,ytest)z_\text{test}=(x_\text{test},y_\text{test})ztest=(xtest,yte

HackerTom·2023-08-30 09:01

论文阅读——Sparse-RS: a Versatile Framework for Query-Efficient Sparse Black-Box Adversarial Attacks

Sparse-RS:aVersatileFrameworkforQuery-EfficientSparseBlack-BoxAdversarialAttacks作者：FrancescoCroce,MaksymAndriushchenko等代码：https://github.com/fra31/sparse-rs攻击类别：patch、可见、稀疏可见、黑盒、目标攻击(targeted)+非目标攻击（u

小菜鸟的进阶史·2023-08-15 08:40

论文阅读——Adversarial Eigen Attack on Black-Box Models

AdversarialEigenAttackonBlack-BoxModels作者：LinjunZhou，LinjunZhou攻击类别：黑盒（基于梯度信息），白盒模型的预训练模型可获得，但训练数据和微调预训练模型的数据不可得（这意味着模型的网络结构和参数信息可以获得）、目标攻击+非目标攻击白盒+黑盒组合使用，白盒利用了中间表示，黑盒利用了输出得分。疑问Q1:基于梯度信息生成对抗样本，如何保证迁移能

小菜鸟的进阶史·2023-08-15 08:08

INSTRUCTZERO: EFFICIENT INSTRUCTION OPTIMIZATION FOR BLACK-BOX LARGE LANGUAGE MODELS

INSTRUCTZERO:EFFICIENTINSTRUCTIONOPTIMIZATIONFORBLACK-BOXLARGELANGUAGEMODELS原文链接ChenL,ChenJ,GoldsteinT,etal.InstructZero:EfficientInstructionOptimizationforBlack-BoxLargeLanguageModels[J].arXivpreprin

ShadyPi·2023-08-04 19:29

[ICML2023] PromptBoosting: Black-Box Text Classification with Ten Forward Passes

PromptBoosting:Black-BoxTextClassificationwithTenForwardPasses原文链接HouB,O’connorJ,AndreasJ,etal.Promptboosting:Black-boxtextclassificationwithtenforwardpasses[C]//InternationalConferenceonMachineLearni

ShadyPi·2023-07-28 20:06

超参数黑盒（Black-box）优化的Python代码示例

在机器学习中，超参数是用于控制机器学习模型的学习过程的参数。为了与从数据中学到的机器学习模型参数区分开，所以称其为超参数。超参数的配置决定了机器学习模型的性能，每组独特的超参数集可以对应一个学习后的机器学习模型。对于大多数最先进的机器学习模型，所有可能的超参数组合的集合可能会很大。大多数机器学习模型软件包的默认参数值都经过了一些特别的调整优化，可实现不错的基线性能。这意味着可以直接使用，但这些如果

·2023-06-15 10:26

【论文阅读】REPLUG: Retrieval-Augmented Black-Box Language Models

文章目录前言REPLUGREPLUGLSR:TrainingtheDenseRetrieverComputingRetrievalLikelihoodComputingLMlikelihood前言原文地址：REPLUG:Retrieval-AugmentedBlack-BoxLanguageModels本文提出REPLUG，一个将语言模型视为黑盒检索增强的语言模型架构。在REPLUG中，仅将检索得

长命百岁️·2023-06-10 04:01

【黑盒攻击笔记】2019贝叶斯优化攻击样本BLACK-BOX ADVERSARIAL ATTACK WITH TRANSFERABLE MODEL-BASED EMBEDDING

0.基础知识贝叶斯优化：叶斯优化介绍1.Introduction①背景：当前的decision-basedattack（黑盒攻击）多基于梯度，因此容易陷入局部最优基于概率：计算量大；全局最优→更适用低维基于梯度：计算量小；局部最优→更适用高维②贡献：a.实验证明①b.基于贝叶斯优化和逐次对半，找到更小对抗且减少计算量2.Algorithm①decision-basedattack对初始化更敏感（更

少年芒果君·2023-03-30 03:34

MemGuard: Defending against Black-Box Membership Inference Attacks via Adversarial Examples

[CCS'19]MemGuard:DefendingagainstBlack-BoxMembershipInferenceAttacksviaAdversarialExamplesKeywords:MembershipInferenceAttack,AdversarialExampleTakeaways:ThispaperproposedafancyideaofdefendingMIAattack

已迁移到CSDN·2023-03-27 06:55

Black-Box Attacks on Sequential Recommenders via Data-Free ModelExtraction

摘要我们研究了模型提取是否可以用来“窃取”顺序推荐系统的权值，以及对此类攻击的受害者构成的潜在威胁。这种风险在图像和文本分类中引起了关注，但据我们所知，在推荐系统中却没有。我们认为，序列推荐系统由于特定的自回归机制，受到独特的弱点。（自回归预测法（Autoregression,AR）是指，利用预测目标的历史时间数列在不同时期取值之间存在的依存关系(即自身相关)，建立起回归方程进行预测。具体说，就是

qq_43532928·2023-02-06 18:16

论文笔记——通过影响函数理解黑盒预测（Understanding Black-box Predictions via Influence Functions）

论文——UnderstandingBlack-boxPredictionsviaInfluenceFunctions1.介绍2.方法一些定义2.1增重一个训练点2.2干扰一个训练输入1.介绍《UnderstandingBlack-boxPredictionsviaInfluenceFunctions》这篇paper是来自2017年的ICMLbestpaper的，其背景在摘要部分已经写明，即为了解释

wei22134·2023-01-30 21:06

深度学习可解释性研究（二）： Understanding Black-box Predictions via Influence Functions（详细公式推导）

该文章从鲁棒性的角度出发，对深度学习模型的可解释性进行分析，这应该是我目前为止读过最难的一篇文章，有很多公式需要推导理解，有很多细节需要慢慢品味，但文章确实是难得一见的好文章，我会尽可能把我自己的理解写清楚，把公式写明白，但有些地方确实超出我目前的能力范围，可能理解有误，欢迎指出。假如说，现在我们做了一个图像分类模型，我们在训练集中挑选一个训练样本，添加一些扰动（在这里就是对图像增加噪声，如果是N

JessssseYule·2023-01-30 21:02

Enhancing Cross-task 对抗Black-Box迁移 with Dispersion Reduction

亮点：①不需要目标模型的任何访问信息就可以攻击。②攻击方法可以跨任务：同一张图，生成的攻击对象适用于各种CV检测。更加符合实际。核心思想：CV大类的检测网络，往往都是捕捉特征进行判断。因此文章近似把深度网络分成俩部分：特征捕捉+仿射变换：①特征捕捉是捕捉图片的底层特征，文中的思想是各个网络捕捉到的可能都差不多（捕捉到的特征为向量a）。②仿射变换（=W*a）为分类信息，各个网络差异很大。其中W可以看

少年芒果君·2023-01-29 21:52

《Ensemble adversarial black-box attacks against deep learning systems》笔记

本文目录摘要基于集成的黑盒攻击方法SCESSPES分析总结摘要本文提出了两种基于集成的黑盒攻击策略，分别是selectivecascadeensemblestrategy(SCES，不知道怎么翻起来信达雅)和stackparallelensemblestrategy(SPES，不知道怎么翻起来信达雅)。基于集成的黑盒攻击方法本文提出的两种方法都是基于集成的，SCES方法可以理解为串联方法，而SPE

孤山大姐姐·2023-01-26 15:38

自动网络搜索（NAS）在语义分割上的应用（一）

正因如此，深度神经网络总被诟病为black-box，因为hyparameter是基于实验求得而并非通过严谨的数学推导。

lll423·2023-01-04 18:47

可解释的机器学习(XML)概览

但是，这些模型有一个共同的特点：它们的内部结构非常复杂，其运作机制就像一个黑盒（Black-Box），难以用人类可以理解的语言去描述整个推理过程，模型的输出结果也难以被解释（为什么是这个结果？）。

zhfplay·2022-12-28 08:51

【迁移攻击笔记】Curls & Whey: Boosting Black-Box Adversarial Attacks

核心思想：①Curls迭代：梯度下降/上升方向+二分法优化+varience-reduced优化其中，（12）记录先前的对抗以对当前方向产生影响：（15）为二分法，比较简单：②Whey优化：将Curls找出的最优对抗样本中的元素按大小排列，逐一减半观察效果，不变保留操作否则放弃操作：③实验结果

少年芒果君·2022-12-27 09:34

Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution

这项工作研究了针对深度神经网络(DNN)的黑盒对抗性攻击，其中攻击者只能访问被攻击的DNN模型返回的查询反馈，而模型参数或训练数据集等其他信息是未知的。提高攻击性能的一种有前途的方法是利用一些白盒代理模型和目标模型（即被攻击模型）之间的对抗性可迁移性。然而，由于代理模型和目标模型之间的模型架构和训练数据集可能存在差异，被称为“代理偏差”，对抗性可迁移性对提高攻击性能的贡献可能会被削弱。为了解决这个

你今天论文了吗·2022-12-27 09:03

后门防御阅读笔记，Black-box Detection of Backdoor Attacks with Limited Information and Data

论文标题：Black-boxDetectionofBackdoorAttackswithLimitedInformationandData论文单位：THBILab,TsinghuaUniversity,Beijing论文作者：YinpengDong,XiaoYang,JunZhu收录会议：ICCV2021开源代码：未开源有限信息和数据的条件下对后门攻击的黑盒检测（防御）简单总结第一个在计算逆向触发

wujiekd·2022-12-23 18:17

论文复现-2代码研读：Black-Box Tuning for Language-Model-as-a-Service

第一步：将作者所给代码跑通。下载代码，放置在本地文件夹。报错问题一：使用huggingface中loaddataset函数报错。显示connecterror。修改如下：将数据集下载文件.py文件在本地，然后从.py文件中加载数据集。解决方式参考：https://blog.csdn.net/weixin_49346755/article/details/125284869#:~:text=load_

QianTu&·2022-12-20 12:01

论文复现-1论文重读：Black-Box Tuning for Language-Model-as-a-Service

论文核心：使用PLM的API进而完成promptlearning，微调完成任务。具体来说，是采用连续prompts拼接在input_text之后，然后，通过derivative-free的框架，完成任务。一、背景（Introduction）大前提：由于商业原因等，大模型的参数是不会公开的。其次，微调一个大模型是比较昂贵的。但是一般大模型会开放API端口，供users使用。这种情形称为：“Langu

QianTu&·2022-12-20 12:31

Attacking Black-box Recommendations viaCopying Cross-domain User Profiles

qq_43532928·2022-12-07 06:58

Black-box Prompt Learning for Pre-trained Language Models

论文链接https://arxiv.org/pdf/2201.08531.pdfAbstract近年来，针对大型预训练模型的特定领域微调策略受到了广泛关注。在之前研究的设置中，模型架构和参数是可调的，或者至少是可见的，我们称之为白盒设置。这项工作考虑了一个新的场景，在这个场景中，除了给定输入的输出，我们无法访问预先训练的模型，我们称这个问题为黑盒微调。为了说明我们的方法，我们首先在文本分类中正式引

偷懒不学习·2022-12-03 00:06

Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

AutoZOOM:Autoencoder-basedZerothOrderOptimizationMethodforAttackingBlack-boxNeuralNetworksAbstract最近的研究表明，当目标模型被称为白盒设置（whiteboxsetting）时，由深度神经网络（DNN）训练的最先进图像分类器中的对抗样本可以很容易地生成。然而，当攻击已部署的机器学习服务时，只能获取目标模

ywq9696·2022-12-01 12:08

AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

AutoZOOM:Autoencoder-basedZerothOrderOptimizationMethodforAttackingBlack-boxNeuralNetworksAbstract最近的研究表明，当目标模型被称为白盒设置（whiteboxsetting）时，由深度神经网络（DNN）训练的最先进图像分类器中的对抗样本可以很容易地生成。然而，当攻击已部署的机器学习服务时，只能获取目标模

hunt_chen·2022-12-01 11:34

对抗样本之黑箱对抗：Practical Black-Box Attacks Against Machine Learning

前言看到篇paper，提供了一个极其厉害的生成对抗样本的黑箱攻击方式，之前的对抗攻击必须要知道受攻击模型的详细信息（包括模型结构参数，训练样本集等），但是本文所要分享的方法，是完全不需要知道这些信息的，只需要可以接触到受攻击模型的判别label即可完成对抗攻击。多么神奇而牛气哄哄的方法，让我们一块膜拜下这篇文章，看看为什么会有效。攻击的限制面对的问题：在不知道受攻击模型的网络结构，参数设置，以及训

于建民·2022-11-29 07:38

white/black-box attack(黑盒白盒攻击基础)

基本概念攻击方法分类标准：假正性攻击(falsepositive)与伪负性攻击(falsenegative)假正性攻击：原本是错误的但被被攻击模型识别为正例的攻击(eg:一张人类不可识别的图像，被DNN以高置信度分类为某一类)；伪负性攻击：原本应该被正常识别但被被攻击模型识别错误的攻击(eg:原本能够被正确的样本，在遭到对抗攻击后，被攻击模型无法对其正确分类)。ps:我现在做的遇到的大部分攻击算法

pinn山里娃·2022-11-29 07:37

DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS 论文解读

Abstract这篇文章中我们介绍了BoundaryAttack,adecision-basedattackthatstartsfromalargeadversarialperturbationandthenseekstoreducetheperturbationwhilestayingadversarial。这种攻击在概念上十分简单，requiresclosetonohyperparameter

你回到了你的家·2022-11-29 07:58

【生成对抗样本】Simple Black-Box Adversarial Attacks on Deep Neural Networks

对深度神经网络的简单黑盒对抗性攻击作者：NarodytskaN，KasiviswanathanS2017年发表在IEEEComputerSocietyConferenceonComputerVisionandPatternRecognitionWorkshops主要内容深度神经网络容易受到精心设计的对抗性干扰，这会导致输入的错误分类。在本文中，我们专注于深度卷积神经网络，并证明即使没有目标网络的任

Shall_ByeBye·2022-11-29 07:27

Simple Black-box Adversarial Attacks

Abstract我们提出了一种有趣的简单方法，用于在黑盒环境中构建对抗性图像。与白盒场景相比，构建黑盒对抗图像对查询预算有额外的限制，而有效的攻击至今仍是一个悬而未决的问题。仅在连续值置信分数的温和假设下，我们的高效查询算法利用了以下简单的迭代原理：我们从预定义的正交基中随机采样向量，并将其添加或减去到目标图像中。尽管简单，但所提出的方法既可以用于无目标攻击，也可以用于有目标攻击，这在两种设置中都

偷懒不学习·2022-11-29 07:23

论文笔记：Delving into Data: Effectively Substitute Training for Black-box Attack

论文笔记：DelvingintoData:EffectivelySubstituteTrainingforBlack-boxAttack主要内容本篇论文主要介绍了一种替代模型的训练方法：文章从一个新的角度来进行替代模型的训练，专注于设计“模型知识窃取”过程中的数据分布，具体来说就是提出了一种宽的分布内大规模合成数据的多样化数据生成模块(Diversedatagenerationmodule)，同时

qq_42105814·2022-11-23 13:07

【论文笔记】DELVING INTO TRANSFERABLE ADVERSARIAL EXAMPLES AND BLACK-BOX ATTACKS

【摘要】深层神经网络的一个有趣的特性是存在对抗性样本，它可以在不同的体系结构之间进行转换。这些可转移的通用示例可能严重阻碍基于神经网络的深层次应用。以往的工作主要是利用小规模数据集来研究可移植性。在这项工作中，我们首先对大模型和大规模数据集的可转移性进行了广泛的研究，而且我们也是第一个研究目标敌方示例及其目标标签的可转移性的。我们研究了非针对性和针对性的对抗性例子，并表明虽然可转移的非目标性对抗性

kaguya1004·2022-11-23 13:04

【对抗攻击论文笔记】对抗迁移性：Delving Into Transferable Adversarial Examples And Black-Box Attacks

文章目录论文概述ideamethod详细内容摘要1.介绍2对抗深度学习和可迁移性2.1对抗深度学习问题2.2对抗样本生成的方法2.3评估方法3.非定向对抗样本3.1基于优化3.2基于FGSM4.定向对抗样本5.集成的方法6.几何特征论文概述发表于ICLR2017，论文地址：https://arxiv.org/pdf/1611.02770——深入研究可迁移的对抗样本和黑盒攻击idea迁移性是指一个模

nanyidev·2022-11-23 13:03

LocalSolver快速入门指南（连载三十七) --Black-Box Optimization黑盒优化(概述)

谨慎！如果该函数的计算成本不高并且可以在求解过程中进行数千次评估，那么使用黑盒函数可能不是最佳选择。考虑使用LocalSolver的外部函数.注意：请注意，此功能在LSP语言中不可用注意：此功能当前不支持集合变量。在本节中，我们将详细介绍如何在LocalSolver支持的每种编程语言（C++、Java、.NET、Python）中优化黑盒函数。为了说明这个描述，我们将通过一个黑盒界面来最小化Bran

流水潺潺行云不语·2022-11-21 12:59

Python 机器学习 | 超参数优化黑盒（Black-Box）非凸优化技术实践

文章目录一、关键原理二、Python实践CSDN叶庭云：https://yetingyun.blog.csdn.net/一、关键原理为什么要做超参数优化？机器学习建模预测时，超参数是用于控制机器学习模型学习过程的参数。为了与从数据中学到的机器学习模型参数区分开，所以称其为超参数。超参数的配置通常决定了机器学习模型的最终性能，每组独特的超参数集将对应一个学习后的机器学习模型。对于一些先进的机器学习模

叶庭云·2022-11-21 12:23

Towards Efficient Data Free Black-box Adversarial Attack

本文考虑到了更实际的问题，主要针对一个无法访问真实数据和查询目标模型预算有限的黑箱模型。由高效的生成器和替代蒸馏模型两部分组成。该方法可以通过少量的查询有效地模拟目标模型，在基于概率和基于标签的黑盒设置下，都能获得较高的成功率。主要贡献：本文改变了生成器和替代模型之间的博弈，而不是用不用准确的替代目标不一致性来训练生成器，对于生成器将其目标设定为合成分布接近目标训练数据集的代理数据集，替代模型的目

你今天论文了吗·2022-11-20 19:39

Efficient Decision-based Black-box Adversarial Attacks on Face Recognition论文解读

近年来，人脸识别取得了飞速的发展，广泛应用于各种场景，但现实中，系统遭到攻击往往是不确定性的，如何增加系统的对抗性，提高鲁棒性是研究的重点。当前，对抗性攻击可以针对深度神经网络模型的“弱点”进行优化，提高鲁棒性。只是目前被熟知的大多是白盒攻击，真正接近现实场景的黑盒攻击鲜被关注。EfficientDecision-basedBlack-boxAdversarialAttacksonFaceReco

AlbertHUBU·2022-11-20 01:07

Efficient Decision-based Black-box Adversarial Attacks on Face Recognition

EfficientDecision-basedBlack-boxAdversarialAttacksonFaceRecognition基于决策的人脸识别黑箱对抗攻击算法Abstract近年来，由于深度卷积神经网络（CNN）的巨大改进，人脸识别取得了显着进展。然而，深度CNN容易受到对抗性示例的影响，这可能会在具有安全敏感目的的现实世界人脸识别应用程序中造成致命的后果。对抗性攻击被广泛研究，因为它们

一位美女程序员·2022-11-20 01:37

Simulating Unknown Target Models for Query-Efficient Black-box Attacks

SimulatingUnknownTargetModelsforQuery-EfficientBlack-boxAttacks针对查询效率黑盒攻击的未知目标模型模拟https://github.com/machanic/SimulatorAttackabstract为了研究深度神经网络的安全问题，已经提出了许多对抗性攻击方法。在黑箱设置下，当前模型窃取攻击训练一个替代模型来伪造目标模型的功能。然而

一位美女程序员·2022-10-03 07:30

超参数黑盒（Black-box）优化的Python代码示例

在机器学习中，超参数是用于控制机器学习模型的学习过程的参数。为了与从数据中学到的机器学习模型参数区分开，所以称其为超参数。超参数的配置决定了机器学习模型的性能，每组独特的超参数集可以对应一个学习后的机器学习模型。对于大多数最先进的机器学习模型，所有可能的超参数组合的集合可能会很大。大多数机器学习模型软件包的默认参数值都经过了一些特别的调整优化，可实现不错的基线性能。这意味着可以直接使用，但这些如果

·2022-08-17 12:13

[论文笔记]Delving into Transferable Adversarial Examples and Black-box Attacks(ICLR2017)

这篇文章的主要成果：1.提出了一种集合方法来生成对抗样本（感觉并不是本文的主要贡献，也不是特别有新意，就是把集合思想融入进了对抗样本）2.正如论文的标题，作者深入分析了对抗样本的迁移性，并做了几何特性的分析，得出了一些比较有意思、且有点反直觉的结论。（几何部分真的太难懂了，人都看晕了）注：这篇笔记中，蓝框里的是我对原文的一个简单的翻译，其余部分是我对文章的一些小的总结。目录0摘要1简介2对抗深度学

WhyNot_Zero·2022-05-29 07:11

推荐频道

black-box

【论文阅读】GLiRA: Black-Box Membership Inference Attack via Knowledge Distillation

翻译IoUAttack:Towards Temporally Coherent Black-Box Adversarial Attack for Visual Object Tracking

KG+LLM(一)KnowGPT: Black-Box Knowledge Injection for Large Language Models

Adaptive History-driven Attack for Decision-based Black-box Models

测试术语

论文解读：Black-Box Tuning for Language-Model-as-a-Service

论文阅读之Black-box Adversarial Example Attack towards FCG

论文阅读 (100)：Simple Black-box Adversarial Attacks (2019ICML)

Understanding Black-box Predictions via Influence Functions阅读笔记

《Understanding Black-box Predictions via Influence Functions》笔记

论文阅读——Sparse-RS: a Versatile Framework for Query-Efficient Sparse Black-Box Adversarial Attacks

论文阅读——Adversarial Eigen Attack on Black-Box Models

INSTRUCTZERO: EFFICIENT INSTRUCTION OPTIMIZATION FOR BLACK-BOX LARGE LANGUAGE MODELS

[ICML2023] PromptBoosting: Black-Box Text Classification with Ten Forward Passes

超参数黑盒（Black-box）优化的Python代码示例

【论文阅读】REPLUG: Retrieval-Augmented Black-Box Language Models

【黑盒攻击笔记】2019贝叶斯优化攻击样本BLACK-BOX ADVERSARIAL ATTACK WITH TRANSFERABLE MODEL-BASED EMBEDDING

MemGuard: Defending against Black-Box Membership Inference Attacks via Adversarial Examples

Black-Box Attacks on Sequential Recommenders via Data-Free ModelExtraction

论文笔记——通过影响函数理解黑盒预测（Understanding Black-box Predictions via Influence Functions）

深度学习可解释性研究（二）： Understanding Black-box Predictions via Influence Functions（详细公式推导）

Enhancing Cross-task 对抗Black-Box迁移 with Dispersion Reduction

《Ensemble adversarial black-box attacks against deep learning systems》笔记

自动网络搜索（NAS）在语义分割上的应用（一）

可解释的机器学习(XML)概览

【迁移攻击笔记】Curls & Whey: Boosting Black-Box Adversarial Attacks

Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution

后门防御阅读笔记，Black-box Detection of Backdoor Attacks with Limited Information and Data

论文复现-2代码研读：Black-Box Tuning for Language-Model-as-a-Service

论文复现-1论文重读：Black-Box Tuning for Language-Model-as-a-Service

Attacking Black-box Recommendations viaCopying Cross-domain User Profiles

Black-box Prompt Learning for Pre-trained Language Models

Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

对抗样本之黑箱对抗：Practical Black-Box Attacks Against Machine Learning

white/black-box attack(黑盒白盒攻击基础)

DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS 论文解读

【生成对抗样本】Simple Black-Box Adversarial Attacks on Deep Neural Networks

Simple Black-box Adversarial Attacks

论文笔记：Delving into Data: Effectively Substitute Training for Black-box Attack

【论文笔记】DELVING INTO TRANSFERABLE ADVERSARIAL EXAMPLES AND BLACK-BOX ATTACKS

【对抗攻击论文笔记】对抗迁移性：Delving Into Transferable Adversarial Examples And Black-Box Attacks

LocalSolver快速入门指南（连载三十七) --Black-Box Optimization黑盒优化(概述)

Python 机器学习 | 超参数优化 黑盒（Black-Box）非凸优化技术实践

Towards Efficient Data Free Black-box Adversarial Attack

Efficient Decision-based Black-box Adversarial Attacks on Face Recognition论文解读

Efficient Decision-based Black-box Adversarial Attacks on Face Recognition

Simulating Unknown Target Models for Query-Efficient Black-box Attacks

超参数黑盒（Black-box）优化的Python代码示例

[论文笔记]Delving into Transferable Adversarial Examples and Black-box Attacks(ICLR2017)

Python 机器学习 | 超参数优化黑盒（Black-Box）非凸优化技术实践