robustness

深度学习速通系列:鲁棒性和稳定性

鲁棒性（Robustness）定义：鲁棒性指的是模型对于输入数据的扰动、噪声、异常值或对抗性攻击的抵抗能力。一个鲁棒的模型能够在面对这些不利因素时保持其性能。

Ven%·2024-09-09 21:21

网络安全: 模型的脆弱性，鲁棒性和隐私性

鲁棒性（Robustness）：指模型抵御攻击和在恶劣环境下保持性能的能力。提高模型的鲁棒性是增强其抵御攻击能力的关键。隐私性（Privacy）：指保护模型或其训练数据免受信息泄露的能力。

不当菜鸡的程序媛·2024-08-22 16:30

CVPR 2023: Revisiting Residual Networks for Adversarial Robustness

我们使用以下6个分类标准对本文的研究选题进行分析：基于MECE原则，以及您提供的论文摘要，以下是对抗鲁棒性研究的六个分类标准：1.提高鲁棒性的重点：对抗训练方法:针对现有架构开发新的对抗训练算法/策略。架构设计:修改网络结构、组件或缩放方式，以获得固有的鲁棒性。2.架构修改级别:块级:更改网络内单个构建块的设计（例如，残差块）。网络缩放:更改网络的深度、宽度和其他宏观缩放参数。3.设计方法:经验实

结构化文摘·2024-02-20 16:17

深度学习中的鲁棒性和泛化性有什么区别

鲁棒性（Robustness）和泛化性（Generalization）是评估模型性能时常用的两个术语，尤其在机器学习和统计建模领域。虽然这两个概念相关，但它们关注的方面有所不同。

智能建造小硕·2024-02-20 01:24

Benchmarking Robustness in Object Detection: Autonomous Driving when Winter is Coming

评判现有物体检测算法在自动驾驶领域是否可行。结论如下：最好的算法在图像被污染的情况下，检测率下降严重，最少31%，最多64+%大容量模型相比小容量模型更具鲁棒性训练时添加用风格转移算法处理后的图片，能显著提高模型的鲁棒性noise.pngperform.pngstyle.pngpapergithub风格化github

Cat丹·2024-01-29 20:49

【格密码基础】：补充LWE问题

目录一.LWE问题的鲁棒性二.LWE其他分布选择三.推荐文献四.附密码学人心中的顶会一.LWE问题的鲁棒性robustness，翻译为鲁棒性已有的论文表明，及时敌手获取到部分关于秘密和error的信息，

唠嗑！·2024-01-28 11:23

论文评论：Chain-of-Note：增强检索增强语言模型的鲁棒性

英文原文地址：https://artgor.medium.com/paper-review-chain-of-note-enhancing-robustness-in-retrieval-augmented-language-models

lichunericli·2024-01-21 09:04

ART-Adversarial Robustness Toolbox检测AI模型及对抗攻击的工具

一、工具简介AdversarialRobustnessToolbox是IBM研究团队开源的用于检测模型及对抗攻击的工具箱，为开发人员加强AI模型被误导的防御性，让AI系统变得更加安全，ART支持所有流行的机器学习框架（TensorFlow，Keras，PyTorch，MXNet，scikit-learn，XGBoost，LightGBM，CatBoost，GPy等），所有数据类型（图像，表格，音频

Rnan-prince·2024-01-15 15:15

On the Robustness of Backdoor-based Watermarkingin Deep Neural Networks

关于深度神经网络中基于后门的数字水印的鲁棒性ABSTRACT在过去的几年中，数字水印算法已被引入，用于保护深度学习模型免受未经授权的重新分发。我们调查了最新深度神经网络水印方案的鲁棒性和可靠性。我们专注于基于后门的水印技术，并提出了两种简单而有效的攻击方法-一种是黑盒攻击，另一种是白盒攻击-可以在没有来自地面真相的标记数据的情况下去除这些水印。我们的黑盒攻击通过仅通过API访问标签窃取模型并移除水

暗紫色的乔松(-_^)·2024-01-15 05:48

【每日论文阅读】Do Perceptually Aligned Gradients Imply Robustness?

近似人眼梯度https://icml.cc/virtual/2023/oral/25482对抗性鲁棒分类器具有非鲁棒模型所没有的特征——感知对齐梯度（PAG）。它们相对于输入的梯度与人类的感知非常一致。一些研究已将PAG确定为稳健训练的副产品，但没有一篇研究将其视为一种独立现象，也没有研究其自身的影响。在这项工作中，我们关注这一特征并测试感知对齐梯度是否意味着鲁棒性。为此，我们制定了一个新的目标，

prinTao·2024-01-08 15:16

NLP论文阅读记录-ACL 2023 | Improving the Robustness of Summarization Systems with Dual Augmentation

文章目录前言一、论文摘要二、论文动机2.1目标问题2.2相关工作三.本文工作3.1摘要攻击器受攻击的词选择器使用LM和梯度进行攻击3.2双重增强漏洞分析增强设计输入空间增强潜在语义空间增强四实验效果4.1数据集4.2对比模型4.3实施细节4.4评估指标4.5实验结果SummAttackerEvaluationRobustnessEvaluation噪声数据集的鲁棒性。受对抗性攻击干扰的数据集的鲁棒

yuyuyu_xxx·2023-12-20 18:13

软件测试之鲁棒性测试

二、鲁棒性测试的目的三、测试原理3.1错误数据处理3.2异常情况处理前言Bootloader软件刷写鲁棒性(Robustness)测试是指对Bootloader软件进行连续多次的刷写测试，且一次Fail

诊断协议那些事儿·2023-12-17 21:54

Center Smoothing Certified Robustness for Networks with Structured Outputs

文章目录CenterSmoothing:CertifiedRobustnessforNetworkswithStructuredOutputsSummaryResearchObjectiveProblemStatementMethodsEvaluationConclusionNotesGaussianSmoothing常用希腊字母霍夫丁不等式（Hoeffding'sinequality）1.简述2

梦码城·2023-11-14 18:38

Interactive Analysis of CNN Robustness

InteractiveAnalysisofCNNRobustness----《CNN鲁棒性的交互分析》摘要虽然卷积神经网络（CNN）作为图像相关任务的最先进模型被广泛采用，但它们的预测往往对小的输入扰动高度敏感，而人类视觉对此具有鲁棒性。本文介绍了Pertuber，这是一个基于Web的应用程序，允许用户即时探索当3D输入场景受到交互式扰动时CNN激活和预测如何演变。Pertuber提供了各种各

今我来思雨霏霏_JYF·2023-11-12 12:49

【已解决】RuntimeError: “nll_loss_forward_reduce_cuda_kernel_2d_index“ not implemented for ‘Float‘

问题描述最近在复现Watermark-Robustness-Toolbox的时候出现了一些问题，并通过不懈的努力（不是）把这个给完美的跑起来了，这很“完美”。

鳗小鱼·2023-11-12 10:09

【论文阅读笔】TEAR: Exploring Temporal Evolution of Adversarial Robustness for Membership Inference Attacks

个人阅读笔记，如有错误欢迎指出！TEAR:ExploringTemporalEvolutionofAdversarialRobustnessforMembershipInferenceAttacksAgainstFederatedLearningTEAR:ExploringTemporalEvolutionofAdversarialRobustnessforMembershipInferenceA

MiaZX·2023-11-11 22:24

【Adversarial Robustness Toolbox (ART)】对抗性防御工具

对抗性鲁棒性工具集ART用于机器学习安全性的Python库。ART由LinuxFoundationAI&DataFoundation(LFAI&Data)。ART提供的工具可帮助开发人员和研究人员针对以下方面捍卫和评估机器学习模型和应用程序：逃逸，数据污染，模型提取和推断的对抗性威胁。ART支持所有流行的机器学习框架（TensorFlow，Keras，PyTorch，MXNet，scikit-le

prinTao·2023-11-11 01:38

It Is All About Data: A Survey on the Efects of Data on Adversarial Robustness

ItIsAllAboutData:ASurveyontheEffectsofDataonAdversarialRobustness----《这一切都关乎数据：关于数据对对抗性鲁棒性影响的调查》摘要对抗性示例是攻击者故意设计的机器学习模型的输入，目的是迷惑模型，使其犯错误。这些例子对基于机器学习的系统的适用性构成了严重威胁，特别是在生命和安全关键领域。为了解决这个问题，对抗性鲁棒性领域研究了对抗

今我来思雨霏霏_JYF·2023-11-10 01:01

软件系统的质量属性

软件系统的质量属性分为外部质量属性和内部质量属性外部质量属性因素影响用户内部质量因素影响软件本身和它的开发者外部质量取决于内部质量外部质量属性：正确性（correctness）健壮性（robustness

llh_fzl·2023-11-09 11:35

机器人控制相关博客收集 - 待看

控制系统目标：1）跟踪性能（TrackingPerformance）好2）抗扰动性（DiturbanceRejection）强3）稳健性（Robustness）机器人控制硬件层次控制体系：基本都可以归结为

_yuan_·2023-11-08 12:14

Certified Robustness to Adversarial Examples with Differential Privacy

LecuyerM,AtlidakisV,GeambasuR,etal.CertifiedRobustnesstoAdversarialExampleswithDifferentialPrivacy[C].ieeesymposiumonsecurityandprivacy,2019:656-672.@article{lecuyer2019certified,title={CertifiedRobus

馒头and花卷·2023-11-06 04:58

系统架构设计师历年真题案例知识点汇总

常见的软件质量属性有多种，例如性能（Performance)、可用性（Availability)、可靠性（Reliability)、健壮性（Robustness)、安全性（Security)、可修改性（

ctrigger·2023-11-03 20:25

软考系列（系统架构师）- 2009年系统架构师软考案例分析考点

常见的软件质量属性有多种，例如性能（Performance)、可用性（Availability)、可靠性（Reliability)、健壮性（Robustness)、安全性（Security)、可修改性（

heishuai123·2023-10-29 00:23

变换器鲁棒性-6：Understanding Robustness of Transformers for Image Classification

https://arxiv.org/pdf/2103.14586.pdf理解用于图像分类的Transformers的鲁棒性深卷积神经网络（CNN）长期以来一直是计算机视觉任务的首选架构。最近，基于Transformers的架构（如ViT）在图像分类方面已经达到甚至超过了RESNET。然而，Transformers架构的细节——比如使用非重叠图块——让人怀疑这些网络是否同样鲁棒。在本文中，我们对Vi

Valar_Morghulis·2023-10-17 16:47

论文研读｜Protecting Intellectual Property of Deep Neural Networks with Watermarking

目录论文信息文章简介研究动机研究方法水印生成水印嵌入版权验证实验结果有效性（Effectiveness）高效性（ConvergeSpeed）保真度（Functionality）鲁棒性（Robustness

_Meilinger_·2023-10-09 11:17

AnInvestigation on Robustness for

CanAdversarialTrainingbenefitTrajectoryRepresentation?AnInvestigationonRobustnessforTrajectorySimilarityComputation22CIKM1intro1.1背景与传统基于成对轨迹点的TSC（trajectorysimilaritycomparison）相比，基于深度学习生成的向量的TSC具有较低

UQI-LIUWJ·2023-10-06 01:17

物体识别技术长篇研究

对于物体识别方法的评价标准，Grimson总结出了大多数研究者主要认可的4个标准：健壮性（robustness）、正确性（correctn

放飞人夜·2023-09-29 22:57

鲁棒性简述

鲁棒性（Robustness）是指系统或算法对于异常情况或不良条件的抵抗能力和适应能力。一个鲁棒性强的系统能够在面对异常、噪声、错误或意外情况时，仍能够保持高效的运行或输出可接受的结果。

_WAWA鱼_·2023-08-28 15:34

Mitsuba学习笔记（1）

这是一个面向研究用的开源软件，基于的是PBRT(Physicallybasedrenderingtechnology)说白了也就是根据几何光学的物理性质来编程实现的几点说明：性能：实现了大多数常见的渲染算法鲁棒性（Robustness

喵十八·2023-08-26 14:16

Graph Random Neural Networks for Semi-Supervised Learning on Graphs

前言NIPS2020中关于图半监督学习的研究：本文研究图的半监督学习问题，当标签节点稀缺时，大多数已有的广义神经网络都存在over-smoothing、non-robustness、weak-generalization

阿瑟_TJRS·2023-08-09 03:12

TPAMI 2023 特刊征稿！大规模多模态学习！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>多模态学习技术交流群Large-ScaleMultimodalLearning:Universality,Robustness

Amusi（CVer）·2023-08-07 15:09

TPAMI 2023 特刊征稿 | 大规模多模态学习

Large-ScaleMultimodalLearning:Universality,Robustness,Efficiency,andBeyondTPAMISpecialIssueCALLFORPAPERS

我爱计算机视觉·2023-08-07 15:09

Revisiting Personalized Federated Learning:Robustness Against Backdoor Attacks

ACMSIGKDDConferenceonKnowledgeDiscoveryandDataMining2023秦泽钰，香港科技大学计算机科学与工程系博士生，联邦学习中个性化的额外增益：对于后门攻击的鲁棒性https://github.com/alibaba/FederatedScope/tree/backdoor-bench摘要：（1）首次在pFL（个性化联邦学习）中进行后门研究在基准数据集FE

白兔1205·2023-08-04 04:10

机器学习鲁棒性笔记

鲁棒性（Robustness）在统计学和数据分析中是一个重要的概念。它指的是某个统计方法或模型对于异常值或偏离数据集正常分布的情况的敏感程度。

Aresiii·2023-08-01 20:25

[论文笔记]Towards Evaluating the Robustness of Neural Networks

题目：TowardsEvaluatingtheRobustnessofNeuralNetworks地址：https://arxiv.org/abs/1608.04644代码：https://github.com/carlini/nn_robust_attacksC&WObjectivefunctionBoxconstraintsProjectedgradientdescentClippedgrad

wangxiaoguang·2023-07-17 21:41

我想学习软件测试，但是不知道到底前景如何？

一、软件测试工程师软件测试工程师（SoftwareTestingEngineer）指理解产品的功能要求，并对其进行测试，检查软件有没有错误（Bug），决定软件是否具有稳定性（Robustness），安全性

LinminWang·2023-04-20 13:06

变换器鲁棒性-2：On the Adversarial Robustness of Vision Transformers

https://arxiv.org/abs/2103.15670v2随着自然语言处理和理解的成功推进，Transformers有望给计算机视觉带来革命性的变化。这项工作首次全面研究了视觉Transformers（VIT）对对抗性干扰的鲁棒性。在各种白盒和迁移攻击设置下进行测试，我们发现ViTs与卷积神经网络（CNN）相比具有更好的对抗鲁棒性。这一观察结果也适用于certifiedrobustnes

Vinteuil·2023-04-19 08:58

变换器鲁棒性-3：Adversarial Robustness Comparison of Vision Transformer and MLP-Mixer to...

AdversarialRobustnessComparisonofVisionTransformerandMLP-MixertoCNNshttps://arxiv.org/pdf/2110.02797v2.pdfarXiv:2110.02797[pdf,other]AdversarialRobustnessComparisonofVisionTransformerandMLP-MixertoCNN

Vinteuil·2023-04-19 02:39

变换器鲁棒性-7：RobustART:Benchmarking Robustness on Architecture Desgin and Traning Tecniques

BenchmarkingRobustnessonArchitectureDesginandTraningTecniqueshttps://www.aminer.cn/pub/614012c05244ab9dcb81635c/robustart-benchmarking-robustness-on-architecture-design-and-training-techniqu

Vinteuil·2023-04-12 02:58

ROBUST LEARNING MEETS GENERATIVE MODELS: CAN PROXY DISTRIBUTIONS IMPROVE ADVERSARIAL ROBUSTNESS

我们首先试图正式理解从代理分布上训练的分类器到真实数据分布的鲁棒性转移。我们证明了两个分布上分类器的鲁棒性之间的差异是由它们之间的条件Wasserstein距离上界。接下来，我们使用代理分布来显著提高对抗性训练在五个不同数据集上的性能。我们进一步证明了不同的生成模型在鲁棒训练中带来了不同的性能改进。我们提出了一种稳健的判别方法来表征单个生成模型的影响，并进一步深入理解为什么当前基于扩散的生成模型的

你今天论文了吗·2023-04-06 03:31

Decoupled Adversarial Contrastive Learning for Self-supervised Adversarial Robustness

本文提出了一种解耦对抗对比学习（DeACL）的两阶段框架。该方法不同于之前直接将AT集成到SSL中的方法，而是将整个分为两阶段进行，这种动机将任务的重点冲为耦合问题寻找最优集成策略转移到为在问题寻找子解决方案。两阶段看似比但阶段耗费时间，但事实是：SSL需要比有监督的训练多M倍的迭代，AT通常比标准训练慢N倍，将AT与SSL组合到一起进行但阶段训练其速度慢了M*N倍，DeACL由于解缠效应只满了M

你今天论文了吗·2023-04-06 03:01

Improving Adversarial Robustness Using Proxy Distributions 笔记

ImprovingAdversarialRobustnessUsingProxyDistributions笔记Abstract1Introduction2Integratingproxydistributionsinadversarialtraining2.1Understandingtransferofadversarialrobustnessbetweendatadistributions2.

SShirleyy·2023-04-06 03:33

性能鲁棒性、稳定性鲁棒性、鲁棒性、鲁棒性能、鲁棒稳定性、性能、稳定性的区别

鲁棒性（Robustness）：指控制系统在面对模型不确定性、环境变化等情况

FL17171314·2023-04-04 16:31

软件质量相关的十一个属性

健壮性（Robustness)健壮性是指在处理或环境中，系统能够承受压力

oria2006·2023-04-04 14:21

「测试开发工程师」和「软件测试工程师」有什么区别？

软件测试工程师」职业定义什么是软件测试工程师软件测试工程师（SoftwareTestingEngineer）指理解产品的功能要求，并对其进行测试，检查软件有没有错误（Bug），测试软件是否具有稳定性（Robustness

程序员阿沐·2023-02-17 11:23

聚类训练Clustering Training for Robustness

ClustTR:ClusteringTrainingforRobustnessMotasemAlfarra,JuanC.Pérez,AdelBibi,AliThabet,PabloArbeláez,BernardGhanemarXivpreprintarXiv:2006.07682.作者提出聚类训练（ClusTR），将聚类的思想应用于模型的输出空间，并设计出相应的clusteringloss，通过

wangxiaoguang·2023-02-07 07:17

【医学+深度论文：F10】ISBI Using Deep Learning for Robustness to Parapapillary Atrophy in Optic Disc

102015ISBIUsingDeepLearningforRobustnesstoParapapillaryAtrophyinOpticDiscSegmentationMethod：分割视盘，减弱萎缩弧对分割影响Dataset：SiMES（230）2048×3072Architecture:DNNResults：overlappingerror(9.7%)MethodsPPA有时候会影响OD的分

鹿鹿最可爱·2023-01-30 12:57

【毕设记录】Stata稳健性检验~ Robustness

（一些网上看的/自己用的tips汇总）1、DID：平行趋势检验自己用的：（1）在论文呈现上，可以绘制平行趋势图，也可以做一个Table表示平行趋势检验的结果。（2）学习文献的做法：创建政策发生前两年的变量。比如政策是Rights，解释变量是A*Rights，该政策发生于2014年，那么创建虚拟变量Y2013（=1,ifyear==2013）和Y2012（=1,ifyear==2012），把Y201

Burntred·2023-01-26 10:19

为什么robustness会翻译为鲁棒性？

鲁棒性，英文为Robustness（承受故障和干扰的能力），是许多复杂系统（包括复杂网络）的关键属性。复杂网络的鲁棒性研究对许多领域都非常重要。

九章云极DataCanvas·2023-01-17 11:18

Adversarial Robustness vs. Model Compression, or Both?

众所周知，深度神经网络（DNN）容易受到对抗性攻击，这种攻击是通过在良性示例中添加精心设计的扰动来实现的。基于最小-最大鲁棒优化的对抗性训练可以提供对抗性攻击的安全概念。然而，对抗性鲁棒性需要比仅具有良性示例的自然训练更大的网络容量。本文提出了一种并行对抗性训练和权重修剪的框架，该框架在保持对抗性鲁棒性的同时实现了模型压缩，并从本质上解决了对抗性训练的困境。此外，本工作研究了传统环境中关于权重修剪

你今天论文了吗·2023-01-13 08:52

推荐频道