unlearning

Second-Order Information Matters: Revisiting Machine Unlearning for Large Language Models

本文是LLM系列文章，针对《Second-OrderInformationMatters:RevisitingMachineUnlearningforLargeLanguageModels》的翻译。二阶信息问题：修改大型语言模型的机器学习摘要1引言2前言3LLM的遗忘4实验设置5实验结果6意外记忆的遗忘7DP-SGD和遗忘8相关工作9讨论10局限性和未来工作11结论摘要随着大型语言模型（LLM）的

UnknownBody·2024-09-01 20:46

【论文阅读】QUEEN: Query Unlearning against Model Extraction（2024）

摘要Modelextractionattacks（模型提取攻击）currentlyposeanon-negligiblethreat（不可忽视的威胁）tothesecurity（安全性）andprivacy（隐私性）ofdeeplearningmodels.Byqueryingthemodelwithasmalldataset（通过小数据集查询模型）andusingthequeryresultsa

Bosenya12·2024-09-01 20:45

Federated Unlearning for On-Device Recommendation

WSDM2023CCF-BFederatedUnlearningforOn-DeviceRecommendation本文工作的主要介绍本文主要介绍了一种名为FRU（FederatedRecommendationUnlearning）的联邦学习框架，用于在设备端的推荐系统中实现用户数据的有效擦除和模型重建。FRU通过存储用户的历史更新并校准这些更新，实现了有效的用户数据擦除和模型重建，从而保护用户隐

jieHeEternity·2024-01-11 00:33

Approximate Unlearning in LLMs

本文是LLM系列文章，针对《Who’sHarryPotter?ApproximateUnlearninginLLMs》的翻译。哈利波特是谁？LLMs中的近似遗忘摘要1引言2我们方法的描述3评估方法4结果5结论摘要大型语言模型（LLM）是在大量的互联网语料库上训练的，这些语料库通常包含受版权保护的内容。这给这些模型的开发人员和用户，以及原始作者和出版商带来了法律和道德挑战。在本文中，我们提出了一种新

UnknownBody·2023-10-30 16:45

FORGET UNLEARNING TOWARDS TRUE- DATA DELETION IN MACHINE LEARNING

主要用于组会汇报，故直接用ppt截图目录•1.INTRODUCTION•2.MODELANDPRELIMINARIES•3.UNLEARNINGGUARANTEESAREUNSOUNDANDINCOMPLETEMEASUREOF"RIGHTTOBEFORGOTTEN“•4.REDEFININGDATA-DELETIONINMACHINELEARNING•5.DATADELETIONUSINGNOI

One world·2023-10-04 03:09

【论文阅读】 Model Sparsity Can Simplify Machine Unlearning

ModelSparsityCanSimplifyMachineUnlearning背景主要内容ContributionⅠ：对MachineUnlearning的一个全面的理解ContributionⅡ：说明modelsparsity对MachineUnlearning的好处Pruning方法的选择sparse-aware的unlearningframeworkExperimentsModelspa

PleaseBrave·2023-08-18 08:05

Exploring the Landscape of Machine Unlearning: A Comprehensive Survey and Taxonomy

本文是机器遗忘的系列文章，针对《ExploringtheLandscapeofMachineUnlearning:AComprehensiveSurveyandTaxonomy》的翻译。探索机器遗忘的足迹：综合调研与分类摘要1引言2机器遗忘的概要3技术与方法A数据删除数据投毒数据子采样数据混洗B数据扰动数据匿名化差分隐私反向数据生成（IDG）C模型更新技术正则化迁移学习模型修剪蒸馏模型反演4用于评

UnknownBody·2023-08-05 22:36

《Federated Unlearning via Active Forgetting》论文精读

文章目录1、概述2、方法实验主要贡献框架概述3、实验结果比较方法实验结果忘却完整性忘却效率模型实用性4、总结原文链接：FederatedUnlearningviaActiveForgetting1、概述对机器学习模型隐私的⽇益关注催化了对机器学习的探索，即消除训练数据对数学学习模型影响的过程。这种担忧也出现在联邦学习领域，促使研究⼈员解决联邦遗忘学习问题。然⽽，联邦遗忘仍然具有挑战性。现有的遗忘⽅

GCTTTTTT·2023-08-02 04:07

Machine Unlearning: A Survey

这是一个新方向，机器遗忘。针对《MachineUnlearning:ASurvey》的翻译。机器遗忘：综述摘要1引言1.1机器遗忘的动机1.2这篇综述的贡献1.3与现有机器遗忘综述的比较2前言2.1机器遗忘的定义2.2机器遗忘的目标2.3机器遗忘的需求3遗忘与验证机制分类3.1遗忘分类3.1.1数据重组3.1.2模型操纵3.2验证机制3.2.1实证评估3.2.2理论计算4数据重组4.1基于数据混淆

UnknownBody·2023-07-17 17:05

machine unlearning 论文阅读笔记

文章目录前言概要导论unlearning定义SISA系统时间复杂度实验测试总结前言做一篇发表在顶会S&P-42nd42^{nd}42ndIEEESymposiumofSecurityandPrivacy

fa1c4·2023-04-17 17:04

【异常检测】LSTM用于异常检测：DeepLog与Machine Unlearning

动态异常检测分析系统运行日志可以检测出系统异常，MinDuICDM’16的文章SPELL提出一个日志解析工具；基于这个工作，她在CSS’17提出了DeepLog，也是现在非常经典的baseline，无监督的检测系统运行日志；她在CCS’19的工作在DeepLog的基础上引入了恶意样本的信息，改进准确率和误报率，并且将模型适用场景泛化到了信用卡交易记录等。一、DeepLog《DeepLog:Anom

chad_lee·2022-12-19 16:26

翻译促学之 The Art of Unlearning-Scott Young

今早读过ScottYoung订阅专栏的这一篇文章，觉得在我脑子里点亮了几只灯泡，跟我这阵子的一些思考有共鸣。那就先分享下原文和我的翻译吧～TheArtofUnlearning摈弃旧知的艺术“Itain’twhatyoudon'tknowthatgetsyouintotrouble.It’swhatyouknowforsurethatjustain’tso.”–MarkTwain“让我们陷入困境的不

Orion·2020-02-13 21:18

随笔

直播开篇就提出一个概念：去学习（Unlearning）。即学校教育带给你的危害。学校里鼓励个人成功而非团队成功；学校鼓励我们找答案而不是提问题；学校教育补人之短而不是用人之长。

Mimosa1228·2020-01-05 01:47

推荐频道