PGD

一文搞懂NLP中的对抗训练

本文主要串烧了FGSM,FGM,PGD,FreeAT,YOPO,FreeLB,SMART这几种对抗训练方法，希望能使各位大佬炼出的丹药更加圆润有光泽，一颗永流传简介对抗训练是一种引入噪声的训练方式，可以对参数进行正则化
李rumor·2022-12-10 13:17

对抗样本生成算法-FGSM、I-FGSM、ILCM、PGD

IterativeFGSM)1.I-FGSM与FGSM的区别2.I-FGSM算法流程三、ILCM(IterativeLeast-likelyClassMethod)1.ILCM与I-FGSM的区别2.ILCM算法流程四、PGD
东方旅行者·2022-12-07 12:05

竞赛trick-AWP对抗训练的即插即用实现

在竞赛中常在BERT的embedding阶段进行扰动，常使用的对抗训练有pgd,fgm,freelb等。本文主要记录awp对抗训练的即插即用实现。
nlp野指针·2022-12-02 12:29

bert 对抗训练实现代码

效果参考资料前言：对抗训练是魔改训练方式的一种，凡事对抗一下，说不定可以提高性能，建议都试一试，网上关于对抗训练的代码已经有很多啦，笔者这里简单汇总一些，供快速应用到自己的代码中，看效果，下面的代码包括FGSM,PGD.FreeLB
weixin_42001089·2022-12-02 12:28

对抗训练的理解，以及FGM、PGD和FreeLB的详细介绍

对抗训练基本思想——Min-Max公式如图所示。中括号里的含义为，我们要找到一组在样本空间内、使Loss最大的的对抗样本（该对抗样本由原样本x和经过某种手段得到的扰动项r_adv共同组合得到）。这样一组样本组成的对抗样本集，它们所体现出的数据分布，就是该中括号中所体现的。外层min()函数指的则是，我们面对这种数据分布的样本集，要通过对模型参数的更新，使模型在该对抗样本集上的期望loss最小我们知
_illusion_·2022-12-02 12:57

NLP中的对抗训练

目录一、对抗训练的基本概念二、NLP中常用对抗训练算法的pytorch版本实现1、FGM——FastGradientMethod2、PGD——ProjectedGradientDescent3、FreeLB
colourmind·2022-12-02 12:52

对抗攻击算法总结论文集合（白盒、黑盒、目标检测、对抗训练等）

文章目录前言对抗攻击名词解释一、白盒攻击1.FGSM2.JSMA：3.DeepFool：4.CW：5.PGD:二、黑盒攻击1.单像素攻击2.基于查询（query-basedattack）3.基于迁移4.
nanyidev·2022-11-29 07:28

nlp中的对抗训练比较

对抗训练是一种引入噪声的训练方式，可以对参数进行正则化，提升模型鲁棒性和泛化能力常见的对抗训练有：fgsm、fgm、pgd、FreeAT、yopo、FreeLB、smart，AWP这里给出fgsm、fgm
未来影子·2022-11-21 19:27

【数据挖掘】贝叶斯网络理论及Python实现

1.理论知识1.1贝叶斯网络概述  贝叶斯网络（BayesianNetwork，BN）作为一种概率图模型（ProbabilisticGraphicalModel，PGD），可以通过有向无环图(DirectedAcyclicGraph
浪荡子爱自由·2022-11-21 12:25

APG(Accelerate Proximal Gradient)加速近端梯度算法 和 NAG(Nesterov accelerated gradient)优化器原理 (一)

文章目录前言APG(AccelerateProximalGradient)加速近端梯度算法[^1]PGD(ProximalGradientDescent)近端梯度下降法推导[^2]ExampleofProximalGradientDescentAPG
等待戈多。·2022-11-20 06:47

对抗学习总结：FGSM-＞FGM-＞PGD-＞FreeAT, YOPO -＞FreeLb-＞SMART-＞LookAhead-＞VAT

对抗训练基本思想——Min-Max公式中括号里的含义为我们要找到一组在样本空间内、使Loss最大的的对抗样本（该对抗样本由原样本x和经过某种手段得到的扰动项r_adv共同组合得到）。这样一组样本组成的对抗样本集，它们所体现出的数据分布，就是该中括号中所体现的。外层min()函数指的则是，我们面对这种数据分布的样本集，要通过对模型参数的更新，使模型在该对抗样本集上的期望loss最小对抗训练的核心步骤
zhurui_xiaozhuzaizai·2022-11-19 20:18

【MMDetection3D】基于单目（Monocular）的3D目标检测入门实战

配置文件多卡训练测试及可视化参考资料前言本文简要介绍单目（仅一个摄像头）3D目标检测算法，并使用MMDetection3D算法库，对KITTI（SMOKE算法）、nuScenes-Mini（FCOS3D、PGD
嗜睡的篠龙·2022-11-09 12:39

【单目3D目标检测】FCOS3D + PGD论文解析与代码复现

文章目录前言FCOS3D概述主要创新点主要框架结构回归目标损失函数推理过程2D引导的多层3D预测2D高斯分布的3D中心度实验设置源码复现PGD概述主要创新点深度估计主要框架结构概率表示的不确定性建模DP
嗜睡的篠龙·2022-11-09 12:36

BEVDet:High-Performance Multi-Camera3D Object Detection in Bird-Eye-View

动机：在多摄像机三维目标检测中，基于图像视图的FCOS3D[49]、PGD[50]等方法性能领先，而基于BEV的PON[39]、lift-splat-shoot[33]、VPN[31]等方法在BEV语义分割中占据主导地位
財鸟·2022-11-08 14:56

Linux 页表管理（一）

文章目录前言一、x86_64的分页二、Linux内核中的分页三、CR3加载PGD3.1低版本内核3.2高版本内核3.3小结参考资料前言主要描述的是Linux中x86_64平台下的页表管理，页表用于建立虚拟地址空间和系统物理内存之间的关联
小立爱学习·2022-10-14 07:24

Linux 页表管理（二）

文章目录前言一、页表相关数据结构1.1页表项1.2线性地址字段二、页表函数处理2.1类型转换宏2.2访问页表2.3分配释放相关函数2.3.1pgd_alloc2.3.2pud_alloc和pmd_alloc2.3.3pte_alloc_map2.3.4pte_alloc_kernel2.3.5quicklist2.3.6pgd_none2.3.7mk_pte
小立爱学习·2022-10-14 07:14

内核杂谈——页表项存放的是物理地址还是虚拟地址？

目录L0L1L2表项L3表项总结pgd_t不只是物理地址谈谈对映射的理解思考当你不去细细读代码的话，这个问题可能会困扰着你。我们以ARM64四级页表为例，谈谈页表项里藏得是什么。
LuckY_chh·2022-10-13 09:15

ARMv8页表

记住内核页表是0号进程的active_mm->pgd,不是1号init进程的。structmm_structinit_mm={.mm_rb=RB_ROOT,.pgd=swapper_
chenpuo·2022-10-13 09:42

深入理解虚拟/物理地址转换，页表--基于ARMV8

目录背景一、相关基础知识1，MMU的作用2，逻辑地址，虚拟地址，线性地址二、页表转换寄存器描述符1，页表/页目录结构2，转换相关寄存器描述符1.转换基址寄存器2.转换描述符格式3.用户/内核PGD表基地址三
Lzz张乐·2022-10-13 09:11

【Prometheus+Grafana系列】基于docker-compose搭建

贴一下官方提供的架构图：pgd-1.pngPormetheus几个主要模块有，Server，Exporters，Pushgateway，PromQ
MaxFang·2022-08-28 00:53

NLP常见trick汇总及代码实现

常见的有FGM,PGD等策略，一般是比较稳定提分的方法。在NLP领域的对抗训练的扰动是加载embedding上的。其主要做法就是根据模型第一次foward后得到embedding的梯度，让em
数学是算法的灵魂·2022-08-09 07:31

[论文阅读笔记]Towards Deep Learning Models Resistant to Adversarial Attacks

TowardsDeepLearningModelsResistanttoAdversarialAttacks(ICLR2018)文章简述：本文主要是在研究防御的问题，并提出了PGD这种first-order
大鲨鱼冲鸭·2022-07-16 07:47

PostgreSQL部署与维护

下面这个仓库直接使用了清华大学镜像站的地址echo"debhttps://mirrors.tuna.tsinghua.edu.cn/postgresql/repos/apt/`lsb_release-sc`-pgd
冯宇Ops·2022-02-19 09:20

CentOS7中安装pgAdmin 4

配置yum的安装源#安装源yum-yinstallhttps://download.postgresql.org/pub/repos/yum/11/redhat/rhel-7-x86_64/pgd
编程永无止境·2022-02-15 00:18

MMU内存管理单元之二级页表

1.二级页表  如果使用页面映射的方式，段映射表就变成了一级映射表（FirstLeveltable，在linux内核中成为PGD）,其表项提供的不
明故宫的记忆·2021-09-01 22:48

内核必须懂(七): Linux四级页表(x64)

目录前言Intel四级页表实操寻址获取cr3获取PGD获取PUD获取PMD获取PTE获取内容最后前言Linux四级页表的作用主要就是地址映射,将逻辑地址映射到物理地址.很多时候,有些地方想不明白就可以查看实际物理地址进行分析
sean_depp·2021-06-05 01:51

Centos 安装 postgresql

InstalltherepositoryRPM:sudoyuminstall-yhttps://download.postgresql.org/pub/repos/yum/reporpms/EL-8-x86_64/pgd
·2021-03-27 17:57

linux swapper_pg_dir

section".bss.page_aligned","w"ENTRY(swapper_pg_dir).fill1024,4,0ENTRY(empty_zero_page).fill4096,1,0相当于pgd_tswapper_pg_dir
dawter·2020-10-10 03:34

内核页表和进程页表

内核页表：即书上说的主内核页表，在内核中其实就是一段内存，存放在主内核页全局目录init_mm.pgd(swapper_pg_dir)中，硬件并不直接使用。
L1259863243·2020-09-15 19:39

【存储管理】重要数据结构的关系

从硬件角度，Linux内核要为硬件准备好页面目录PGD，页面表PT，以及GDT和LDT，设置正确的寄存器，就完成了准备工作，但实际很复杂，今天介绍常用的重要数据结构。
sykpour·2020-09-10 18:17

海思平台程序运行出现无法在虚拟地址处理内核分页请求错误 - oops错误

程序执行后出现错误提示无法在虚拟地址0a209001处理内核分页请求这种问题错误出现的日志为Unabletohandlekernelpagingrequestatvirtualaddress0a209001pgd
LL-Studio·2020-09-10 11:46

海思平台程序运行出现无法在虚拟地址处理内核分页请求错误

程序执行后出现错误提示无法在虚拟地址0a209001处理内核分页请求这种问题错误出现的日志为Unabletohandlekernelpagingrequestatvirtualaddress0a209001pgd
李_柱·2020-09-10 10:27

JIURL文档-Linux的虚拟内存与分页机制（x86-64位）(二)

对于需要4级地址转换的分页相关结构，分别叫做PGD，PUD，PMD，PTE。对于x86-64CPU来说，PGD
jiurl·2020-08-20 06:50

内核kmalloc内存越界排查过程

.现场分析,log信息如下：3[60.623647@0]Unabletohandlekernelpagingrequestatvirtualaddressef8000044[60.625413@0]pgd
hjkfcz·2020-08-12 01:13

内核页表和进程页表误区和使用

内核页表：即书上说的主内核页表，在内核中其实就是一段内存，存放在主内核页全局目录init_mm.pgd(swapper_pg_dir)中，硬件并不直接使用。
gnnulzy·2020-08-11 05:37

android缺陷分析：内核空指针

bugmgropencnt=0[65.871767]UnabletohandlekernelNULLpointerdereferenceatvirtualaddress00000000[65.879833]pgd
tao-liu·2020-08-04 11:21

内核源码--------mm_init_cpumask(&init_mm);

，定位到init_mmstructmm_structinit_mm={.mm_rb=RB_ROOT,.pgd=swapper_pg_dir,.mm_users=ATOMIC_INIT(2),.mm_count
Linux工程师·2020-07-30 01:43

命令行

Ctrl+pgD
Anubisi·2020-07-28 10:37

群体智能——粒子群算法（PSO）

可以通过下面这个公式来理解：c1、C2表示更新步长；Pid表示该粒子的个体极值点；Pgd表示全局极值点；rand和Rand表示随机数
HighKit·2020-07-27 15:25

Linux 下获取某虚拟地址对应的页表信息

摘自arch/x86/mm/fault.cstaticvoiddump_pagetable(unsignedlongaddress){pgd_t*base=__va(read_cr3()&PHYSICAL_PAGE_MASK
leolinux·2020-07-16 01:04

hive sql 数据汇总成数组以及用&&拼接数组中每一个元素

withprice_group_01as(selectpartner_id,collect_set(pgd)aspgd_setfrom(selectdistinctpartner_id,concat(division
风逍遥-ygq·2020-07-14 20:07

oops内核崩溃错误跟踪

以网上别人出现的一个内核崩溃的oops来分析UnabletohandlekernelNULLpointerdereferenceatvirtualaddress00000000pgd=c72f0000[
zy287676732·2020-07-12 21:50

KPTI补丁分析

内核地址空间和用户地址空间共用一个页全局目录表(PGD表示进程的整个地址空间)，meltdown漏洞就恰恰利用了这一点。攻击者在非
Linux阅码场·2020-07-11 09:46

linux 内核出现 oops 如何调试

先贴我内核打印的错误信息：UnabletohandlekernelNULLpointerdereferenceatvirtualaddress00000004pgd=80004000[0
monkey_lqd·2020-07-11 01:07

dma_alloc_coherent 分析

Thesearethepagetables(2MBeach)coveringuncached,DMAconsistentallocations分析consistent_init(void)-》(consistent.c):pgd
zjcysww·2020-07-10 20:47

内核oops错误调试学习笔记

驱动开发中遇到的oops问题，导致内核崩溃，log一般如下形式Unabletohandlekernelpagingrequestatvirtualaddressbfb10be0pgd=c0003000[
★临★·2020-07-10 16:22

linux启动错误：Internal error: Oops: 17 [#1]

问题尚未解决明天继续了#UnabletohandlekernelNULLpointerdereferenceatvirtualaddress00000005pgd=c3b00000[00000005]*
weixin_34313182·2020-07-10 08:48

关于oop错误定位的学习

pgd=c39d8000[00000000]*pgd=339cf031,*pte=00000000,*ppte=00000000Internalerror:Oops:817[#1]lastsysfsfile
ARMBULL·2020-07-09 17:21

oracle sql 语句嵌套子查询 查询速度慢

select----慢------------------(selectcount(*)from(selectpe.personid,pe.pgd_sheetid--------select*fromWXU_NN_T_PG_PERSONtwheret.flag
码灵·2020-07-09 16:18

linux页表pgd的含义

pgdPGD:PageGlobalDirectoryLinux系统中每个进程对应用户空间的pgd是不一样的，但是linux内核的pgd是一样的。
知了112·2020-07-08 11:31
上一页 1 2 3 4 5 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他