2022.7.23可行AI会议记录-1(目前只有物理对抗部分)

可信AI会议记录

  • 物理世界下的智能对抗攻防
    • 来源
    • 背景
    • 挑战:对抗样本攻击
      • 数字世界攻击与物理世界攻击
    • 物理对抗研究问题
      • 主要挑战
      • 研究内容1:基于偏见的物理对抗方法
      • 研究内容2:基于注意力抑制的物理对抗攻击方法
      • 基于关键模式的对抗防御方法
      • 基于语音快速扰动的物理对抗攻击方法
    • 总结与展望

物理世界下的智能对抗攻防

来源

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第1张图片

背景

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第2张图片
近年来人工智能产业的快速发展带来了不小的安全隐患。
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第3张图片

挑战:对抗样本攻击

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第4张图片

数字世界攻击与物理世界攻击

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第5张图片
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第6张图片

物理对抗研究问题

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第7张图片

主要挑战

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第8张图片

研究内容1:基于偏见的物理对抗方法

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第9张图片
引用论文:Wang Jialai eta. Univrsal Adversaral Pac Atack for Automatic Checlot lsing eceptual and Atentional BiasJ REE-Transacions on image Processing 2),31.58-511."
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第10张图片2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第11张图片
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第12张图片

研究内容2:基于注意力抑制的物理对抗攻击方法

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第13张图片
引用论文:Wang Jiakaietal.Dual attention suppression attack: Generate adversarial camouflage in physical world[CI/CVPR 2021:8565-8574.
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第14张图片
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第15张图片2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第16张图片

基于关键模式的对抗防御方法

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第17张图片
引用论文:Wang Jiakai, etal.Defensive Patches for Robust Recognition in the Physical World.CVPR 2022
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第18张图片
物理世界防御测试-》定性与定量分析:
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第19张图片

基于语音快速扰动的物理对抗攻击方法

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第20张图片
引用论文:Wang Jiakai.etal.Protect Aduio Privacy via Fast Universal Adversarial Noises. Work in progress.
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第21张图片
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第22张图片

总结与展望

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第23张图片

2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第24张图片
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第25张图片
2022.7.23可行AI会议记录-1(目前只有物理对抗部分)_第26张图片

你可能感兴趣的:(人工智能,web安全)