基于EEG的脑机接口中的安全性问题

本分享为脑机学习者Rose整理发表于公众号：脑机接口社区(微信号：Brain_Computer).QQ交流群：941473018

电子设备被攻击会带来非常严重的安全问题，尤其是医疗领域。当前的很多BCI设备应用于医疗领域。所以基于EEG的脑机接口、脑机交互等的安全性问题在未来会得到越来越多的关注。

今天介绍的这篇文章是华中科技大学，伍教授研究团队的一项研究。在这项研究中，研究人员研究了基于脑电图的BCI拼写的安全性问题。并希望在未来，基于脑机的安全性问题得到更多的关注。

脑-机接口(BCI)将人脑与电子设备连接起来的工具，通常使用脑电图(EEG)。近年来，机器学习(ML)的发展使得更先进的BCI拼写器的发展成为可能，这些设备允许人们可以使用自己思想与计算机进行通信交流。

到目前为止，该领域的大多数研究都集中于开发更快、更可靠的BCI分类器，而不是研究它们可能的安全漏洞。然而，最近的研究表明，无论是在计算机视觉、语音识别还是其他领域，机器学习算法有时会被攻击者欺骗，存在安全隐患。这通常是用对抗示例来完成的，而这些例子是人类无法区分的数据中的微小扰动。

华中科技大学的研究人员最近进行了一项研究，研究了基于脑电图的BCI拼写的安全性问题。具体来讲，研究了它们如何受到对抗性干扰的影响。论文已在arXiv上预先发表，论文表明，BCI的拼写者被这些干扰所欺骗，因此很容易受到对抗性攻击。

研究人员表示，“这篇文章的目的是揭示基于EEG的BCI拼写器以及更广泛的基于EEG的BCI所面临的安全性问题，这在以前很少受到关注，”。“这表明，人们可以为P300和稳态视觉诱发电位(SSVEP) spellers生成微小的对抗性脑电图微扰模板，用于目标攻击。即，将分类误导为攻击者想要的任何字符，无论户想要的字符是什么。”

P300 BCI拼写器已经在包括诊所在内的多个环境中用于评估或检测意识障碍。因此，对BCI拼写器的攻击可能会产生许多后果，从简单的可用性问题到严重的病人误诊。

研究人员表示：“我们相信，对抗性EEG干扰如何影响BCI分类的更详细的理解可以指导BCI的设计，用于防御此类攻击”。

研究人员发现，要对BCI拼写器进行成功的对抗性攻击，攻击者只需要访问一些用于训练设备的数据。他/她可以使用这些数据来训练扰动模板，然后将该模板添加到良性脑电图试验中来执行攻击。

目前进行对抗性攻击的方法有两个主要限制。首先，他们需要一些特定受试者的脑电图样本来创建对抗扰动模板。第二，为了更有效地实施攻击，攻击者需要知道脑电图刺激的准确时间。如果攻击者成功地克服了这些限制，他/她的攻击的影响可能会大得多。

研究人员表示:“在计算机视觉、语音识别和BCIs等许多机器学习应用中，防御对抗性攻击是一个常见的研究问题。”“如果我们知道攻击者采取的方法，那么我们就可以制定防御策略，就像我们防御电脑病毒一样: 病毒首先爆发，然后我们找到杀死它的方法。”

攻击者总是试图找到新的方法来绕过安全措施，所以研究人员继续研究系统漏洞并提出新的安全措施是很重要的。虽然在确定了特定的漏洞之后开发有针对性的安全解决方案是不可避免的，但是发现系统的一般问题并采取预防措施可能非常有用。

华中科技大学的研究团队进行的这项研究有助于揭示与基于EEG的BCI相关的一般安全风险。他们的发现可能有助于找出可能减少对抗性攻击对这些装置的影响的初步解决方案。

该研究团队希望他们的研究能鼓励其他人去研究基于脑电图的拼写器或其他BCI设备的局限性和弱点。他们的发现最终可以为加强BCI的安全性，防止误诊和对抗性攻击的其他不良影响铺平道路。

伍教授表示:“我们想强调的是，这项研究的目的不是要破坏基于脑电图的BCI，而是要证明对基于脑电图的BCI进行严重的对抗攻击是可能的，从而暴露出一个此前很少受到关注的关键安全问题。”“在未来的研究中，我们计划制定防御此类攻击的策略。同时，我们希望我们的研究能够引起更多研究者对基于脑电图的BCI安全性的关注。”

论文：
https://arxiv.org/abs/2001.11569

参考
华中科技大学研究团队揭示了基于EEG的脑机接口中的安全性问题
https://techxplore.com/news/2020-02-unveils-vulnerabilities-eeg-based-brain-computer-interfaces.html

本文章由脑机学习者Rose笔记分享,QQ交流群：941473018
更多分享，请关注公众号