读心术设备即将到来——我们如何控制？

脑机交流是即将上市的众多神经技术之一。图片来源：Alexandra Wey/EPA/Shutterstock

科技进步推动现实化读心术等科幻概念，引发伦理问题，联合国教科文组织探讨监管脑科技以保护人权。

2023年7月13日，神经科学家、伦理学家和政府部长在联合国教科文组织（UNESCO）组织的巴黎会议上讨论了监管脑科技的议题。这些"神经技术"直接与大脑互动，监测或改变大脑活动，通常使用电或成像技术实现，包括医学批准的设备（用于治疗帕金森病的大脑植入物）到商业产品（用于虚拟现实的可穿戴设备）来收集大脑数据或允许用户控制软件。

联合国教科文组织社会科学和人文科学助理总干事Gabriela Ramos在会议上指出，监管神经技术是社会性讨论和法律问题，而不仅仅是技术性讨论。

神经技术的进步包括可以通过植入体内的电脑芯片（BCIs）来解码人们的所思所想，并将其转换为文本输出[1]。

根据UNESCO发布的最新神经技术报告，该领域正迅速蓬勃发展。2015至2020年期间，全球每年提交的神经技术相关专利数量翻了一番。2010年到2020年，该领域的投资增长了22倍，目前神经技术已成为价值330亿美元的产业。

设备比比皆是

用于分析个体特征以及操纵人们思想和行为的奥威尔式（Orwellian idea ）思想的神经技术是一个需要监管的领域。大众市场的大脑监测设备将成为数字世界的有力补充，在数字世界中，企业家和政治家已经将个人数据用于谋取政治或商业利益，北卡罗来纳州达勒姆杜克大学的伦理学家Nita Farahany说。

监管方面的挑战在于制定有益研究但能防范潜在危害的法规。医疗设备和消费产品面临不同挑战，Farahany说。

用于临床使用的产品受现有药品和医疗器械法规约束。例如，一种监测癫痫患者大脑活动并刺激他们的大脑以抑制潜在癫痫发作的系统正应用于临床[2]。更先进的设备正在试验中，比如植入式BCI，它可允许瘫痪的人使用他们的思想来控制各种外部设备。

但商业设备是伦理学家更紧迫关注的问题。从初创企业到科技巨头的公司都在开发广泛使用的可穿戴设备，包括记录不同形式神经活动的耳机、耳塞和腕带，这将给制造商能够获取这些信息的机会。

数据的隐私是一个关键问题。纽约市哥伦比亚大学的神经科学家Rafael Yuste在会议上表示，他共同创立的神经权利基金会（Neurorights Foundation）未发表的一项分析发现，18家提供消费者神经技术的公司有明确的条款和条件，要求用户赋予公司对其大脑数据的所有权。除其中一家公司外，所有公司都保留与第三方共享该数据的权利。“我会把这描述为掠夺性的，”Yuste说。“这反映了缺乏监管。

Farahany说，商业设备则需要更加紧迫的监管，因为这些产品的潜在市场很大，公司可能很快就会从人们的神经数据中获利。

对神经权利的需求

会议还探讨了记录和操纵神经活动如何挑战现有人权。一些发言者认为现有人权已经涵盖了神经技术，而另一些认为需要制定新的人权保护措施。

两位研究人员讨论了“神经权利”的概念，即防止第三方能够访问和影响一个人的神经活动。

“神经权利既可以是消极的自由，也可以是积极的自由，”德国慕尼黑工业大学的哲学家Marcello Ienca在会议上说。例如，消极自由意味着未经同意不会侵犯你的大脑数据。积极的自由可能是人们公平获得有价值的医疗技术的能力。

Yuste和他的同事提出了五项主要的神经权利：精神隐私权;防止改变人格的操纵;受保护的自由意志和决策;公平获得智力增强;以及防止神经技术核心算法中的偏见。

Yuste和Ineca希望他们的建议能够为关于读脑技术监管和人权条约挑战的辩论提供信息。

具体变化

智利、西班牙、斯洛文尼亚和沙特阿拉伯等国已开始制定法规，代表们在会议上讨论了各国的工作。智利之所以脱颖而出，是因为它在 2021 年成为第一个更新宪法承认神经技术需要法律监督的国家。

智利科学技术部副部长Carolina Gainza Cortés表示，智利正在制定新的立法，立法者正在讨论如何在允许研究技术追逐益处的同时保护人权。

UNESCO成员国将于11月投票决定是否制定全球神经技术指南，类似于 UNESCO正在最终确定的帮助成员国实施立法的人工智能指南。“我希望我们能从道德准则转向具体的法律框架，” Farahany说。

“谈及神经技术，我们还不算太晚，”Farahany在会议上说。“该技术还没有在整个社会中扩大规模。”

参考文献：

[1]. Willett, F. R., Avansino, D. T., Hochberg, L.R., Henderson, J. & Shenoy, K. V.Nature 593, 249–254 (2021).

[2]. Ryvlin, P., Rheims, S., Hirsch, L. J., Sokolov, A. & Jehi, L.Lancet Neurol. 20, 1038–1047 (2021).

阅读原文内容：

https://doi.org/10.1038/d41586-023-02405-y

往期精品(点击图片直达文字对应教程)

机器学习