专家：人工智能可能劫持人机界面

简单来说

脑机接口已经有一段时间了。然而，最近的发展表明，BCI可以做的不仅仅是帮助残疾人。这些脑黑客设备可以使我们在未来更好的人类。

脑黑客

自从Tesla首席执行官兼创始人Elon Musk宣布通过其Neuralink初创公司开发脑机接口（BCI）的计划以来，BCI技术已经获得了更多关注。然而，麝香不是第一个提出通过脑机接口来提高人类能力的可能性。其他一些创业公司也在努力实现类似的目标，包括Braintree创始人Bryan Johnson和Kernel。即使是美国国防部的国防高级研究计划局（DARPA）也在研究一个。

现在，根据27位专家 - 神经科学家，神经科学家，临床医生，伦理学家和机器智能工程师的合作 - 自称为晨兴集团，BCI在人工智能（AI）领域提出了一个独特且相当令人不安的难题。BCI本质上是为了攻击大脑而设计的，它们本身就具有被AI黑客入侵的风险。

专家们在“ 自然 ”杂志的一篇评论文章中 写道：“这种进步可能会彻底改变许多疾病的治疗方法，从脑损伤和瘫痪到癫痫和精神分裂症，并将人类的经历转化为更好。“但是，这项技术还可能加剧社会不平等，为企业，黑客，政府或其他任何人提供新的利用和操纵人的方式。它可以深刻地改变人类的一些核心特征：私人精神生活，个人代理和个人对自己身体束缚的实体的理解。

专家们用一个瘫痪男子的类比来参与BCI试验，但不喜欢和他一起工作的研究小组。然后人工智能可以阅读他的想法，并且（错误地）将他不喜欢的研究者解释为一个使他们受到伤害的命令，尽管这个人没有明确地给出这样的命令。

进一步解释说：

技术的发展意味着我们正走向一个可以解码人的心理过程并直接操纵其意图，情感和决策的大脑机制的世界。个人可以通过简单的思考与他人沟通; 强大的直接与人脑相连的计算机系统便于他们与世界的交流，使他们的身心能力大大提高。

人工智能中的伦理问题

为了应对这种可能性，晨兴集团提出了四个需要解决的伦理问题：隐私与同意，代理与身份认证，强化与偏见。他们写道：“对于神经科技在一般消费者市场上起飞，这些设备必须是非侵入性的，风险最小，并且比目前的神经外科手术需要更少的开销。”

点击查看完整的信息图

“即使是现在，开发设备的公司也必须对自己的产品负责，并以一定的标准，最佳实践和道德准则为指导。”在考虑“寻觅利益往往会压倒社会责任”时，当涉及到对技术的追求时，根据人类历史。

BCI的潜在用途之一是在工作场所。正如人工智能技术加速器TechCode的总经理Luke Tang  在给未来主义的评论中指出的那样：“我相信这个技术最大的发展领域是商业环境 - 大脑机器将会塑造我们未来的工作场所。 “具体来说，BCI技术可以改善远程协作，增加知识，加强沟通。

对于后者，BCI将作为一种“技术，可以将您的想法转化为言语或行动，无疑将证明转化为今天的技术支持沟通方法。脑机技术可以带来更快，更准确的交流。“唐说。

正如人工智能这样的技术变得更加先进，正是这种能力深入到人们的想法中，可能给BCI带来挑战。为了使我们不致丧失BCI能够提供的所有潜力，重要的是要有正确的考虑。Morningside的研究人员总结说：“神经科技的临床和社会效益是巨大的。“为了收获，我们必须以尊重，保护和实现人类最优秀的方式来引导他们的发展。”