机器人科学家发出警告：世界强国正展开人工智能军备竞赛

来源

能够决定生死并且在战场上消灭敌人的智能机器人很快将成为战争的常规武器。在界强国之间，新时代的军备竞赛进行得如火如荼。包括美国，中国，俄罗斯在内的多个国家，已在装备人工智能，利用它在网络战争中获益。各国之间的竞争十分激烈。

但是研究人员警告，我们所追求的会带来难以置信的危险，一个可怕的未来。
“这个军备竞赛已经开始了“，来自新南威尔士大学计算机科学与工程学院的托比·沃尔什教授说。他已经在多个场合向联合国进行游说，努力阻止机器人杀手的扩散。
”不只是我，还有数千同行在机器人学领域研究...并且我们十分担心军备竞赛的逐步升级“，他说。美国已经把人工智能看做维持其军事霸主地位的核心。美国国防部在十月份发表的一份报告中披露：机器人打击部队，智能地雷，自主决策导弹以及隐形迷你机器人间谍群已经在研制中。

在一个特殊情景下，一群自主无人机可以进驻一个战区，扰乱敌人的通信，提供实时监控，以及提供自主火力打击。
这不仅仅只是五角大楼对未来的设想。像中国这样在一定程度上拥有自主巡航导弹的国家，正紧跟美国的步伐。
在八月，官方媒体《中国日报》报道中国正在致力于为巡航导弹系统装备高级人工智能。这个声明被认为是对美国在2018年部署半自主远程反舰导弹的回应。

终结者的难题

根据专家预测，军事武器拥有某种程度上的自主能力将会在几年内实现，而非几十年。”在坏人手里，它会变成对付我们自己的武器。这个技术可能会被恐怖组织控制，”沃尔什教授说，“如果我们照此发展下去，将会是一个恐怖的未来。“
”如果落到ISIS或者北韩的手里，他们不会在意对普通人使用这些武器，这将会带来非常坏的结果，”他说。
但是军事社区的讨论主题已经不再是要不要打造智能武器，而是这些武器智能程度的高低。这在行业中被称为“终结者难题”。
五角大楼已经拨出超过180亿美金用于未来三年的人工智能研究。
美国已经测试了可自主攻击的导弹。它能攻击敌人的潜艇，自动追踪超过数千公里范围的猎物。五角大楼也希望设计人工智能化的网络安全软件，能比人能早地对威胁进行探测和响应。

在2015年时，有超过1000名人工智能和机器人专家联名签署公开信，包括埃伦·穆斯克，史蒂夫 沃兹尼亚克和史蒂芬 霍金。尽管有来自像沃尔什教授等人的呼吁，政府仍认为不能接受落后于他人。
“中国和俄罗斯正在开发和我们（美国）一样强大的战斗网络，他们能看到我们所看到的，他们的制导导弹攻击范围也和我们不相上下，”美副国防部长罗伯特·O·沃克在十月接受纽约时报的采访时说，“我们想做的只是确保我们能和之前一样领先”。

私营企业引领潮流

在一个大型AI行业会议之前，沃尔什教授在三藩市表示，AI技术的进展，很大一部分来自私营公司，而不是之前的军备竞赛。他告诉news.com.au网站，“某些军人认为事实上大型科技公司已经远远领先军方。“

硅谷更看重取得研究成果，并把技术开源。这意味着各国政府更容易学到这些技术。”类似像自动驾驶这样的技术将会是美好的，但是利用人工智能来决定生死，将会带来灾难，”沃尔什教授说。
无论它将会用在何处，看起来无法阻止人们对人工智能的追求。而很多评论员担心这将会让世界末日的预言成真。
“当前我们对人工智能的发展，最担心的是我们似乎对即将到来的危险束手无策,"神经学家萨姆哈里斯在九月份告诉TED的听众们，”我认为我们需要在人工智能方面，采取类似曼哈顿计划。不需要构建这个计划，因为我认为我们终将实现它。我们需要懂得如何避免一场军备竞赛，而且把这个计划建立符合我们的利益的基础上。”