“杀手机器人”是否会反杀人类？| 免费试读

请输入标题 bcdef

在战场上，智能武器会越来越多地在只有少量或没有人类监督的情况下自由发挥。世界还没有进入杀手机器人的时代，但已经需要考虑对自主武器的管控问题。两条原则是明智的，关键词是保持“人在回路上”和自主系统行为的“可解释性”。

请输入标题 abcdefg

欢迎打开商论App免费试读

二月刊《驯服终结者》并试听音频

军备控制

驯服终结者

人类必须严控自主武器

千万年来，武器按着人类刺、投或推的方向发出攻击。在过去一百年里，武器已变得更聪明——它们愈发能够在攻击过程中闪躲穿行，在众多舰船、坦克或飞机中选择攻击目标，以及等待攻击目标的现身。在战场上，这样的武器可能会越来越多地在少有或完全无人监督的情况下自由发挥。

世界还没有进入杀手机器人的时代，至少现在还没有。当今的自主武器大多是在自卫时击落来袭威胁物体的静态系统，或者攻击狭小指定区域的导弹。几乎所有的自主武器系统仍然有人员“在回路中”（比如远程控制无人机开火）或“在回路之上”（比如能够监视和撤销某个行动）。但未来的武器将能使用人员“在回路外”的系统，行进到离人类操纵员更远之处，从一地移动到另一地，向更大范围的目标发起攻击。这样的武器会不会让战争变得更恐怖？会不会威胁人类文明自身？各国是时候认真思考该如何控制自主武器了。

联合国《特定常规武器公约》（CCW）就自主武器展开讨论已有五年，却没能达成什么共识。

... ...

... ...

请扫码获取二月刊

《驯服终结者》余下全文

登录商论App可免费听原声音频

【免费文章】欢迎下载《经济学人·商论》App，试读二月刊免费文章《驯服终结者》（Taming terminators）并收听原文音频。成为订阅用户更可同步解锁商论发刊至今的1800余篇往期文章，包括600多篇文章的英文原声音频。

现在订阅全年《经济学人·商论》

即享盛夏限量福利！

点此免费读完本文双语版：