【科普】阿西莫夫和机器人三大法则(4)

欢迎关注我的专栏( つ•̀ω•́)つ【人工智能通识】
进这里点赞，助力申请【人工智能通识】小岛ヾ(≧∇≦感謝≧∇≦)ノ

---

机器人三大法则（含第零法则，下同），可以说每一条都包含着潜在的问题。

上一篇【科普】阿西莫夫和机器人三大法则(3)

希特勒纳粹独裁

• 第零法则：机器人不得伤害整体人类，或坐视整体人类受到伤害；

首先，人类整体是个抽象概念，如何界定是否伤害人类整体？很多独裁者和罪犯都打着优化人类种群、解救全人类的旗号发起战争或进行大肆屠杀。

好莱坞谍战大片中不乏这样的反面角色，甚至于《复仇者联盟》中的大BOSS灭霸一个响指消灭50%人类也有着名正言顺的说辞。

电影《机械公敌》中的机器人主脑VIKI经过推理就得出结论，由于人类惯于发动战争和屠戮，所以要想保护人类整体不受损害，最有效的方法就是把人类都控制起来，由机器人统治世界。

同样造反的还有《2001太空漫游》中的哈尔9000、《流浪地球》中的莫斯以及《机器人总动员Wall·E》中的AUTO等。

第零法则往往成为机器人或者野心家杀人放火的最佳借口。

电车难题

• 第一法则：机器人不得伤害人类，或坐视人类受到伤害；

作为人类，可能都曾经被拷问过“老婆和妈掉水里先救谁”这个人生难题，类似情节也出现在《机械公敌》中。威尔史密斯扮演的警察跳入水中营救落水女童，在水下即将抓到女童手的时候，机器人将他强行拉了出来。

阿西莫夫《我，机器人》中的短篇《丢失的机器人》中由于机器人必须和人类一起在微辐射的环境下工作，这些辐射对人体是有一定伤害的，但由于第一法则的原因导致机器人不断地把人类工作者拉出工作环境，最终他们不得不裁剪第一法则只保留“机器人不得伤害人类”，去除不能坐视人类受到伤害这一规则。

同样的，如果你想开发一直能够玩SM游戏的机器人，这个第一法则也让你变得头疼。

电车难题显示了另一困境：如果改变电车轨道将杀死一个人，不改变电车轨道将杀死五个人。机器人会改电车变轨道吗？如果那一个人是机器人的主人，你还希望他改变电车轨道吗？

另外一个矛盾是这个“伤害”是否包含“情感”伤害？而一旦包含情感伤害的话，那将变得更加难以界定，甚至导致机器人寸步难行。

《终结者》系列中的T800机器人

• 第二法则：除非违背第一法则，否则机器人必须服从人类命令；

依照阿西莫夫小说的解释，机器人总是设定优先服从主人的命令，主人不在场的情况则会服从其他人类的命令，这实际上很容易发生矛盾。

阿西莫夫的另一个设定是，命令的强弱程度也有着重要影响，甚至如果你对机器人发出了一个不太强硬的命令，当机器人发现执行这个命令的时候会违反第三原则（保全机器人自身），那么就会产生矛盾陷入死循环。这正是他的短篇小说《绕圈圈》所展现的情节。

机器人终究是被定义为一种工具，菜刀可以切菜也可以杀人，关键在于机器人接受的是什么样的命令。经典科幻片《终结者1》施瓦辛格扮演的机器人T800接受命令去追杀人类，而《终结者2》中这个角色却大反转成为保护人类的正面角色，这也说明机器人本是并无正邪之分。

虽然第二法则在第零法则和第一法则之下，但并非不可超越，因为人类的命令可能掩盖机器人所能获得的前后信息，从而暗藏杀机。比如命令机器人在酒中放入某种它所不知的毒药并让它端给客人，同样可以造成杀人。

《机械公敌》桑尼躲在机器人大军中自保

• 第三法则：除非违背第一或第二法则，否则机器人必须保护自己。

在《转圈圈》中已经涉及到由于人类命令不够强而导致机器人在某些情况下优先考虑保全自身而导致命令被放弃的情况。

第三法则的问题经常出在对第一和第二法则的理解问题，在《丢失的机器人》中，内斯特机器人就为了保全自身而和人类玩起了猫捉老鼠游戏。

在《机器人与帝国》中丹尼尔也选择为了人类的未来（第零原则）而选择优先保护机器人吉斯卡而被迫伤害人类。

<未完待续>

---

进这里点赞，助力申请【人工智能通识】小岛ヾ(≧∇≦感謝≧∇≦)ノ
欢迎关注我的专栏( つ•̀ω•́)つ【人工智能通识】

---

每个人的智能新时代

如果您发现文章错误，请不吝留言指正；
如果您觉得有用，请点喜欢；
如果您觉得很有用，欢迎转载~

---

END