【科普】阿西莫夫和机器人三大法则(5)

欢迎关注我的专栏( つ•̀ω•́)つ【人工智能通识】
进这里点赞，助力申请【人工智能通识】小岛ヾ(≧∇≦感謝≧∇≦)ノ

---

在阿西莫夫提出以后，很多科幻作家对机器人三大法则提出了增补和修改。

上一篇【科普】阿西莫夫和机器人三大法则(4)

《机械公敌》剧照

在1990年代，罗杰·麦克布莱特·艾伦Roger MacBride Allen撰写了阿西莫夫宇宙故事的三个外传，《卡利班Caliban》, 《地狱Inferno》和《乌托邦Utopia》。他设定的机器人法则和阿西莫夫略有不同：
第一法则：机器人不得伤害人类。（去除了不能坐视不管）
第二法则：除非违背第一法则，否则机器人必须与人类协作。（不再强调被命令）
第三法则：否则机器人必须保护自己避免伤害。（人类无法命令机器人摧毁自己）
第四法则：除非违背以上法则，机器人可以做自己喜欢的事。

在这里，机器人被视为几乎和人类同等的尊重，是人类的伙伴而不再是工具或奴隶。

在基地续集后传三部曲《基地的恐惧Foundation's Fear》,《 基地的混乱Foundation and Chaos》 和《基地的胜利Foundation's Triumph》中，描述了以机·丹尼尔为代表的机器人和机·卢杜威克R. Lodovic。丹尼尔一派遵循第零法则，坚持让机器人干涉人类社会发展以避免战争伤害。卢杜威克一派则认为尊重人类自己的选择任其发展，同时它们认为不能为了人类的利益而牺牲机器人和外星生物，它们还发明了凌驾于第零法则之上的负一法则：

机器人不能伤害智慧生物，也不能坐视智慧生物受到伤害。(A robot may not harm sentience or, through inaction, allow sentience to come to harm.如有更好翻译请指正）

其他一些被附加的法则还包括：

• Lyuben Dilov提出的第四法则，在所有情况下，机器人必须明确自身作为机器人的身份。（A robot must establish its identity as a robot in all cases.）
• Nikola Kesarovski提出的第五法则，机器人必须清楚自己是机器人(A robot must know it is a robot.）
• Harry Harrison提出第四法则，机器人必须再生产，但不能违反第一和第二法则（A robot must reproduce. As long as such reproduction does not interfere with the First or Second or Third Law.）
• Hutan Ashrafian提出第六法则即AIonAI法则，被赋予人类理性和道德感的机器人，应互相以兄弟相待（All robots endowed with comparable human reason and conscience should act towards one another in a spirit of brotherhood.）

但是，无论如何，机器人法则都包含着众多的歧义和漏洞，主要集中在以下几个方面：

• 由于缺乏上下文或信息不对称导致机器人可能根本不知道自己违反了法则。 比如命令机器人向墙后面扔石头而不告知可能会砸死墙后面的人。

• 对人类定义模糊不清。如何判断对方是一个人类而不是人形机器人？外星人是不是人？外国人是不是人？在《机器人与帝国中》索拉力星的机器人就被设定为只识别那些会使用本星球方言的星际移民，而其他人类则不被视为人类。

• 对机器人定义模糊不清。如果一个机器人认为自己也是人类，那么第一法则就会对自身生效，而第二法则就会变得无效。

• 对行为结果难以评估。什么样的行为对人类整体才是有害的？像《机械公敌》中VIKI认为把每个人都关押起来以确保安全不受损害是否合理？强制把跳入水中救人的警察拉上岸来是否正确？

如果继续沿着阿西莫夫的方向走下去，也许注定无解，因为机器总是运行在条件信息完整的情况下，而现实世界永远要在信息不完整的情况下尝试做出最优决策，在现实中没有假设，更无法用理性决断出结果是否最优。

<未完待续>

---

进这里点赞，助力申请【人工智能通识】小岛ヾ(≧∇≦感謝≧∇≦)ノ
欢迎关注我的专栏( つ•̀ω•́)つ【人工智能通识】

---

每个人的智能新时代

如果您发现文章错误，请不吝留言指正；
如果您觉得有用，请点喜欢；
如果您觉得很有用，欢迎转载~

---

END