1
您应该听说过道岔难题（the trolley problem）。
南边开来一辆火车，前面轨道岔开两条，左轨上躺着五个人，右轨躺一个。闸在您手边：扳，轧死一个；不扳，死五个。扳还是不扳？
或者换个方法：铁轨旁有座桥，桥上有个胖子。把胖子推下，正好能砸在火车前使其急停。推，死一个胖子；不推，死五个。推还是不推？
以上问题，能脱口而出的，基本都是政治正确的回答：让“good”最大化，“bad”最小化，牺牲一个，拯救五个。因为人类做道德判断时，会先诉诸直觉，直觉之后才轮到理性。
现在换个问法：
您坐在一辆拉风无人驾驶特斯拉里，向人行道方向冲去。冲过去，过路行人伤亡若干；躲开，副驾驶位置会撞墙，您卒。
不过这次没人会问您的意见，完全由车里的代码决定。您能做的决定只有：要不要买一辆可能会“牺牲”自己的车？
当然不会，除非您已视死如归。但如果您知道代码规则是“如果只能救一个，就救车里那个”，那现在会买吗？
如果您这次说“会”，就等于把自己前面的答案全改了：因为这个代码的逻辑，是把人的生命分优先劣后：车里的是优先级，车外的都是劣后级。
在超级大数据时代，估计您的车已经能靠传感器分辨出：是不是人？什么年龄？什么肤色？男的女的？高矮胖瘦？黑人白人还是亚洲人？加上医疗数据，还晓得谁活得更久，谁病入膏肓；再加上居委会数据，也许还能分析出是不是DD人口？够不够ZZ正确？奔小康的概率大不大？
然后作出更“个性化”的决定：比如牺牲那个油腻的石家庄人。
等进入物联网时代，车和车还可以讨论一下，给各自车里的生物评级，对比，再决定谁去撞墙。
用人工智能来解决道德问题，就不会有直觉和理性的困扰了，全是计算题。
2
很多事情，如果开启上帝视角便一目了然。您之所以觉得现实中到处是道岔难题，是因为这仍然是个由人来做决定的世界。
人做道德决定，或回答功利问题时，首先要先给自己一个交代：“立场”是什么？也就是塔勒布老师的“Skin in the game（用自己的皮，撑自己设的局）”（在这里讨论过）。“皮”在哪里，您的答案就在哪里。
桑德尔老师在《正义》这本书里提出了道岔难题，没给答案，而是做了一件更重要的事：把所有决定脑袋的“屁股”，也就是您的立场，总结成三类：
1）自由；2）功利；2）共同善。
要么自由至上，基本天赋不可剥夺，我的命我做主；要么福利最大化，求最大多数人之最大利益；要么德性为原则，公民基本天赋由社会决定，共同体的善才是真的善。
您可能也听说过富勒老师那个惊悚的“十五份审判书”设想：洞穴里困了六个人，抽签决定杀死一个来充饥，后判死刑，陪审团一共出了15个版本的判决书，代表人类的15种立场，但都可归为桑老师的三类之一。
三种立场，足够概括道岔难题的所有可能答案。
3
如果道岔上不是五个人，而是一个区，一个城市，甚至全体国民呢？
这种重大决策，也许只能由历史上留了名的人来做：做别人不敢做或不能做的决定，更重要的是，决定后还能杠下历史责任。
家里的例子不好举，就用邻居三胖吧。
在承载七成中朝贸易的鸭绿江大桥被封十天、军工禁运、劳务禁输、煤不让卖、金融管道切断，再搭配“严寒2017”东北军演，和“警惕王牌”美韩军演等高强度经济军事两手压的情况下，三胖依然射，继续在所有人眼皮底下放窜天猴。
问，如何让他彻底消停？
如果把代码设定为以“瘫痪三胖战争意识”为最高“good”，其他均可牺牲；再剔除战争选项，就只剩“全面禁运”了：经济手段升到极致，把朝鲜视同交战国，民生物资、粮食药品、生活必需品通通封锁。
至此，一个标准的道岔难题就形成了：为了让一个胖子屈服，让全体朝鲜人民陷入饥饿、病痛和绝望；以社会崩溃为代价来瘫痪胖子的战争意识。这种决定做不做？
虽然朝鲜人民本来就没过过好日子，但这种折磨是三胖造成的，还是您造成的？历史代价要不要承担？
那交给机器会不会容易些？把美国总统公文包里的战争按钮交给人工智能是一种什么体验？把生死决定写进算法，责任会消失吗？能把道德写进去吗？科技能不能承担道德负担？
4
当然，跟经济学一样，以上假设可能永远不会发生。现实世界中，扳道岔和撞人行道情况发生的几率几乎为零，要给所有具体问题拿解决方案根本不可能。
而且，目光盯死在这里，就会进入我妈常说的“拿着锤子找钉子，到处都是‘不是问题’的问题”的错误。
因为真正的道德问题只有一个：
若干年后，当人类驾驶等DD劳动被完全取代，几千万工作将被抹去。司机只是开始，整个汽车工业，周边产业，会层层衍生开去。再往下想，如果不开车，就不用停车方便小憩，也用不到汽车旅馆，服务区，drive-in金拱门。再往下想，整个“车”的概念也没了，四个座还需要吗？驾驶盘还用得到吗？刹车脚踏，油门，也都没用了吧？
当这些改变发生时，把解决方案交给达尔文老师，让没有能力短时间进化的那群，优胜劣汰，自生自灭。才是那颗钉子。
道岔上的火车一定会来，该发生的没法阻止。唯一要决定的是怎么扳道岔，才能实现符合您立场的“greater good”。这是高管理水平的技术话，地毯式的肯定不行。
当然啦，以上全部是我的极端设想。不过凡事预则立不预则废，可以先搞个小试点，比如先从北京大兴区开始。