自动驾驶下的伦理困境

经典的电车难题

我们应该都听说过一个哲学困境，叫做“电车难题”，讲的是在一列急速袭来的失控列车前方，有一个人和五个人被困在了两道不同的铁轨，而这时我们有机会选择变动道岔，这会让本来冲向那五个人的列车转向另一道有一个人被困在铁轨上的轨道。这时你会做出什么选择？选择扳动道岔，牺牲本来无辜的一个人去救另外五个人，还是选择保持不变，选择让列车去冲向另外五个人？

这个问题有许多的变形，例如，这会变成了急速袭来的列车前方有五个人被困在了铁轨上，而你身边有一个胖子，如果你选择把他推下去可以挽救另外五个人的生命（而他会必死无疑），你会这样做吗？如果你相比上个问题更改了你的选择，比方说你上个问题选择了为了挽救更多的生命扳动道岔去救那五个人，而这个问题却选择不将胖子推下去拯救他们，上个问题信奉的原则在此失效，为什么会这样呢？又比如一场灾难过后，交通阻断，医疗条件紧张的急诊室先送来了一个重伤患者，又送来了五个轻伤患者。而此时只能选择将有限的人手去救那五个轻伤患者，那位重伤患者会死去，或者选择去救那位重伤患者，另外五位轻伤患者会因为得不到及时救助而死去，你会怎么分配呢？

这些电车难题都将我们处在了一个难以做出选择的困境当中，如果我们认为人与人的生命是平等的，无论何时都应该挽救更多的生命，选择幸福最大化（功利主义）。那么，这是不是代表我们可以牺牲少数人的利益来换取大多数人的利益呢？比如说抢夺一位富人的钱财将其分给穷人，将宗教信徒认为的异端送上火刑架。这时就会带来另一个问题，我们自己的权益如何得到保证，当我们处于少数人群时，会不会有抱着同样想法的人选择牺牲我们来换取其他人的利益或者快乐。

如果我们认为应该不干涉事情的发生，觉得应该先来后到、顺其自然，选择尊重自由（自由至上主义）。那么，这是不是代表我们可以为了自由可以对其他人的损失不管不顾呢？比如说一位明星举办演唱会，门票1000元一张，大家全都是自愿去买，也从中得到快乐，认为物有所值，那么政府为什么要对这其中的收入征税呢，难道我们认为自己凭能力得到的钱的所有权不应该全部归自己吗？如果我们从自由至上的原则出发，可能就会遇到这个问题，即自由与公正平等间的矛盾，我们是否对社会那些生活困难的人应该负有责任，毕竟我们没有压榨奴役他们获取收益，自己的收入也是合理合法的靠劳动或者自愿交易取得。

当然我们还可以从道德的角度，从每个事件中做出对得起自己内心德性的选择。只是，我们应该强迫他人也做出这样的选择吗，我们自己所尊崇的道德，又是否真的严丝合缝，切切实实的公正呢？比如说现在的韩国、新加坡每位成年男性都要服兵役，认为成为一名士兵为国防做出贡献是义不容辞的责任，逃避兵役则要面临被指控罚款甚至监禁。而美国、中国等一些国家主要采用志愿征兵制，通过不错的条件征召那些民众，而不会说每个人都必须强制成为军人。为何一方国民大部分认同的观念到另一个国家就截然相反了呢？我们所谓的道德标准是不是也无法始终站得住脚呢？

自动驾驶所引发的电车难题

或许我们会说，电车难题那个极端情况我们很少会碰到，就跟你妈和你男/女朋友同时掉进水里你先就谁一样无理取闹，没有意义。但是，在不远的将来，随着无人驾驶技术的普及，电车难题下的困境可能会在社会当中每天上演。当我们驾驶一辆无人驾驶汽车行驶在路上，前方突然跑出来了两个孩子，这时有两个选择，一是选择避让行人而司机会死亡，一是选择保证司机的安全而行人会死去，这时我们会怎么选择？又比如更改条件，孩子不是突然跑出，而是因为障碍物的遮挡导致汽车传感器未能提早识别，或是跑出的不是两个孩子而是五个孩子，你会愿意智能汽车牺牲你的生命挽救别人的生命吗？

又或者在你的选择不是失去自己的生命，而是可以调整行驶方向冲向对侧车道导致另一侧一个行人死亡，你会愿意智能汽车选择牺牲更少的生命去冲向那位无辜的行人吗？如果这些问题你都有了确切的答案的话，不妨考虑一下另外几种情况，比如说你确切的知道两个车道上的人，他们的性别、种族、年龄、社会背景、经济条件，这会对你的选择产生影响吗？比如突然冲出的是几位刚从银行抢劫逃出的年轻逃犯，而另一侧是一位正常过马路的老人。又比如说突然冲出的是几位年轻男白领，而另一侧是一位遵守交通规则但有犯罪前科又身患重病又没有收入的女性同性恋残疾大龄非洲裔流浪难民，这些条件会对你的选择产生影响吗？你觉得如果系统能够提前获得这些条件，它们应该被当成关键参数被考虑进决策系统吗？这些都是我们要面对的问题，如果是部分应该部分不应该，那么应该交给谁来决定应不应该呢？

上面所说的极端条件，当我们现在驾驶时也会可能遇到，我们可以以自己大脑本能反应来做出抉择而不用当心遭受非议。但是对于计算机来说，相同的程序，确定的输入有确定的结果，不同的人可以有不同的选择，但一个厂家所生产的汽车里相同的自动驾驶模块可能不得不要对这种情况做出选择，CPU有足够的时间计算出每种选择导致的不同后果的概率和对应的损失，那么谁要扮演这位上帝的角色，决定谁生谁死呢？

下面提出三种可能的解决方案

交给用户自己

俗话说，顾客就是上帝，商家可以会选择将智能模块参数的配置交给顾客来选择，分为“利己”和“利他”两种车型（甚至更多），如果大部分人都选择利己的车型，那对于商家来说也无可非议，毕竟顾客永远都是对的。只是，这种情况下，还会出现若干个问题，当我们作为一名行人正常的走在大街上，希望突然有一辆为了躲避更大损失的汽车朝自己冲来吗？对于司机来说，选择不同的配置所导致不同的后果，自己承担的责任有没有变化呢，比如汽车为了躲避1%导致司机死亡的紧急状况选择冲向100%导致10位行人死亡的路线，司机应该为自己的选择承担额外的刑事民事责任吗？这其中的概率大小对应的权衡，也应该交给用户自己确定吗？

交给政府法律

另一种思路是让政府强制立法说必须以保证司机安全为先，或者以保证行人安全为先。但这会带来一个问题，我们是不是将道德立法了呢，是不是将本来应该是自由选择的道德绑架到了每个人头上了呢，为什么司机不能自己决定自己的生死呢？以及其中的界定标准应该一刀切的划分吗？

算了，我不选了，随机吧

还有一种思路，就跟我们在抽奖摇签一样，选择最省事最不操心的选择，遇到一个紧急情况，将选择交给随机数，生死有命富贵在天，摇到哪走哪，觉得这样子是让上帝来选择。同样，这也是一种最不负责任的选择，等于是将生死看做儿戏，全盘依靠所谓的命运行事。

后言

虽然无人驾驶技术/自动驾驶汽车会给我们带来这种很难选择的伦理困境，将电车难题切切实实带到我们身边。但是，纵观全局，无人驾驶技术仍然是利大于弊的。首先，目前的交通事故有超过大部分都是因为司机分心、疲劳、不遵守交通规则等原因引起的，无人驾驶技术可以有效的降低事故的发生率和死亡人数。其次，无人驾驶技术的普及可以让司机从乏味又需要精力高度集中的驾驶中解放出来，将精力用于其他更能带动经济技术的行业。当然，你也可能把节省出来的时间精力用来刷微博知乎抖音头条朋友圈空间ins...就跟你现在在车上作为乘客时做的事情一样。

参考资料

《公正，该如何是好？》Justice, What‘s the right thig to do? （美）迈克尔·桑德尔

《今日简史》 （以色列）尤瓦尔·赫拉利