自动驾驶，关于人类自身伦理

背景

最近看了李开复老师写的《AI·未来》，里面描述了很多关于未来的一些畅想和李开复老师的分析，其中关于自动驾驶部分的一些分析，让我想到了很久前听过的一位哈佛大学教授讲的“火车困境”的案例。

案例大概意思是，一列火车在正常轨道上高速行驶，有5位小朋友在当前轨道上低头玩耍，在另一条废弃的轨道上有1位小朋友，司机看到时刹车已经来不及，在前面刚好有个岔路口可以将火车切换轨道，司机应该怎么做，如果直接开过去会撞到5位小朋友，如果切换轨道会撞到1位小朋友，你会怎么做，自动驾驶汽车应该怎么做？当然自动驾驶目前讨论的是汽车，不过，如果汽车实现了自动驾驶，那火车本身区别应该也不大，或者，把案例中的火车直接改成汽车也可以进行讨论。

换个更接近生活的例子，当自己在一个较窄的马路上开车时，如果忽然一位小朋友冲到马路上，马路旁边的有个柱子或者是悬崖，你会怎么做，撞向小朋友还是撞向柱子或开下悬崖？自动驾驶汽车应该怎么做？

 

思路

具体案例的分析，已经有非常多的讨论，基本支持和不支持的都有，支持切换的主要考虑当前直接可以看到的对5位小朋友生命的危险，不支持的表示1位小朋友也是生命，生命没有贵贱多少之分，而且小朋友本身是在安全区域玩耍，是另外5位小朋友不遵守安全规则的。

在具体的案例中，如果是人进行选择，不论怎么选都是可以理解和给出解释的，但如果要人工智能进行选择，在这样的情景下需要有确定的方案，这个方案就是一个答案，那这个答案可以说服所有人吗？

对于第二个例子，如果撞向小朋友是对他人生命的伤害，当然是他不遵守交通规则；但如果撞向柱子或者开下悬崖，受伤的就是自己，作为成年人，可能自己的选择是宁愿让自己受伤也不愿意伤害他人，在千钧一发之际不论怎么选择都可以被理解。但是，自动驾驶汽车该如何设定呢，如果设定为保护路人，那还有人愿意开这样的车上路吗，如果保护车里人，那路上人能被说服吗？

 

个人总结

每年我国因为交通事故的伤亡人数就有26万，虽然国家在积极推进自动驾驶技术的发展，甚至在杭州专门的公路运行自动驾驶汽车，而且，现在自动驾驶的安全性已经超出人类，但仍然不敢轻易将该魔盒打开，就是因为目前还需要进一步测试，否则一旦有问题就是全面问题的爆发，而且上述伦理问题还没有让所有人都满意的答案。

不过，科学技术还是会继续往前发展，也许，随着技术的成熟和行业的发展，只要给出一个大多数人可以接受的准则，大家都会按照准则调整自身的思考方式和价值观。

---

欢迎关注我公众号，为你增加看世界的维度。