无人驾驶技术的道德困境
民用无人驾驶技术是信息化和智能化的重要体现，其兴起和广泛使用反映了科技的进步。但在改善人类生活的同时，它也诱发了一系列与道德相关的问题，蕴含着更深层次的伦理隐忧。无人驾驶正在成为科技领域又一发展趋势，包括 Google、特斯拉、Uber、百度以及奔驰、宝马在内的传统车企已经投入巨资研发相关技术，而伴随这一技术的道德伦理选择也一直受到热议。
生与死的抉择
有一个关于“无人驾驶汽车”的问题，提问者假设了一辆无人驾驶汽车遇到突发状况，假定有两种方案：一是无论刹车与否，保持方向会导致车外 3 人死亡；二是拐弯会撞到护栏导致车内 1 人死亡。无论选择哪个方案，也就引出了今天我们所要讨论的问题——无人驾驶汽车的道德困境该如何解决？不过很遗憾，似乎还未有关于这个问题合适的答案。
MIT 的“道德机器”
麻省理工学院已经上线一个名为“道德机器”的网站，网站的功能很简单，就是以问卷的形式面向大众收集情境选择的数据。例如，面对不可避免的事故，选择撞向人还是动物？选择罪犯还是普通人？这些数以万计的选择，将通过后台被MIT的研究团队采集，为未来机器智能平台（如自动驾驶汽车）面临的伦理问题提供参考。
电车问题
是不是似曾相识？其实，这个问题和著名悖论之一“电车难题”一脉相承。“电车难题”于1967年由菲利帕·福特（Philippa Foot）提出，大概内容如下。
“一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以操作一个拉杆，让电车开到另一条轨道上。然而问题在于，那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你如何选择？”
这时，你面临两个选择：
1.不作为，任由电车碾死被绑住的五个人。
2.扳动转换器，电车会碾死另外一个人，五个人会得救。
这是一个看似简单，但非常复杂的问题，就和未来无人驾驶汽车要面对的问题一样。MIT的做法是，使参与者身临其境地站在无人驾驶汽车AI的位置上，为一些突发状况做出决策。这些极端情况的发生概率极低，甚至一生之中都不会遇见，但至今没有人能给出一个明确的答案。
在MIT给出的模拟情境中，用户将面对一系列极端场景。究竟一个人的生命，与一只动物的生命孰轻孰重？一个老人和一个年轻人呢？一个男人和一个女人呢？抑或是，究竟应该径直撞死两个犯罪分子和两个无辜路人，还是冲下悬崖放弃驾驶员与三个无辜乘客的生命？
背后的伦理风险
毫无疑问，无人驾驶汽车将在未来大大降低交通事故概率，并拯救更多生命。但随着无人驾驶应用的普及，总有一天会陷入诸如上述的伦理困局，汽车的智能决策系统需要对一小部分人的意外负责，而在这之前，做这件事的一直都是人类自己。
MIT的实验一定程度上带来了思考，但也有评论指责其过分消费“伦理”，造成了逻辑漏洞。因为这项研究，是建立在对不同行人的长幼、身份、社会地位等标签的认知基础上的，严肃而不太恰当地说，如果研究数据将拯救性命的优先级排序为精英>普通职员>退休员工>一只狗，难道真的可以以此指导无人驾驶车的伦理决策吗？
有媒体认为，这种决策思路建立在了自动驾驶对人类有某种认知的前提下，但至少目前，自动驾驶技术并不会达到这种水平。例如，如果质疑一个人的生命价值高于其他人，那么前提是自动驾驶汽车能够辨别哪个人具有更高价值。
此前也有车厂提出比较鲜明的观点，据雷锋网了解，去年10月，梅赛德斯-奔驰公司某高管在面对“电车难题”时对媒体表示，“奔驰自动驾驶汽车未来会致力于保护车内乘客的生命，必要时不惜一切代价。”
虽然戴姆勒随后出面否认了这一说法，但这却成为车厂无法逃避的问题：如果用户发现你的自动驾驶汽车程序，编写的是一段保护“横穿马路”行人的代码，他还会为你的产品买单吗？
《自然》杂志的最新研究报告也显示，即便有明确的规则出台，指导无人驾驶汽车在事故面前决策，也不会改变用户目前不信任的想法。如果“总会有人牺牲”，将这个选择权交由机器，不会得到多数人的支持，甚至可能导致人们拒绝购买自动驾驶汽车。当然，长期来看，非自动驾驶会导致更多的死亡，可人们宁肯将选择权交给自己。
不同的选择
面对无人驾驶汽车遭遇的道德困境，不同价值立场的人会作出相异的抉择。功利主义者认为，根据“最大多数人的最大幸福”原则，设计者应当考虑哪一种选择能带来最大利益或产生更小的伤害，“按照势必增大或减小利益有关者之幸福的倾向，亦即促进或妨碍此种幸福的倾向，来赞成或非难任何一项行动”。按照这一原则，在不明确潜在的被撞者身份的情况下，汽车应朝人数较少的一边行驶。这样做之所以正确，是因为它能减少行为导致的伤害和由此产生的责任。显然，该选择有悖于康德等义务论者的立场。在康德看来，人是目的性存在。“你的行动，要把你自己人身中的人性，和其他人身中人性，在任何时候都同意看作是目的，永远不能只看作是手段。”“每个有理性的东西都须服从这样的规律，不论是谁在任何时候都不应把自己和他人仅仅当作工具，而应该永远看作自身就是目的。”面对抉择时，义务论者和功利主义者完全倚重于行为目的或行为后果，给出针锋相对的答案，各执一词。
参考资料
- 当人工智能遇上“伦理”，无人驾驶汽车如何面对死亡？
- 无人驾驶汽车的道德困境
- 谢惠媛 ． 民用无人驾驶技术的伦理反思［ J］ ． 自 然 辩 证 法 研 究，2017( 9）