IT思维

文章页右侧顶部广告

自动驾驶的道德问题是真实存在的,但未必就是“电车难题”

文/台伯河 编辑/易建成

这一次人工智能的狂飙突进很有可能是真的。

技术和基础设施的进步让人工智能真的可以投入到实际应用中去。目前来看,人工智能的实际应用中一个非常宏伟也非常有前景的领域就是——自动驾驶

自动驾驶有望将人类从驾驶汽车,这个最不安全也是最浪费时间精力和各种资源的领域解放出来,将带来整个汽车行业乃至整个社会形态的革命。

然而自动驾驶的安全性疑虑和呼声一直不小:总有很多人不放心将自己的性命寄托于一台机器上。这种怀疑也衍生出了很多不同的版本,其中最有趣的就是传统道德哲学中的“电车问题”在新时代的翻版:自动驾驶的道德问题。

道德问题的源起

如果一辆自动驾驶的汽车遇到了这样一个困境:在马上就要出车祸的当下,左边是一个老人,右边是五个孩子,它应该怎么判断,如何选择行动?我们应该将这种道德判断纳入自动驾驶系统开发的考量吗?

首先,我们可以先回顾一下这个道德问题的源起。

“电车问题”是道德哲学的一个经典问题:如果说开来一辆火车,前面是两条岔路,你手头有一个扳道岔,你如果不扳,火车就会走原路撞死五个人;如果你扳了,火车就会走上岔路撞死一个人。请问你是扳还是不扳呢?

这就是传统道德哲学所争论的核心:功利主义和绝对主义的区隔。

功利主义说:当然是死一个人要比死五个人好;绝对主义则说:你扳道岔的动作等于是杀死了一个原本不会死的人,所以并没有哪个比哪个更好!这些争论持续了好几代人的时间,电车问题也出现了无数个不同的版本,直到如今这个自动驾驶的时代,仍然会有人问与之相似的问题。

但这里的问题自然就是:一种绝对的,抽象化的道德问题,是否适用于具体的情境分析?传统的道德哲学适用于我们对具体问题的判断吗?或许我们要引入现代的认知科学的研究结论。

长久以来,古典意义上的道德哲学家都基于理性来推导道德的实在性。他们认为人类是通过理性来判断道德问题的,功利主义或者绝对主义,都是理性基础上的争论。然而现代认知科学告诉我们:人类对道德的判断根本就不是通过理性做出的。

心理学家丹尼尔·卡尼曼在那本著名的《思想快与慢》中指出,人类的大脑分成两个系统:

依赖直觉的系统1,与理性的系统2。系统1反应非常快,不需要我们投入多少关注就能够完成任务,比方说游泳,骑车,或者认脸;而系统2则需要人的有意努力才能够工作,理性的“思考”,也就是“想”,是系统2的任务,它精确却缓慢,耗能很高。

乔纳森·海特在认知科学著作《正义之心》中表示:之前的道德哲学家往往将道德视作理性的结果,也就是说,是系统2的任务;但是心理学实验表明,道德在人类的实际认知中,很大程度上(并非是完完全全的)是系统1的工作;而系统2只起到了一点“事后辩护”的工作。

他做了一个实验:加大实验对象的系统2负担,比方说记住一个很大的数字,然后再做道德判断,结论是在系统2不堪重负的情况下做道德判断仍然很快,这说明道德判断不是系统2的工作。

所以说,人类做出道德判断,实际上是基本诉诸直觉的。

在这里,我们可以将自动驾驶的道德问题拿来考验人类驾驶员。在一个实际的场景中,你就会发现这样的一个理想假设问题是毫无意义的:在即将出车祸的危急时刻,人类是依靠本能来反应,99%的人类司机都不会在这个时候思索一些复杂的诸如“该撞哪边”这样的道德哲学问题——那么我们为什么会要求机器来完成这种人类都完不成的事情?

回到现实,就会发现目前这样的给自动驾驶所提出的道德问题实际上毫无意义。

现实生活中并不会出现你刚好站在一个扳道岔,前面是一辆没有刹车的火车这样的情况;同样,现实的交通中同样也不会出现一条笔直的高速公路,前面是一堵墙,左边是一位老奶奶,右边是一个小学生,就看你要撞谁这样的情况。

现实中的交通场景,我们只能规约到现实的条件中来:车辆轮胎的抓地力如何?刹车情况如何?路面是否湿滑?左右行人距离和方向?临车位置?

这一切都要纳入考量,然后让人工智能来判断最优的解决方案——在99.999%的情况下我相信机器的解决方案都比人更优,因为机器不会走神,不会酒驾,不会打瞌睡,永远警惕。

况且,在正常驾驶中机器显然不会出车祸,而出车祸显然是机器遇到了故障,这也就意味着你要让一台机器出了故障的情况下正常工作——这基本就等价于停机问题:你如何能够要求一台计算机去预测它的停机时间?

我认为“自动驾驶的道德问题”实际上真的存在,但完全不是我们所看到的这种“要撞谁”的天真问题:自动驾驶的道德问题实际上只有一个:我们应不应该尽快普及自动驾驶。

如何降低死亡率,是最大的道德问题

全世界每年因交通事故死亡人数超过百万,中国每年交通事故死亡超过25万,占四分之一。如何降低这个数字,就是最大的道德问题。

而统计结果表明,交通事故有70%是人为因素;考虑到很多原因实际上是人类自身的生理限制,纯粹的机械因素在交通事故中的占比应该还要更低。我们甚至可以这样说:在交通中最危险的不是任何一种机器,而是人类自己。

所以,目前自动驾驶最大的道德问题在于,我们对于人类驾驶和对于自动驾驶的态度是完全的双重标准:

我们对于自动驾驶的看法是,在自动驾驶系统能够保证100%不出错之前都不能使用它——这个标准自然是不可能达到的,世界上没有完美的东西。而对于人类驾驶的标准——其实是没有标准。

如果我们统一标准,将自动驾驶的标准设定为“统计意义上人类司机的平均水平”,那我相信这一标准早就达到了。现在我们看到业界对于自动驾驶系统的开发,无非是在“超过95%以上人类司机的水平”还是“超过99%以上人类司机的水平”上努力——这样的努力当然有意义,但是从整个大图景来看,不是雪中送炭而是锦上添花。

所以自动驾驶的道德问题的答案是很清楚的:我们应该尽快的普及自动驾驶,所要跨越的,更大程度上是法律和人心的障碍,而不是技术障碍。

自动驾驶下的世界肯定要比现在更美好得多:交通事故发生率有数量级的下降,人们不用再担心被一辆酒驾或者打瞌睡的司机撞到,机器也不会忽略交通标志,在晚上也能看得清清楚楚。

作为乘客,我也不需要再在长途车上浪费我的精力和时间,忍着疲劳去开10个小时车:自动驾驶情况下这段旅程我大可以睡一觉,玩游戏,看风景,干什么都行,就跟我们现在坐高铁一样。

大城市糟糕的交通情况也将会有极大的改善:统计数据表明,在任意时刻,80%以上的车辆都是静止的。

如果我们能够通过自动驾驶将车辆利用率提高到50%,城市中也减少了30%以上的车辆:道路不再会是停车场,多余的停车场大可以用来改建成绿地,公园,或者其他更加能够让人放松的元素。

我的推断是2030年前后,人类驾驶将被完全取缔:让人驾驶将会是一项极不道德的行为,就如同现在的自动驾驶一样。

我会开车,但是自从我经历过连续驱车两天,每天10小时以上的旅行之后,我就变成了一个坚决的自动驾驶拥护者。从功利主义角度,自动驾驶毫无疑问将会拯救很多人的生命,他们原本将会被水平差劲、喝过酒或者正在打瞌睡的人类司机撞死。

于是,如果是你站在这个扳道岔上,失控的火车原本走上的那条道路上有好几百万人,而这条岔道上一个人都没有,那你是否要扳动这个道岔呢?

雷锋网特约稿件,未经授权禁止转载。

雷锋网

国内最早关注智能硬件行业的互联网科技媒体,这里有最酷炫的智能硬件终端,有深度的创业介绍,雷锋网是移动互联网时代智能硬件终端第一媒体,我们在这里展现未来。

Return to Top ▲Return to Top ▲