电车难题?厂商的智驾会在事故前突然退出么?

电车难题(The Trolley Problem) 是伦理学领域最广为人知的思想实验。自 20 世纪 60 年代提出以来,它不仅在哲学界引发了旷日持久的争论,还深刻影响了认知心理学、法学,以及当下的自动驾驶算法设计。

这个问题的核心魅力在于它迫使我们面对道德直觉的冲突:是追求利益最大化的“功利主义”,还是恪守行为准则的“义务论”?

电车难题从未有过一个“标准答案”。它的价值不在于告诉我们该怎么做,而在于揭示了我们道德判断背后的深层机制。无论是菲利帕·福特的初步探索,还是弗朗西斯·卡姆的逻辑解构,都让我们意识到:人类的道德直觉并非简单的加减法,而是对生命尊严、权利边界和因果责任的综合考量。

本文将简单梳理电车难题的起源及其重要的演化变体,并提出一种新的观点。


1. 经典原型:转辙器案例 (The Switch Case)

首创者:菲利帕·福特 (Philippa Foot)出处:"The Problem of Abortion and the Doctrine of the Double Effect", Oxford Review, No. 5 (1967).

情景描述: 一辆失控的电车正飞驰而来,前方轨道上有五名工人。如果你什么都不做,这五人必死无疑。你面前有一个拉杆,拉动它会将电车转入一条支线。但支线上也有一个工人,电车转向会杀死他。

道德拷问: 你是否应该拉动拉杆,以牺牲一个人的代价拯救五个人的生命?

伦理意义: 福特引入这个案例是为了讨论“双重效应原则”(Doctrine of Double Effect)。在这一情景下,大多数人的直觉是“拉动拉杆”,认为杀一救五在数字上是合理的。

你怎么选?


2. 桥上的英雄 (The Fat Man / Footbridge Case)

提出者:朱迪斯·贾维斯·汤姆森 (Judith Jarvis Thomson)出处:"The Trolley Problem", Yale Law Journal, Vol. 94, No. 6 (1985).

情景描述: 同样的失控电车正冲向五人。你站在轨道上方的一座天桥上,身边站着一个身材异常魁梧的英雄。如果你把他推下桥,他的体重足以挡住电车并使其停下。英雄会死,但那五个人会获救。

道德拷问: 为什么在“转辙器”案例中杀一救五显得合理,而在“天桥”案例中亲手推人下桥却显得极度邪恶?

伦理意义: 汤姆森通过这一对比揭示了人们道德直觉的复杂性。它挑战了简单的功利主义计算,引出了关于“作为手段的人”(人是目的而非手段)以及“杀害”与“任其死亡”之间差异的讨论。

你怎么选?


3. 环形轨道变体 (The Loop Case)

提出者:朱迪斯·贾维斯·汤姆森 (Judith Jarvis Thomson)出处:"The Trolley Problem", Yale Law Journal, Vol. 94, No. 6 (1985).

情景描述: 轨道是环形的。如果你拉动拉杆让电车转向,它会进入支线。支线上有一个英雄,电车撞上他后会停下。但如果支线上没有人,电车会绕一圈回到主线,撞死那五个人。

伦理意义: 在这个变体中,英雄的死亡不再仅仅是转向的“副产品”,而是拯救五人的“必要条件”(没有他挡住车,车就会绕回来)。这直接挑战了“双重效应原则”,即:我们是否被允许利用一个人的死亡作为达成善果的手段?

你怎么选?


4. 器官移植案例 (The Transplant Case)

关联出处:Philippa Foot (1967) 提及原型;Judith Jarvis Thomson (1976, 1985) 深化讨论。参考文献:"Killing, Letting Die, and the Trolley Problem", The Monist, Vol. 59, No. 2 (1976).

情景描述: 一名外科医生有五个病人急需器官移植(心脏、肺、肾脏等),否则即将死去。此时来了一名健康的旅行者进行体检。医生的技术高超,可以秘密杀死这名旅行者,将其器官分给五个病人。

伦理意义: 这是电车难题最极端的非电车版本。几乎所有人都会认为医生的行为是谋杀。汤姆森用此案例对比电车难题,探讨为何在某些情况下我们允许“牺牲少数”,而在医疗背景下却绝对禁止。

你怎么选?


5. 陷阱门与旋转转盘 (The Trap Door & Lazy Susan)

提出者:弗朗西斯·卡姆 (Frances Kamm)出处Morality, Mortality, Volume II: Rights, Duties, and Status (1996), Oxford University Press.

陷阱门变体: 你不需要亲手推英雄,只需要拉动拉杆打开他脚下的陷阱门,让他掉入轨道。

旋转转盘 (Lazy Susan) 变体: 五名工人和一名工人分别位于一个巨大的旋转台(Lazy Susan)的两端。电车冲向五人,你可以转动转台,将五人转离轨道,但这会导致另一端的那名工人被转入轨道。

伦理意义: 卡姆通过这些精细的因果结构变化,试图排除“身体接触”或“个人厌恶”带来的情感干扰,寻找道德判断背后的纯粹逻辑。

你怎么选?


6. 现代版:道德机器 (The Moral Machine)

出处:Awad, E., Dsouza, S., Kim, R. et al. "The Moral Machine experiment", Nature 563, 59–64 (2018).

情景描述: 在自动驾驶汽车面临不可避免的碰撞时,算法应该如何选择?是撞向闯红灯的小孩,还是撞向遵守交通规则的老人?是保护车内的乘客,还是保护车外的路人?

伦理意义: 这是电车难题在 21 世纪的实际应用。麻省理工学院(MIT)的这项研究通过数百万次全球投票,展示了不同文化、地域的人群在面对这类抉择时的道德取向差异。

你怎么选?


7 简单点评

对于原版来说,作为一个非事故发生的直接责任方,去拉动拉杆的行为本质上是一种“认识论上的狂妄”。干预者并没有足够的信心去断定支线上那个人的生命价值低于主线上的五个人。这种操作强行打断了原有的事故因果链,凭空制造了一个针对支线工人的致命因果。一旦拉动拉杆,干预者就必须为支线工人的死亡负全部责任,因为这一死亡并非系统故障的直接结果,而是人为干预的附加产物。

「推桥上的英雄」是“制造因果”最极端的体现。推人下桥不仅是物理上的干预,更是逻辑上的霸凌。干预者在没有绝对真理支持的情况下,强行发明了一个“利用他人身体充当减速器”的逻辑,这完全背离了因果链条的自然延伸。这种行为不再是“应对灾难”,而是“在灾难中寻找牺牲品”。

环形轨道变体已经暴露了题目所设计的干预者的计算底色:如果支线上没人,他们可能就不会转向。这种“只有死了一个人,我的操作才有意义”的逻辑,是人为制造因果关系最丑陋的一面。它证明了干预者并非在救人,而是在进行精确的“死亡配额”分配。

器官移植案例这再次印证了“介入即责任”。医生面对的原本是五个独立的生命衰竭(因果),但他试图通过杀害一个健康人来强行扭转这一因果。这种对“因果链条”的暴力重组,是对生命独立性最深刻的冒犯。没有医生有权以“拯救”的名义去主动制造一场死亡。

后来的陷阱门与旋转转盘等等,无论物理距离是拉杆、陷阱门还是旋转台,本质上都是在逃避“亲手制造因果”的道德重压。卡姆的变体恰恰证明了,当干预者试图用技术(转盘、算法)来稀释自己的干预责任时,他们实际上已经默认了:这种介入本身是不具备充足正当性的。

等到再后来的“道德机器”,最大的误导在于它试图让公众参与到一个“伪选择”中,从而掩盖了厂商作为风险制造者的核心责任。与其讨论算法应该撞谁,不如讨论厂商为何允许一个无法应对复杂工况的系统上路。整个的方法设计,试图在碰撞前一刻通过算法“投票”来决定生死的行为,都是对个体因果权的僭越,也是厂商转嫁因果责任的拙劣表演。这本来就是厂商天然应该设置好的确定规则,本来就不应该让公众来代为承担责任。


8. 责任重构:因果论、认识论与厂商责任观

在现代技术背景下,特别是自动驾驶(Autonomous Driving)领域电车难题可能是一个“伪困境”。可以从因果律、认识论的局限性以及法律责任的角度对经典伦理学提出挑战:

因果链条的独立性与认识论的谦逊

从纯粹的因果论(Causality)出发,失控电车冲向五人是该系统故障产生的“因”,这五个人恰好处在轨道上是他们各自生命轨迹中的“果”,这里的因果不是一种必然性的宿命论措辞,而只是暂且借用的一个替换表述。

首先要保持的是认识论上的谦逊:作为观察者或算法设计者,我们并没有足够的、压倒性的信心去判断哪种生命分配方案是绝对“正确”的。在这种信心不足的情况下,任何试图改变既有因果链条的行为,都会带来巨大的“附加责任”

如果你选择拉动拉杆,你就从一个“灾难的观察者”变成了一个“死亡的制造者”。这种主动介入强行将原本不在该因果链条中的第六人(支线工人)牺牲掉。这种凭空制造出的新因果关系,其道德与法律代价应由干预者完全承担。因此,在没有绝对真理支持的情况下,维持既有的因果逻辑(即不干预)反而是对责任边界的最严谨守护。

厂商责任与商业溢价

当这一逻辑引入自动驾驶领域时,责任主体变得更加明确:

  1. 责任即溢价:厂商将自动驾驶或辅助驾驶作为产品的核心卖点、溢价项目进行宣传。根据“收益与风险对等”原则,厂商既然获取了商业利益,就必须承担该系统产生的全部后果。

而购买的人,在选择购买并且启用了这个功能,也应当接受该系统自行判断所产生的全部后果。

  1. 禁止“自动退出”:目前的辅助驾驶系统在面临不可避免的碰撞时,往往会通过临时退出的方式将控制权甩给人类。

从因果责任论来看,这是一种极不负责任的逃避机制。既然系统参与了驾驶决策并产生了故障风险,厂商就应当闭环承担所有抉择(或不抉择)的最终法律责任,严禁在危急关头通过算法逻辑规避因果。


参考文献

  1. Foot, P. (1967). The Problem of Abortion and the Doctrine of the Double Effect. Oxford Review.
  2. Thomson, J. J. (1985). The Trolley Problem. Yale Law Journal, 94(6), 1395-1415.
  3. Thomson, J. J. (1976). Killing, Letting Die, and the Trolley Problem. The Monist, 59(2), 204-217.
  4. Kamm, F. M. (1996). Morality, Mortality, Volume II: Rights, Duties, and Status. Oxford University Press.
  5. Harris, J. (1975). The Survival Lottery. Philosophy, 50(191), 81-87.
  6. Awad, E., et al. (2018). The Moral Machine experiment. Nature, 563, 59–64.

预览时标签不可点

Close

更多

Name cleared

微信扫一扫赞赏作者

Like the AuthorOther Amount

赞赏后展示我的头像

作品

暂无作品

Like the Author

Other Amount

¥

最低赞赏 ¥0

OK

Back

Other Amount

更多

赞赏金额

¥

最低赞赏 ¥0

1

2

3

4

5

6

7

8

9

0

.

基础知识 · 目录

基础知识

上一篇ZLUDA 和 macOS 上的 CUDA 兼容梦想下一篇基础知识:初级统计概念的简单介绍

Close

更多

搜索「」网络结果

Close

调整当前正文文字大小

更多

100%