自動駕駛汽車導致的不同事故中選擇誰應幸存、誰應死亡。該實驗結果發表在2018年10月24日《自然》（Nature）雜志上。

幸運的是，這類涉及生死的殘酷選擇在現實中十分少見，而且自動駕駛汽車總體來說更安全，使得這種兩難困境更為罕見。但是，許多哲學家和工程師都認為，自動駕駛系統在日常行車中，應該包含針對這種兩難困境的執行方案。“我認為，在現實中這個關鍵性問題每天也將多次遇到，只不過不像電車難題這么極端。”加州理工大學哲學教授Patrick Lin說。他從事新興技術倫理學的研究，與該項實驗無關。

事實上，現實生活中一些司機已經做出了類似的選擇，卻往往沒有意識到。在統計意義上講，每一次加利福尼亞式停車（司機看到停車標志并未完全剎住車，而是低速通過該標志）、匹茲堡式左轉（這是一種駕駛默契，即如果路口第一輛車想要左轉，在變綠燈的時候，左轉車會搶先于對面直行車先走，但這樣會給直行的行人帶來意外傷害）或者其他沒有把握的駕駛行為都有一定概率剝奪一個人的生命。

“道德機器”網站向用戶展示了一幅漫畫，畫的是一輛汽車沖向人行橫道上的行人。受試者可以選擇突然轉向，沖撞其他人群。另一種選擇是沖向混凝土路障，這會導致車內乘客死亡。與其他版本的電車問題不同，這是在兩組受害者之間做出直接選擇，而不需要額外想象人被傷害的方式。你有足夠的時間權衡這兩種選擇。預設的受害者在人數、年齡、性別和其他方面各不相同：可能是拄著拐杖走路的老人，推車嬰兒車的婦女，抑或是提著一袋子錢的小偷。行人也可能闖紅燈，在路上可能還會見到一輛只坐著貓狗的汽車，畢竟這是自動駕駛汽車。

這個網站在2016年6月上線，作者公布了截至2017年12月采集到的數據。這個網站主要通過口口相傳，YouTube視頻制作者PewDiePie和jacksepticeye也對網站進行了宣傳推廣。如果想比較自己和他人的決定，受試者必須填寫一份人口統計調查問卷，約50萬人選擇這樣做。其中主要是男性（男女比例為3：1）和年輕人（18歲最多）。

人類如何作出選擇？

受試者對應該采取的措施達成了廣泛共識。他們強烈傾向于優先保護人類（而非寵物）、群體（而非個人）、小孩（而非老人）、遵守交規的人（而非不守交規、橫穿馬路的人），形象光鮮的上班族（而非衣著破爛的流浪者）、女性（而非男性）、行人（而非汽車中的乘客）、慢跑者（而非身材魁梧的人）。選擇突然轉向和按原路線行駛在受試者中各占一半——他們對是否采取轉向操作沒有偏向。“這是他們最不關心的問題。”這研究的其中一位作者、不列顛哥倫比亞大學Azim Shariff說。

如果是你，你會選擇讓哪一群體生還，過馬路的行人還是車上的乘客？

不同群體、不同國家的人只在強調他們自身屬性的情況下會出現分歧。例如，有個版本的電車難題是說，電車正朝著躺在軌道上的五人駛來。五個人和列車之前有一座天橋，你可以選擇推落一個人，掉落的人能使電車停下，從而挽救鐵軌上的人，但會導致被推落的那個人會死亡。受試者普遍選擇將男人推落，但男性受試者稍顯不愿意。“不存在這樣道德尺度上的差別。

例如，不存在老年人比年輕人更受青睞的情況，也不存在采取行動者比坐以待斃者更受歡迎的情況。”Shariff說，“只是對于某些國家而言，與其它更優先的道德事項相比，這些方向上的道德優先級要低一些。”

例如，在拉丁美洲，年輕人受到最高級別的重視；而在歐洲和北美，受重視程度次之；在亞洲，受重視程度最少。但地理因素并非決定性因素。在重視年輕人的問題上，捷克人和拉美人反應程度相近，斯里蘭卡人和西歐人反應程度相近。

諸多差異影響道德抉擇

研究人員引入了其他指標來評估國家間顯現的結果差異。例如，研究人員將青年男性收入作為衡量貧富國家的標準。研究發現，來自較貧窮國家的人不太容易選擇沖撞行人；同樣地，那些貧富差距較大的國家的人傾向于保護衣著光鮮的上班族；那些來自性別平等國家的人對女性更具騎士精神，這也產生了一個奇怪的結果：在測試的兩難選擇中，全球受試者對優先保護女性的偏好已超過半數，來自性別平等國家的被試者甚至更偏向這一選項。因此，在這場測試游戲中，性別平等的國家實際上在兩難抉擇中，恰恰反映出性別最不平等的現象。

各種條件下人類會作出不同的抉擇

最明顯的分歧不是全世界受試者之間的分歧，而是他們和專家之間的分歧。弗吉尼亞交通研究委員會的研究科學家Noah Goodall說：“人們會提議一些不道德的行為，比如把保護狗的優先級置于保護罪犯之上。”人們對電車困境問題（以及其他許多問題）的道德本能和在生活中并不一致。在此前的一系列研究中，Shariff和圖盧茲經濟學院的Jean-Fran?ois Bonnefon以及麻省理工學院媒體實驗室的Iyad Rahwan調查了近2000人對自動駕駛汽車的看法。

去年，德國交通部采納了一個由14名成員組成的道德委員會的建議，禁止試圖使用性別或年齡差別來解決電車困境。“我在‘道德機器’實驗中看到的最大價值在于，這有助于發現需要解決分歧的關鍵領域。”Lin說。如果有時間進行反思，大多數受訪者很可能會同意專家的觀點。“至于人們在網上游戲測試的傾向是否和現實中的表現相同，我們還不得而知。”Shariff說。

許多倫理學家比受試者更能區分是否采取行動。Lin說：“如果你必須在主動殺死別人（kill them）和被動讓別人死亡（let them die）兩種罪惡之間做出選擇，那么后者的罪惡會稍微輕一些，這就是為什么在電車問題上不采取行動是能被接受認可的原因。”他表示不采取行動是有局限的，如果要在一名路人和十名乘客之間該怎么選擇？但調查參與者考慮選擇最佳實用性也同樣會有局限。在2015年的一篇論文中，Lin提到一個兩難問題：是撞一個戴頭盔的騎車人，還是撞不戴頭盔的？撞擊戴頭盔的人更有可能存活下來。但如果是否戴了頭盔決定你會不會被撞，誰還會選擇戴頭盔呢？事實上，一些騎車人已經會借口因為司機傾向去撞有頭盔的人，來給自己不戴頭盔的行為進行開脫。

道德抉擇有待時間考驗

懷疑論者反對說，整個測試過程過于簡單，沒有多大用處。Goodall說：“這些場景看似可能發生，但實際上難以成立。”它描述了一連串不可思議的故障：在步行區駕駛汽車，以高速公路速度行駛，并且剎車失靈。更糟糕的是，他們假設駕車人對事件有完備的認知并能清楚地預料到可能出現的所有后果。但通常，我們并非是在沉著的理性認知中權衡利弊、進行操作。代爾夫特理工大學研究技術倫理學的教授Aimee van Wynsberghe說：“盡管作者認同這個缺陷，但他們沒有意識到這個缺陷非常致命。”她認為自動駕駛汽車應該被限制在專用的高速公路上行駛，在那里他們不需要進行繁瑣的道德計算。

不過，Lin認為，這個項目就同其他任何科學實驗一樣，將問題分解到本質，使其更易于處理。他說：“的確，像大多數的科學實驗一樣，這個實驗是人為設計的，但這并不能說明它是無效的。”電車問題讓人們討論了幾個有爭議的原則：不采取行動是否等同于采取行動，涉及的人數是否重要，以及某類生命體是否比其他生命體更具價值。現在，汽車公司應該好好考慮下這些權衡取舍的問題了。“他們會提前一到五年規劃出這些決策。”Lin說，“即便他們真的陷入這種兩難困境，他們比真人反應的時間也多得多。”

Shariff說，“道德機器”也可以用來研究機器倫理學的其他問題，例如法院和假釋委員會用來預測累犯風險的算法。這套系統能提供更為準確的預測，有助于降低社會整體犯罪率，減少監獄中被關押的人數。但如果這種減少在不同種族或其他類別中有明顯差異，則會打破分析預測的平等性。人們能夠接受這種妥協嗎？“我們應該優先考慮它的準確性，還是應該優先考慮平等（即使這意味著為了平等而把更多不必要的人關進監獄）？”他補充道。從定義上講，兩難困境并沒有一個簡單的解決辦法，但我們至少應該仔細考慮各種選擇，并能夠捍衛我們的選擇。