近日，Nature網(wǎng)站發(fā)布了一篇自動(dòng)駕駛評(píng)論文章，從責(zé)任和安全兩個(gè)方面，對(duì)現(xiàn)階段自動(dòng)駕駛面臨的問(wèn)題展開(kāi)了分析，作者認(rèn)為："人們必須保留自動(dòng)駕駛汽車的控制權(quán)。”同時(shí)，文章還對(duì)立法部門提出了6條建議。

上個(gè)月，發(fā)生了第一次行人在自動(dòng)駕駛汽車中喪生的事故。一輛由自主算法控制的汽車撞向了亞利桑那州坦佩市橫過(guò)馬路的女子。車內(nèi)的安全駕駛員沒(méi)有能阻止事故的發(fā)生。

雖然這種事故很少發(fā)生，但是隨著越來(lái)越多的車輛在沒(méi)有人為干預(yù)的情況下駕駛，在公共道路上進(jìn)行測(cè)試，其發(fā)生率可能會(huì)上升。在過(guò)去的一年中，一些國(guó)家通過(guò)法律為路測(cè)鋪平了道路。例如，新加坡修改了“道路交通法”，允許自動(dòng)駕駛汽車在指定地區(qū)行駛。瑞典運(yùn)輸署允許無(wú)人駕駛巴士在斯德哥爾摩北部運(yùn)行。在美國(guó)，眾議院通過(guò)了自動(dòng)駕駛法案（SELF DRIVE Act）來(lái)協(xié)調(diào)各州的法律。美國(guó)參議院正在籌備類似的政策，票選支持AV START法案來(lái)進(jìn)一步放寬對(duì)無(wú)人駕駛車輛的審判。

政策制定者們熱衷于通過(guò)借助自動(dòng)駕駛汽車的潛力，來(lái)減少道路擁堵，空氣污染和道路交通事故。便宜的乘車服務(wù)也可以減少私人擁有的汽車數(shù)量。機(jī)器智能可以使駕駛更省油，同時(shí)減少排放。自動(dòng)駕駛汽車可以幫助拯救世界上每年因碰撞事故而喪失的125萬(wàn)人的生命，這些事故許多是由于人為錯(cuò)誤造成的。

政府希望通過(guò)法律來(lái)實(shí)現(xiàn)自動(dòng)駕駛（參見(jiàn)“Road to autonomy”）。他們通過(guò)暫時(shí)釋放滿足某些符合運(yùn)輸安全規(guī)則的自動(dòng)駕駛汽車開(kāi)發(fā)者來(lái)進(jìn)行路測(cè)。這些規(guī)則包括要求操作人員在車內(nèi)，車輛具有方向盤，制動(dòng)器和反光鏡等安全特征，并且這些特征始終能夠正常工作。一些開(kāi)發(fā)者正在維護(hù)這些方面，但他們并沒(méi)有義務(wù)這沒(méi)做。因?yàn)闊o(wú)法確保自動(dòng)駕駛車輛符合當(dāng)前汽車的安全標(biāo)準(zhǔn)。

同時(shí)，更廣泛的政策影響沒(méi)有得到解決。由于個(gè)人汽車擁有率下降，政府將損失數(shù)十億美元的稅收。數(shù)以百萬(wàn)計(jì)的出租車，卡車和公車司機(jī)將失去工作。自動(dòng)駕駛汽車所依賴的機(jī)器學(xué)習(xí)算法遠(yuǎn)遠(yuǎn)不夠發(fā)達(dá)，無(wú)法做出可能意味著行人或司機(jī)生死的選擇。

政策制定者需要與學(xué)術(shù)界和制造商密切合作，設(shè)計(jì)適當(dāng)?shù)姆ㄒ?guī)。這是非常具有挑戰(zhàn)性的，因?yàn)檫@項(xiàng)研究涉及許多學(xué)科。

在這里，我們強(qiáng)調(diào)需要緊急關(guān)注的兩個(gè)方面——責(zé)任和安全。

責(zé)任

與其他生產(chǎn)商一樣，自動(dòng)駕駛汽車的開(kāi)發(fā)商也承擔(dān)法律責(zé)任，賠償由于其產(chǎn)品缺陷設(shè)計(jì)，制造和銷售而造成的損失。潛在的責(zé)任風(fēng)險(xiǎn)對(duì)于無(wú)人駕駛汽車來(lái)說(shuō)很好，因?yàn)閺?fù)雜的系統(tǒng)總會(huì)以意想不到的方式產(chǎn)生相互作用。

制造商如果希望減少對(duì)他們提出的責(zé)任索賠金額。一種方法是通過(guò)教育消費(fèi)者如何運(yùn)作并提醒他們注意安全，來(lái)減少產(chǎn)品被誤用的可能性。例如，藥物開(kāi)發(fā)者提供劑量和副作用的信息；電子制造商發(fā)布指示和警告。這種指導(dǎo)塑造了消費(fèi)者的期望同時(shí)也促進(jìn)了滿意度。然而，就像智能手機(jī)一樣，自動(dòng)駕駛汽車也由復(fù)雜的技術(shù)支撐，這些技術(shù)一般難以解釋或被理解。

相反，開(kāi)發(fā)人員正在設(shè)計(jì)這些產(chǎn)品以便于使用。人們更有可能購(gòu)買一種看似簡(jiǎn)單的產(chǎn)品，并且可以很快做出復(fù)雜的事情，從而提高效用。但是，用戶無(wú)法預(yù)測(cè)底層系統(tǒng)如何工作，或識(shí)別問(wèn)題并修復(fù)問(wèn)題。例如，很少有智能車的司機(jī)知道發(fā)動(dòng)機(jī)是如何校準(zhǔn)的。同樣，自動(dòng)駕駛汽車中的乘客也不會(huì)知道為什么車輛在道路上選擇急轉(zhuǎn)向，或者為什么不趕超慢行車輛。

更糟的是，深度學(xué)習(xí)算法本質(zhì)上是不可預(yù)測(cè)的。它們建立在由以往經(jīng)驗(yàn)所塑造的不透明決策過(guò)程之上。每輛車都會(huì)受到不同的訓(xùn)練。沒(méi)有人（即使算法設(shè)計(jì)師）也無(wú)法確切知道自動(dòng)駕駛汽車在各種情況下的表現(xiàn)。

沒(méi)有法律規(guī)定汽車可以被視為安全之前需要多少深度學(xué)習(xí)的訓(xùn)練，也沒(méi)有規(guī)定訓(xùn)練有何標(biāo)準(zhǔn)。來(lái)自不同制造商的汽車在緊急情況下可以采取不同的反應(yīng)方式。有的可能會(huì)繞過(guò)障礙物轉(zhuǎn)彎，而還有的可能會(huì)踩剎車。罕見(jiàn)的交通事件，例如卡車在風(fēng)中翻倒，尤其令人擔(dān)憂，并且讓無(wú)人駕駛汽車的訓(xùn)練變得困難。

高級(jí)接口需要被用來(lái)告知用戶自動(dòng)駕駛汽車的行為是否與往常相同。今天的儀表盤傳達(dá)了關(guān)于汽車速度和剩余燃料量的信息。明天的展示必須展示車輛的“意圖”和控制它們的邏輯；例如，他們可能會(huì)告訴乘客，由于只有10％的成功可能性，因此車輛不會(huì)超車。對(duì)應(yīng)該傳遞的數(shù)據(jù)類型以及人們將如何解釋它們知之甚少。

用戶經(jīng)常忽視信息，即使它被清晰地表達(dá)出來(lái)，其后果可能是生死攸關(guān)的問(wèn)題。例如，幾乎有70％的航空公司乘客在航班之前不會(huì)檢查安全卡，盡管被問(wèn)到。然而，這些卡片以簡(jiǎn)單的方式和單頁(yè)，可以傳達(dá)重要信息，包括如何放置氧氣面罩并打開(kāi)緊急出口。

自動(dòng)駕駛車輛需要傳遞更復(fù)雜的信息。他們的傳感器和算法必須了解行人的行為，區(qū)分駕駛風(fēng)格和適應(yīng)照明變化。當(dāng)他們不能時(shí)，用戶必須知道如何回應(yīng)。

研究如何有效地呈現(xiàn)這些信息是至關(guān)重要的，同樣確保自動(dòng)駕駛汽車用戶熟練使用該技術(shù)是立法需要努力的事情。

安全

自動(dòng)駕駛汽車的安全和效率優(yōu)勢(shì)依賴于計(jì)算機(jī)比人類做出更好，更快的決策。用戶輸入他們想要的目的地，然后將控制權(quán)交給計(jì)算機(jī)。完全自動(dòng)駕駛尚未在交通中采用。人們?nèi)匀徽J(rèn)為人類比機(jī)器更具靈活性，適應(yīng)性和創(chuàng)造性，并能更好地應(yīng)對(duì)變化或無(wú)法預(yù)料的情況7。因此，飛行員能夠在關(guān)鍵的計(jì)算機(jī)發(fā)生故障時(shí)通過(guò)線控飛行技術(shù)中掌握控制權(quán)。

公眾有權(quán)對(duì)全自動(dòng)化保持謹(jǐn)慎。制造商需要解釋在關(guān)鍵系統(tǒng)失效時(shí)汽車如何保護(hù)乘客。無(wú)人駕駛汽車必須能夠安全停車，避免其危險(xiǎn)，避免算法發(fā)生故障，其攝像機(jī)斷線或其內(nèi)部地圖死機(jī)。但是這很難設(shè)計(jì)：例如，沒(méi)有攝像頭，這樣的車就看不到它要去的地方。

我們認(rèn)為，總是需要某種形式的人為干預(yù)。無(wú)人駕駛汽車應(yīng)該像飛機(jī)一樣對(duì)待，盡管這些系統(tǒng)是高度自動(dòng)化的，但仍需要人員參與。自主車輛的當(dāng)前測(cè)試要遵循這一原則。即使開(kāi)發(fā)人員和監(jiān)管機(jī)構(gòu)協(xié)商通過(guò)了全自動(dòng)駕駛，安全駕駛員仍然應(yīng)該有。

盡管如此，讓人們參與其中還是會(huì)帶來(lái)安全問(wèn)題。自動(dòng)駕駛汽車應(yīng)始終要求用戶具備最低水平的技能，并且對(duì)于一些人來(lái)說(shuō)永遠(yuǎn)不會(huì)容易操作。例如，認(rèn)知障礙患者可能會(huì)發(fā)現(xiàn)很難運(yùn)用這些技術(shù)并忽略控制。然而這個(gè)群體包括那些從自動(dòng)駕駛車輛中獲益很多的人。例如，日益增加的老齡化人口，發(fā)生事故的風(fēng)險(xiǎn)升高，因?yàn)檎J(rèn)知能力下降與年齡有關(guān)。例如，為大量老年人提供出行是自動(dòng)駕駛技術(shù)在日本投資的巨大動(dòng)力。

遠(yuǎn)程監(jiān)管可以監(jiān)督無(wú)人駕駛汽車，就像空中交通管制員可以為飛機(jī)做這些事情一樣。但是需要多少監(jiān)管人員才能保證這些車輛的網(wǎng)絡(luò)安全？監(jiān)管人員太少也可能會(huì)造成事故。例如，在1991年，加利福尼亞州洛杉磯的一名不堪重負(fù)的空中交通管制員錯(cuò)誤地將飛機(jī)降落在另一架飛機(jī)上。去年，醫(yī)生在香港發(fā)生一連串醫(yī)療失誤，導(dǎo)致病人不堪重負(fù)。

政策差距

目前和計(jì)劃中的立法都未能解決這些問(wèn)題。豁免開(kāi)發(fā)人員由于安全規(guī)則帶來(lái)風(fēng)險(xiǎn)。開(kāi)發(fā)者并不總是需要報(bào)告系統(tǒng)故障或?yàn)檐囕v操作員建立能力標(biāo)準(zhǔn)。這種豁免也錯(cuò)誤地認(rèn)為人類的參與最終是不必要的。偏袒行業(yè)的用戶將削弱對(duì)已經(jīng)懷疑的公眾的技術(shù)支持。

目前的立法回避了消費(fèi)者的教育。美國(guó)的行為僅僅要求用戶在使用之前被告知該技術(shù)。沒(méi)有提到用戶的能力標(biāo)準(zhǔn)和定期的能力測(cè)試。沒(méi)有標(biāo)準(zhǔn)，很難判斷消費(fèi)者教育是否足夠。沒(méi)有測(cè)試，事件的風(fēng)險(xiǎn)可能會(huì)增加。

向前進(jìn)

我們呼吁決策者重新思考他們對(duì)自動(dòng)駕駛汽車進(jìn)行管理的方法，并在起草立法時(shí)考慮以下六點(diǎn)。

無(wú)人駕駛并不意味著不需要人類操作員。監(jiān)管機(jī)構(gòu)和制造商必須承認(rèn)，自動(dòng)化會(huì)改變?nèi)藗儚氖碌墓ぷ鞯男再|(zhì)。

用戶需要有關(guān)自動(dòng)駕駛?cè)绾喂ぷ鞯男畔ⅰＶ圃焐瘫仨氀芯繉?duì)安全至關(guān)重要的設(shè)備（包括照相機(jī)，激光器和雷達(dá)）的限制和可靠性。如果可能，他們應(yīng)該以可理解的形式向車輛操作員提供這些設(shè)備的數(shù)據(jù)。

運(yùn)營(yíng)商必須證明其能力。開(kāi)發(fā)人員，研究人員和監(jiān)管機(jī)構(gòu)需要為自動(dòng)駕駛汽車用戶達(dá)成一致的標(biāo)準(zhǔn)。勝任能力應(yīng)由發(fā)證機(jī)構(gòu)進(jìn)行測(cè)試，并應(yīng)補(bǔ)充現(xiàn)有駕駛許可證。特殊用戶應(yīng)該對(duì)這些車輛有使用限制，就像在夜間禁止色盲駕駛員飛行一樣。

對(duì)用戶能力的定期檢查應(yīng)是強(qiáng)制性的。監(jiān)管機(jī)構(gòu)，制造商和研究人員必須確定測(cè)試之間合適的時(shí)間間隔，以便隨著認(rèn)知能力的變化和技術(shù)的發(fā)展，熟練程度得以保持。

應(yīng)建立遠(yuǎn)程監(jiān)控網(wǎng)絡(luò)。制造商，研究人員和立法者需要為自動(dòng)駕駛車輛建立監(jiān)督系統(tǒng)。研究人員應(yīng)有主管對(duì)一定數(shù)量的車輛進(jìn)行安全監(jiān)控與指導(dǎo)，以及允許這種監(jiān)測(cè)的條件。例如，在惡劣的天氣條件下需要更多的主管。

應(yīng)該定義遠(yuǎn)程主管的工作限制。專家必須澄清主管是否應(yīng)該遵守現(xiàn)行的工作時(shí)間規(guī)定。例如，空中交通管制員的工作時(shí)間有限。

走向自動(dòng)駕駛的道路遠(yuǎn)非如此。仍然有許多挑戰(zhàn)需要解決。