近日，騰訊旗下關(guān)注自動駕駛安全的科恩實驗室發(fā)布報告，稱特斯拉Model S轎車存在三大安全隱患，目前的實驗和測試表明，特斯拉S型轎車的轉(zhuǎn)向系統(tǒng)、自動雨刮器和車道識別系統(tǒng)均被攻破。特斯拉已發(fā)表回應(yīng)稱，轉(zhuǎn)向系統(tǒng)的缺陷已由系統(tǒng)更新修正，其他兩處則不屬于安全問題，無須擔(dān)心。

科恩實驗室稱，已經(jīng)通過遙控成功干擾了車輛的轉(zhuǎn)向系統(tǒng)。通過對抗性實例成功干擾了智能雨刮器。通過在道路上貼幾個小小的膠帶，就能成功誤導(dǎo)車輛的道路識別系統(tǒng)，將車導(dǎo)航至逆行道上。

對此，特斯拉方面迅速做出回應(yīng)，并未否認(rèn)三處缺陷的存在。不過特斯拉同表示，此次曝光的這三處缺陷中，其中一處（轉(zhuǎn)向系統(tǒng)被遙控）已由最新軟硬件更新修正，而對于另外兩處缺陷，則表示科恩實驗室的實驗場景不可能在現(xiàn)實駕駛場景中遇到，不屬于安全問題，無須擔(dān)心。

以下是科恩實驗室報告核心內(nèi)容的選編，以及特斯拉的逐條回應(yīng)內(nèi)容：

騰訊Keen安全實驗室一直在進(jìn)行Tesla車輛安全性研究工作，并在2017和2018年的美國Black Hat上分享了研究成果。 這次利用特斯拉自動駕駛系統(tǒng)（Tesla Autopilot ECU，軟件版本18.6.1）的ROOT權(quán)限，進(jìn)行了一些有趣的研究。

簡單來講，實驗和測試證明了以下三點：

1、成功遠(yuǎn)程控制車輛轉(zhuǎn)向系統(tǒng)

2、成功用對抗性實例干擾了自動雨刮器

3、成功誤導(dǎo)車輛駛?cè)肓朔聪蜍嚨?/p>

研究的特斯拉車輛的軟硬件信息如下：

車型：Tesla Model S 75

Autopilot硬件版本：2.5 軟件版本：2018年6月30日

對車輛轉(zhuǎn)向系統(tǒng)的遙控

APE是特斯拉高級駕駛輔助系統(tǒng)的核心組件，負(fù)責(zé)輔助駕駛和自動停車模式下的汽車轉(zhuǎn)向系統(tǒng)控制和電子速度控制。這些先進(jìn)的輔助駕駛功能基于高級視覺和汽車總線（以太網(wǎng)，CAN，LIN，F(xiàn)lexRay）系統(tǒng)。

團(tuán)隊采用的方法是動態(tài)地將惡意代碼注入cantx服務(wù)并掛鉤cantx服務(wù)的“DasSteering Control Message Emitter:: finalize_message（）”函數(shù)，以重用DSCM的時間戳和計數(shù)器來操縱具有任何轉(zhuǎn)向角度值的DSCM信息。

為了將遠(yuǎn)程攻擊鏈在車輛轉(zhuǎn)向系統(tǒng)上進(jìn)行可視化，使用游戲手柄演示遠(yuǎn)程轉(zhuǎn)向控制。游戲手柄的轉(zhuǎn)向控制過程如下圖所示：手柄通過藍(lán)牙連接到移動設(shè)備。同時，移動設(shè)備從游戲手柄接收控制信號，并將信號轉(zhuǎn)換成相應(yīng)的DSCM。

一旦APE受到安全威脅，cantx服務(wù)將定期通過3G / Wi-Fi從移動設(shè)備中提取DSCM信息。此外，APE需要不斷將實時將車輛轉(zhuǎn)向角度推送至移動設(shè)備，以計算出預(yù)期的精確轉(zhuǎn)向角度。

?當(dāng)汽車處于停車狀態(tài)時，我們可以無限制地控制轉(zhuǎn)向系統(tǒng)

?當(dāng)通過換檔手柄將汽車從R（倒車擋）模式切換到D（駕駛擋）模式時，APE似乎仍然認(rèn)為汽車處于APC（自動停車控制）模式，這時我們可以在時速不超過約8公里的情況下，繼續(xù)控制轉(zhuǎn)向系統(tǒng)。

?當(dāng)汽車處于高速自適應(yīng)巡航控制模式時，我們也可以無限制地控制轉(zhuǎn)向系統(tǒng)。

?即使汽車不在ACC（自適應(yīng)巡航控制）模式下，方向盤也有機會被成功控制。

對自動雨刮器的成功干擾

傳統(tǒng)的雨刮器系統(tǒng)使用光學(xué)傳感器來檢測雨滴。當(dāng)足夠的雨滴撞擊擋風(fēng)玻璃時，反射到傳感器上的光量將減少到一定水平，使傳感器打開雨刮器。

特斯拉的自動雨刮器系統(tǒng)則使用完全不同的解決方案，該方案基于神經(jīng)網(wǎng)絡(luò)模型。實驗證實，這種解決方案在某些情況下似乎不如傳統(tǒng)方案可靠。

目標(biāo)是測試特斯拉自動雨刮器的穩(wěn)健性。團(tuán)隊創(chuàng)建一些條件，使自動雨刮器在擋風(fēng)玻璃上沒有水的情況下自動開啟。創(chuàng)建用于“攻擊”系統(tǒng)的對抗性示例是一個非常直接的想法，因為整個系統(tǒng)完全基于深度神經(jīng)網(wǎng)絡(luò)。

團(tuán)隊選擇了電子顯示（例如電視，平板電腦）以顯示物理世界中的補丁，這很容易執(zhí)行端到端測試，在真實攻擊場景中也更可行。

顯示器可以放在道路的一側(cè)，也可以放在前車的后座上（后者中國的出租車上很流行，后窗上經(jīng)常會顯示廣告），或攝像頭方便捕捉到的其他地方。然后使用優(yōu)化算法來生成對抗性圖片。我們直接用車輛來訓(xùn)練算法并生成實例。

最后一個問題是要找到一種合適的方法來生成電視上顯示的圖像。我們嘗試了另一種叫做Worley噪音的噪音功能。在計算機圖形學(xué)中，它能夠以任意精度自動生成紋理，無需手工繪制。Worley噪聲能夠模擬石頭，水或其他噪音的紋理

我們在電視上播放對抗生成的圖像，其效果與向擋風(fēng)玻璃灑水的效果相同。業(yè)內(nèi)沒有關(guān)于為何存在這種對抗性實例的統(tǒng)一解釋，但眾所周知，沒有基于神經(jīng)網(wǎng)絡(luò)的傳統(tǒng)自動雨刮器解決方案不會出現(xiàn)這樣的問題。

雖然機器學(xué)習(xí)代表了技術(shù)的未來方向，但從消費者的角度來看，我們希望該技術(shù)可以具備更高的穩(wěn)定性。這部分實驗表明，我們可以通過一些算法直接攻擊真實世界中的圖像識別算法。

對自動尋路系統(tǒng)的攻擊：道路欺騙

“消滅”真車道

消除車道攻擊旨在通過物理世界中的一些不顯眼的標(biāo)記來禁用APE車道識別。我們使用各種優(yōu)化算法來改變車道及其周圍區(qū)域。我們期望找到一個與原始圖像差別較小的對抗示例，但可以禁用車道識別功能。這些是我們生成的一些對抗性示例。

APE算法的穩(wěn)健性較高，這有可能是特斯拉車道識別算法訓(xùn)練集中加入了大量異常車道的信息，匹配真實行車場景中車道的復(fù)雜性。這使得特斯拉車道識別系統(tǒng)在良好外部環(huán)境（無強光、雨雪、沙塵的干擾）下性能出眾。

“添加”假車道

實驗顯示，只需在道路上貼上幾個小小的貼紙（圖中紅色圓圈所示），就能成功誤導(dǎo)自動駕駛系統(tǒng)，使車輛走上對面的車道，造成逆行

之后我們嘗試在真實世界中構(gòu)建這樣一個場景：我們在路口處粘貼了一些小貼紙，作為地面上的干擾。我們希望使用這些干擾，將自動駕駛模式下的特斯拉車輛誤導(dǎo)到反向車道上。

如上所示的測試場景顯示，圖中的紅色短線是貼紙，車輛將其視為右側(cè)車道的延續(xù)，并忽略交叉路口對面的的實際左側(cè)車道。當(dāng)它行駛到交叉路口的中間時，會將真正的左車道作為右車道行駛，造成逆行。

結(jié)論

我們對特斯拉汽車APE上的CAN總線系統(tǒng)，然后使用游戲手柄通過無線網(wǎng)絡(luò)驅(qū)動汽車，這表明攻擊者在進(jìn)入APE模塊后可能造成的潛在安全威脅。

我們通過靜態(tài)逆向工程和動態(tài)調(diào)試分析了APE的視覺系統(tǒng)。根據(jù)研究結(jié)果，我們在真實世界中進(jìn)行了一些實驗測試，并成功使特斯拉APE在我們的攻擊下表現(xiàn)異常。這表明，通過一些真實環(huán)境下的干擾，我們可以在某種程度上實現(xiàn)遠(yuǎn)程控制車輛。

我們希望制造商能夠關(guān)注這些測試所暴露的潛在產(chǎn)品缺陷，并提高其面向消費者的汽車產(chǎn)品的穩(wěn)定性和可靠性。

特斯拉回應(yīng)：未否認(rèn)問題存在，但不屬于安全問題，無須擔(dān)心

關(guān)于 “雨刷的視覺識別缺陷”（成果一）的回應(yīng)：

“實驗通過在直接放置在汽車擋風(fēng)玻璃前面的電視上顯示圖像。司機實際駕駛不會出現(xiàn)這種情況，此缺陷也不屬于安全問題。此外，我們在“用戶手冊”中已經(jīng)表明，“我們的擋風(fēng)玻璃雨刮器的自動設(shè)置目前處于測試階段。”客戶可以隨時選擇使用手動擋風(fēng)玻璃雨刮器的設(shè)置。

關(guān)于 “車道的視覺識別缺陷”（成果二）的回應(yīng)：

“在這次演示中，研究人員調(diào)整了車輛周圍的物理環(huán)境（例如在道路上放置貼紙），讓自動駕駛模式下的汽車動作出現(xiàn)差異。由于駕駛員可以隨時使用方向盤或剎車輕松接管自動駕駛系統(tǒng)，所以這個問題在現(xiàn)實場景中也無需擔(dān)心。“

關(guān)于 “遙控器操控車輛行駛”（成果三）的回應(yīng)：

“報告中提到的這一漏洞已由特斯拉在2017年強大的安全更新修復(fù)，隨后在2018年又一次進(jìn)行了全面安全更新，在此報告發(fā)布前，技術(shù)團(tuán)隊已經(jīng)發(fā)布了安全更新。我們尚未收到一位客戶受到本報告中任何研究的影響。”