在所有的人工智能解決方案中，我認(rèn)為自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全是最關(guān)鍵的方面。 一個(gè)影響人類(lèi)生活的事件不僅可以擾亂一個(gè)受害的公司，而且可以擾亂整個(gè)行業(yè)。 人們很快就會(huì)對(duì)這些技術(shù)失去信任，這是合情合理的。 舉個(gè)例子，在亞利桑那州的一次事件中，一名自動(dòng)駕駛汽車(chē)在街上殺死了一名婦女。 這起案件引起了轟動(dòng)，研究人員開(kāi)始關(guān)注自動(dòng)駕駛汽車(chē)中人工智能系統(tǒng)的安全問(wèn)題。2014年，首批關(guān)于對(duì)抗性攻擊的論文發(fā)表后，人工智能安全問(wèn)題成為討論的話題。 兩年后，研究人員從理論轉(zhuǎn)向?qū)嵺`，并開(kāi)始將理論攻擊應(yīng)用于實(shí)際解決方案。 從那時(shí)起，自動(dòng)駕駛汽車(chē)的人工智能系統(tǒng)由于其重要性而成為人們關(guān)注的重點(diǎn)領(lǐng)域之一。隨著自動(dòng)駕駛汽車(chē)越來(lái)越普遍，其安全性也受到質(zhì)疑，人們正在討論生產(chǎn)自動(dòng)駕駛汽車(chē)的公司必須遵守的許多規(guī)定。 根據(jù)州議會(huì)全國(guó)會(huì)議發(fā)布的一份報(bào)告，41個(gè)州和哥倫比亞特區(qū)已經(jīng)考慮了無(wú)人機(jī)汽車(chē)法案，而眾議院在國(guó)會(huì)擱置之前已經(jīng)通過(guò)了 hr3388法案，該法案要求自動(dòng)駕駛車(chē)輛必須遵守統(tǒng)一的標(biāo)準(zhǔn)。 考慮到所有相關(guān)的擔(dān)憂，我相信，如果未來(lái)圍繞自動(dòng)車(chē)網(wǎng)絡(luò)安全的事件不停止，自動(dòng)車(chē)的聲譽(yù)將被粉碎。 讓我們來(lái)看看一些可能被攻擊的人工智能驅(qū)動(dòng)的自動(dòng)駕駛汽車(chē)組件，這只是整個(gè)各種方式中的一小部分。

圖像識(shí)別系統(tǒng)

圖像識(shí)別系統(tǒng)能夠檢測(cè)道路標(biāo)志。 然而，2016年有公開(kāi)的證據(jù)表明，他們可以通過(guò)特殊的貼紙和涂鴉來(lái)欺騙。 這導(dǎo)致了2017年的改善，結(jié)果更好。 所謂對(duì)抗性的例子就是那些在視覺(jué)上指向一個(gè)類(lèi)別的圖像，然而人工智能系統(tǒng)卻錯(cuò)誤地將它們識(shí)別為來(lái)自另一個(gè)類(lèi)別的圖像，例如一輛汽車(chē)正在檢測(cè)一個(gè)右轉(zhuǎn)而不是一個(gè)停車(chē)標(biāo)志。

目標(biāo)檢測(cè)系統(tǒng)

有人可能會(huì)說(shuō)，自動(dòng)駕駛汽車(chē)不需要識(shí)別路標(biāo)，他們應(yīng)該在未來(lái)從其他渠道收集這些信息，比如來(lái)自知道所有道路規(guī)則的服務(wù)器的加密通信。 不幸的是，在世界范圍內(nèi)部署這樣的系統(tǒng)需要花費(fèi)太多的時(shí)間。 此外，即使路標(biāo)是不必要的，汽車(chē)將不得不檢測(cè)其他汽車(chē)和行人有效。 這就是目標(biāo)檢測(cè)分析和語(yǔ)義分割算法發(fā)揮作用的地方，然而，就像任何深度學(xué)習(xí)算法一樣，它們也容易受到敵對(duì)性攻擊。 中佛羅里達(dá)大學(xué)的研究人員分析了通過(guò)偽裝來(lái)隱藏汽車(chē)的可能性。 繞過(guò)對(duì)象檢測(cè)器的想法并不是一個(gè)新的，但首次提出的霍迪尼攻擊。 盡管如此，我們應(yīng)該記住，這項(xiàng)研究描述了一個(gè)針對(duì)自動(dòng)駕駛汽車(chē)的實(shí)際案例。

語(yǔ)義分割系統(tǒng)

語(yǔ)義分割是一個(gè)人工智能的任務(wù)，它允許汽車(chē)檢測(cè)另一個(gè)物體的邊緣。 牛津大學(xué)的研究人員發(fā)布了一項(xiàng)研究，展示了他們?nèi)绾纬晒ρ菔玖藢?duì)語(yǔ)義分割系統(tǒng)的實(shí)際攻擊，這種攻擊可以對(duì)人類(lèi)的生命構(gòu)成真正的威脅。 基恩安全實(shí)驗(yàn)室的研究人員發(fā)現(xiàn)，一些自動(dòng)駕駛汽車(chē)可以通過(guò)在道路上貼上幾個(gè)標(biāo)簽來(lái)制造“假車(chē)道” 在研究過(guò)程中，汽車(chē)自治系統(tǒng)認(rèn)出這些標(biāo)志是原來(lái)車(chē)道的延續(xù)，導(dǎo)致汽車(chē)轉(zhuǎn)入一條可能會(huì)迎面而來(lái)的車(chē)道。

語(yǔ)音識(shí)別系統(tǒng)

不幸的是，視知覺(jué)并不是唯一一個(gè)針對(duì)自動(dòng)駕駛汽車(chē)的攻擊載體。 車(chē)輛可以通過(guò)識(shí)別來(lái)自無(wú)線電的錯(cuò)誤命令來(lái)欺騙。 浙江大學(xué)的一群安全研究人員發(fā)明了海豚攻擊聲學(xué)技術(shù)，這種技術(shù)可以通過(guò)向語(yǔ)音識(shí)別系統(tǒng)發(fā)送惡意命令來(lái)實(shí)施無(wú)聲攻擊。 黑客還可以發(fā)送包含對(duì)抗性攻擊的廣告信息給無(wú)線電臺(tái)，并在自動(dòng)模式下在道路上制造混亂。

LiDAR

大多數(shù)自動(dòng)駕駛汽車(chē)都有一個(gè)特殊的系統(tǒng)，叫激光雷達(dá)，代表光探測(cè)和測(cè)距。 2019年7月，密歇根大學(xué)的研究人員發(fā)表了第一篇關(guān)于激光雷達(dá)系統(tǒng)遭受實(shí)際攻擊的論文。 入侵 LiDAR 的方法類(lèi)似于常見(jiàn)的深度學(xué)習(xí)模型的入侵方法，但是只是針對(duì) LiDAR 功能做了一些修改。 這些包括使用激光二極管引入對(duì)抗性信號(hào)和后處理的限制。

應(yīng)該做些什么？

根據(jù)我的經(jīng)驗(yàn)，自動(dòng)駕駛汽車(chē)，就像其他任何物聯(lián)網(wǎng)解決方案一樣，不應(yīng)該有任何軟件或硬件漏洞。 更重要的是，您必須確保后端的算法是安全的。 雖然很多人關(guān)注硬件、軟件和無(wú)線安全，但是通常對(duì)算法的安全性關(guān)注不夠。 深度學(xué)習(xí)等機(jī)器學(xué)習(xí)技術(shù)應(yīng)該接受針對(duì)所有人工智能威脅的測(cè)試，包括對(duì)抗性的例子、投毒、隱私問(wèn)題和后門(mén)。越來(lái)越多有關(guān)無(wú)人駕駛汽車(chē)的安全相關(guān)文章正在發(fā)表。 由于自動(dòng)駕駛汽車(chē)可以保護(hù)我們最親近和最親愛(ài)的人的生命，我們都應(yīng)該負(fù)起責(zé)任來(lái)幫助汽車(chē)行業(yè)，讓供應(yīng)商在汽車(chē)真正上市之前解決這些問(wèn)題。