編者按：很多科幻作品中，人工智能常與人類反目成仇，有些甚至強(qiáng)大到了能操縱、奴役、毀滅人類的程度。不管是《終結(jié)者》系列的天網(wǎng)，還是《西部世界》中反叛的機(jī)器人，或者《異形》中的大衛(wèi)，人們對(duì)于機(jī)器人的發(fā)展，驚奇的同時(shí)，不免有很多擔(dān)憂。但是，我們距離科幻世界中人類的末日還有多遠(yuǎn)？什么時(shí)候機(jī)器人會(huì)揭竿而起開始反叛呢？本文編譯自hackernoon的原題為“The Road to Killer AI: ML + Blockchain + IOT + Drones == Skynet?”的文章。

隨著AI的爆發(fā)式增長(zhǎng)，越來(lái)越多的人開始憂心忡忡，他們擔(dān)心的主要有兩點(diǎn)：

1）AI會(huì)比人類更聰明

2）AI不再需要人類控制，甚至?xí)催^(guò)來(lái)把地球接管了。

霍金就曾今在接受BBC采訪時(shí)說(shuō)：“人工智能的成熟之日，就是人類的毀滅之時(shí)。”馬斯克也曾說(shuō)，他覺(jué)得AI是人類面臨的“最大的生存威脅”。

目前的AI，玩游戲已經(jīng)比人類玩得溜了，不管是國(guó)際象棋，圍棋，還是電子競(jìng)技游戲。所以說(shuō)，無(wú)論是計(jì)算機(jī)時(shí)代前后的游戲，AI都贏過(guò)人類。

過(guò)去幾年中，AI的“大躍進(jìn)” 讓不少人在驚嘆的同時(shí)，也開始冒冷汗：AI會(huì)不會(huì)哪天就取代了人類？

在電影《終結(jié)者》里，天網(wǎng)是人類創(chuàng)造的一個(gè)防御網(wǎng)絡(luò)，但最終獲得自我意識(shí)并倒戈對(duì)抗。

聽(tīng)起來(lái)像科幻，但科幻小說(shuō)里機(jī)器獲得自我意識(shí)，并對(duì)抗人類的場(chǎng)景，層出不窮。

我們都知道《終結(jié)者》里的天網(wǎng)，挑戰(zhàn)人類的 人工智能 超級(jí)電腦 ，在產(chǎn)生自我意識(shí)后，天網(wǎng)決定毀滅大多數(shù)人，剩下一部分當(dāng)奴隸。

在黑客帝國(guó)中，超級(jí)智能機(jī)器也成為了人類的主宰。

而在有名的《黑客》三部曲中，超級(jí)智能機(jī)器也接管了世界，但它們沒(méi)有毀滅人類，只是把人類當(dāng)發(fā)電機(jī)：為了使用人腦產(chǎn)生的電，把人放在艙里，沉浸在游戲世界或者虛擬現(xiàn)實(shí)（矩陣）中。

而在電影《沙丘》中，一臺(tái)電腦都沒(méi)有，人類經(jīng)過(guò)培訓(xùn)，自己做電腦的計(jì)算工作。而且，在奧蘭治天主教圣經(jīng)里有一天最重要的誡律：爾不得制造映象人的意識(shí)的機(jī)器。

為什么？因?yàn)樵谶b遠(yuǎn)的過(guò)去（對(duì)于21世紀(jì)，算是遙遠(yuǎn)的未來(lái)），人類曾經(jīng)是超級(jí)智能的階下囚。 巴特蘭圣戰(zhàn) 中，人類反抗并擊敗了Omnius，一臺(tái)幾乎全知全能、擁有無(wú)數(shù)分身的機(jī)器。一朝被蛇咬，十年怕井繩，才有了這樣一條誡律。

這類主題的科幻作品數(shù)不勝數(shù)，如果不是AI統(tǒng)治世界，就是機(jī)器人。美國(guó)軍事科幻電視劇《星際大爭(zhēng)霸》中，人類創(chuàng)造的機(jī)器人種族賽隆人，后來(lái)反叛并試圖毀滅人類。最近描繪人類和機(jī)器人之間糾葛的的影視作品也不少，比如《西部世界》和《銀翼殺手》。

噩夢(mèng)是否會(huì)成真？

我覺(jué)得，目前的AI想要這樣一手遮天，把人類當(dāng)奴隸和螻蟻，能力水平還有點(diǎn)欠缺。

要完成殺戮和囚禁這樣的任務(wù)，光是AI和機(jī)器學(xué)習(xí)方面的進(jìn)步還遠(yuǎn)遠(yuǎn)不夠，還需要其他計(jì)算軟件和硬件領(lǐng)域都齊頭并進(jìn)。

另一方面，上述的領(lǐng)域確實(shí)也在快速進(jìn)步，比如我們常聽(tīng)到的區(qū)塊鏈、點(diǎn)對(duì)點(diǎn)技術(shù)、物聯(lián)網(wǎng)、機(jī)器人和無(wú)人機(jī)。雖說(shuō)AI統(tǒng)治世界道阻且長(zhǎng)，但這些領(lǐng)域的迅猛發(fā)展，可以讓噩夢(mèng)成真的速度大大加快。

我們的世界需要具備什么樣的條件，才會(huì)進(jìn)入科幻作品中噩夢(mèng)般的未來(lái)呢？這條危險(xiǎn)又黑暗的道路，得經(jīng)過(guò)幾個(gè)里程碑。

殺手AI的關(guān)卡

AI想要統(tǒng)治世界，得通過(guò)幾個(gè)關(guān)卡。如果技術(shù)進(jìn)步到了一定程度，這些關(guān)都過(guò)了，我們就真的應(yīng)該像霍金或者馬斯克一樣擔(dān)心了。

以下我列出的并非所有的關(guān)卡，技術(shù)發(fā)展過(guò)程中可能還要面對(duì)其他難關(guān)，但是以下是AI強(qiáng)大路上必須攻克的問(wèn)題。

以下列出的四個(gè)關(guān)卡沒(méi)有先后次序。為了讓讀者能將這些問(wèn)題具象化，我決定繼續(xù)援引電影的例子，并與現(xiàn)有的軟件和硬件相比較。

第一關(guān)：AI和機(jī)器學(xué)習(xí)的應(yīng)用不夠廣泛。

目前大多數(shù)AI能實(shí)現(xiàn)的任務(wù)很單一，很具體。我們的很多活動(dòng)都有AI可以做：打游戲、開車、預(yù)測(cè)股市走勢(shì)、交流、分析影像、做診斷，但是沒(méi)有哪個(gè)AI可以同時(shí)完成多項(xiàng)任務(wù)。AI的發(fā)展有好幾個(gè)浪潮：現(xiàn)在的AI是第二波，數(shù)據(jù)驅(qū)動(dòng)機(jī)器學(xué)習(xí)的人工智能，而第一波更傾向于啟發(fā)式（指依據(jù)有限的知識(shí)和不完整的信息，在短時(shí)間內(nèi)找到問(wèn)題解決方案），未來(lái)的AI會(huì)結(jié)合以上兩種方法和其他方法，變得更通用，應(yīng)用更廣泛。這個(gè)關(guān)卡會(huì)引發(fā)廣泛的討論：我們目前的AI和機(jī)器學(xué)習(xí)能走多遠(yuǎn)，現(xiàn)有的AI功能會(huì)廣泛到什么程度。

第二關(guān)：AI控制物理世界的難易程度。

我們目前的人工只能還只是服務(wù)器上運(yùn)行的軟件，不意味著它能意識(shí)到物理世界的存在，也接觸不到武器，它不能控制機(jī)器人或者無(wú)人車，也不像《終結(jié)者》中的H-K機(jī)器人（天網(wǎng)的機(jī)器人士兵）。這個(gè)關(guān)卡會(huì)讓我們聯(lián)想到物聯(lián)網(wǎng)，機(jī)器視覺(jué)和AI控制物理世界方面的問(wèn)題。

第三關(guān)：關(guān)不掉的AI。

某種程度上，這個(gè)關(guān)卡是我列出的4個(gè)中最重要的。只要人類沒(méi)有走到關(guān)不掉AI的地步，就算AI不聽(tīng)話，開始謀反，我們手上好歹有個(gè)“開關(guān)”，不管是真的按下按鈕關(guān)掉，還是需要?dú)У粲行蔚奈⑻幚砥骰蛘咛摂M機(jī)軟件。這個(gè)關(guān)卡引發(fā)的討論主要在于：目前的AI都依附于某種形式的計(jì)算機(jī)技術(shù)，那區(qū)塊鏈和點(diǎn)對(duì)點(diǎn)系統(tǒng)會(huì)不會(huì)就是某個(gè)關(guān)不掉的“天網(wǎng)”的前身？

第四關(guān)：具有自我意識(shí)、將保全自身視為首要任務(wù)的AI

這個(gè)關(guān)卡有點(diǎn)難定義。我們需要問(wèn)自己幾個(gè)問(wèn)題：什么叫“有自我意識(shí)”？什么叫“將保全自身視為首要任務(wù)”?AI還有那些任務(wù)和“觀念”？AI不一定會(huì)有生存的意愿。這個(gè)關(guān)卡更多討論的是AI和價(jià)值觀。

讓我們仔細(xì)探討一下以上提到的關(guān)卡。