今年年初，一些受人尊敬的科學(xué)家發(fā)出了一封關(guān)于人工智能（AI）危險(xiǎn)性的警告。特別是，他們擔(dān)心我們會(huì)創(chuàng)建一個(gè)能夠自行適應(yīng)和發(fā)展的人工智能，并且會(huì)以如此快的速度這樣做，以至于超越人類(lèi)理解或控制的能力。而且，他們警告說(shuō)，這可能意味著人類(lèi)的終結(jié)。但我認(rèn)為人工智能的真正危險(xiǎn)性比我們更接近未定義且可能遙遠(yuǎn)的未來(lái)。

首先，我對(duì)整個(gè)人工智能啟示情景有著嚴(yán)重的懷疑。我們距離創(chuàng)造任何一種具有人類(lèi)大腦所體現(xiàn)的復(fù)雜性的計(jì)算系統(tǒng)還有很長(zhǎng)的路要走。此外，我們并不真正了解智能是什么，存在什么是必要的，以及它是如何產(chǎn)生的。僅靠復(fù)雜性顯然是不夠的。我們?nèi)祟?lèi)都有大腦，但智力差異很大。我不知道如果我們沒(méi)有真正的規(guī)范可以人為地創(chuàng)建智能。

我們所擁有的是對(duì)智能行為的朦朧描述，到目前為止所有我們的人工智能工作集中在模仿這種行為的某些元素上。迄今為止的結(jié)果提供了一些令人印象深刻的結(jié)果，但僅限于狹窄的應(yīng)用領(lǐng)域。我們有可以擊敗大師的國(guó)際象棋程序，推動(dòng)圖靈測(cè)試界限的互動(dòng)項(xiàng)目，以及可以擊敗人類(lèi)危險(xiǎn)品冠軍的超級(jí)計(jì)算機(jī)。但是沒(méi)有任何東西能夠做到這一切以及人類(lèi)可以做的其他成千上萬(wàn)的事情。

甚至我們能夠創(chuàng)造出真正聰明的東西，誰(shuí)能說(shuō)這樣的實(shí)體會(huì)是惡意的？

我認(rèn)為人工智能的危險(xiǎn)是真實(shí)存在的，并且會(huì)在不久的將來(lái)出現(xiàn)。但它們不會(huì)因?yàn)闄C(jī)器的智能性而出現(xiàn)。它們會(huì)因?yàn)闄C(jī)器不夠智能而出現(xiàn)，但我們無(wú)論如何都要控制它們，這樣做就失去了控制自己的能力。

這種切換和技能損失已經(jīng)是根據(jù)紐約客的這篇文章，航空業(yè)開(kāi)始發(fā)生。自動(dòng)駕駛儀足以在沒(méi)有人為干預(yù)的情況下處理絕大多數(shù)情況，因此飛行員的注意力會(huì)徘徊，當(dāng)出現(xiàn)自動(dòng)駕駛儀無(wú)法正常處理的情況時(shí)，人類(lèi)飛行員的驚嚇?lè)磻?yīng)的可能性就會(huì)增加。

然后是GIGO因子（GIGO =垃圾輸入，垃圾輸出）。如果人工智能系統(tǒng)獲得的信息不正確，很可能會(huì)做出不正確的決定，并帶來(lái)潛在的災(zāi)難性后果。人類(lèi)能夠從各種來(lái)源獲取信息，將它們?nèi)考桑瑢⑵渑c經(jīng)驗(yàn)進(jìn)行比較，并使用結(jié)果來(lái)識(shí)別錯(cuò)誤的信息源。人工智能設(shè)備距離能夠完成同樣的事情還有很長(zhǎng)的路要走，但我們預(yù)測(cè)到2020年全自動(dòng)汽車(chē)的出現(xiàn)。我認(rèn)為太快會(huì)給人工智能控制太多了。

所以，不，我不擔(dān)心流氓AI消滅人類(lèi)。我擔(dān)心人工智能不足以控制它尚未準(zhǔn)備好的事情。如果要通過(guò)人工智能系統(tǒng)消滅人類(lèi)，那將不是因?yàn)槿斯ぶ悄艿膼阂狻＿@將是因?yàn)锳I將完全按照設(shè)計(jì)執(zhí)行其功能，這與按預(yù)期執(zhí)行的功能不同。