1、前言

在過去的十年中，人工智能（AI）領(lǐng)域取得了驚人的發(fā)展。據(jù)不完全統(tǒng)計，現(xiàn)在存在20多個領(lǐng)域，其中AI程序的性能至少與人類（甚至好于人類）相同。這些進(jìn)步導(dǎo)致了AI的大量爆發(fā)，這讓人回想起第一個AI炒作周期的1956-1973繁榮階段。投資者正在為基于AI的研究和創(chuàng)業(yè)公司提供數(shù)十億美元的資金，而未來主義者再次開始對強(qiáng)大AI的興起做出令人震驚的預(yù)測。許多人對人類在就業(yè)市場中的未來提出了質(zhì)疑，聲稱到2033年，多達(dá)47％的美國工作屬于高風(fēng)險類別，這些行業(yè)將被自動化所取代。

在本文中，我們認(rèn)為AI的短期影響不太可能像這些主張所表明的那樣明顯。導(dǎo)致40年前AI繁榮的第一個階段消亡的幾個障礙，今天仍未解決，看來克服這些障礙需要認(rèn)真的理論進(jìn)展。此外，當(dāng)前的基礎(chǔ)設(shè)施不適合大規(guī)模地整合AI程序，這意味著AI系統(tǒng)不可能很快就能大規(guī)模取代人類。因此，上述預(yù)測在未來十五年內(nèi)不太可能實(shí)現(xiàn)，金融家可能不會從他們最近在人工智能方面的投資中獲得預(yù)期的回報。

2、大膽的期望

人工智能最近的炒作以兩種形式表現(xiàn)出來：驚人的預(yù)測和大量的投資，下面將對這兩種方法進(jìn)行討論。

2.1 到2035年人工智能的力量預(yù)測

在過去的幾年中，人們越來越相信AI是一種無限的神秘力量，它能夠（或?qū)⒑芸欤┤〈祟惒⒔鉀Q任何問題。例如，雷·庫茲韋爾（Ray Kurzweil）預(yù)測：“到2029年，人工智能將達(dá)到人類的水平”，格雷·斯科特（Gray Scott）表示：“到2035年，人類沒有理由也沒有辦法跟上人工智能機(jī)器的發(fā)展。 ”。埃隆·馬斯克（Elon Musk）表達(dá)了類似但不祥的情緒，他寫道：“人工智能的發(fā)展速度……非常快…………發(fā)生嚴(yán)重危險的風(fēng)險發(fā)生在五年時間范圍內(nèi)。后來又說：“借助人工智能，我們可以召喚惡魔” 。

人工智能將在2029年左右達(dá)到人類的水平——Ray Kurzweil，2014年

盡管有人認(rèn)為馬斯克的愿景是極端的，但研究人員仍然擔(dān)心強(qiáng)大的AI很快將對人類在就業(yè)市場上的未來產(chǎn)生重大影響。例如，2013年，牛津大學(xué)的兩位教授弗雷（Frey）和奧斯本（Osborne）發(fā)表了一篇文章，標(biāo)題為“就業(yè)的未來：計算機(jī)化工作的敏感性如何？”，他們試圖分析就業(yè)市場中可以在接下來的二十年內(nèi)實(shí)現(xiàn)計算機(jī)化。他們估計，“美國總就業(yè)人數(shù)的47％屬于高風(fēng)險類別，這意味著相關(guān)的職業(yè)可能會在未指定的幾年內(nèi)（可能在一到兩年內(nèi)）實(shí)現(xiàn)自動化。” 完成這項(xiàng)工作后，各種咨詢公司和智囊團(tuán)撰寫的幾篇論文預(yù)測，由于自動化，未來20年內(nèi)將失去20％至40％的工作機(jī)會。

這些預(yù)言在許多企業(yè)和各國理事機(jī)構(gòu)的董事會席卷了漣漪。由于在美國，人工智能系統(tǒng)有望將勞動力成本降低十倍，因此這種預(yù)測表明，通過采用人工智能程序而非人工，企業(yè)可以變得更加有利可圖。但是，這可能迫使失業(yè)率達(dá)到驚人的水平，從而在全球范圍內(nèi)造成巨大的經(jīng)濟(jì)破壞。

2.2 初創(chuàng)企業(yè)和大規(guī)模投資的爆炸式增長

麥肯錫公司（McKinsey and Company）的數(shù)據(jù)顯示，2016年，非技術(shù)公司在AI方面的支出在260億至390億美元之間，技術(shù)公司在AI方面的支出在200億至300億美元之間。同樣，基于AI的初創(chuàng)公司在2012年左右開始爆炸式增長，并一直持續(xù)到今天。2017年12月，AngelList（一個連接初創(chuàng)企業(yè)與天使投資者和求職者的網(wǎng)站）列出了3，792個AI初創(chuàng)企業(yè); 2，592名關(guān)聯(lián)天使投資者；和2，521個相關(guān)的職位空缺。根據(jù)Pitchbook的數(shù)據(jù)，風(fēng)險資本家在2007年投資了2.85億美元用于AI初創(chuàng)公司，2015年投資了40億美元，2016年投資了54億美元，2017年1月至2017年10月投資了76億美元; 2007年至2017年間，風(fēng)險投資對AI的投資總額超過250億美元。根據(jù)CBInsights，僅在2016年，就有658家AI初創(chuàng)公司獲得了資金，并正在積極推行其商業(yè)計劃。實(shí)際上，今天要獲得風(fēng)險投資，大多數(shù)新業(yè)務(wù)計劃都至少需要提及AI。

圖1：人工智能初創(chuàng)企業(yè)的風(fēng)險投資（來源：Pitchbook）

3、第一個AI炒作周期-快速回顧

當(dāng)前對AI的炒作極大地讓人聯(lián)想到1956年至1973年之間的第一個AI炒作周期的繁榮階段所發(fā)生的情況（本系列的第一篇文章）。的確，在人工智能方面取得了幾項(xiàng)顯著進(jìn)步之后（例如，第一個進(jìn)行了跳棋的自學(xué)程序，以及引入了神經(jīng)網(wǎng)絡(luò)），政府機(jī)構(gòu)和研究機(jī)構(gòu)很快就在人工智能研究中投入了大量資金。在這種受歡迎程度的推動下，人工智能研究人員也迅速做出了關(guān)于強(qiáng)大人工智能的開始的大膽預(yù)測。例如，在1961年，馬文·明斯基（Marvin Minsky）寫道：“在我們一生中，機(jī)器可能會超越我們的一般智慧” 。

但是，這種欣喜是短暫的。到1970年代初，當(dāng)人們對AI的期望沒有實(shí)現(xiàn)時，幻滅了的投資者撤回了他們的資金。當(dāng)AI的研究進(jìn)展緩慢，甚至“人工智能”一詞被拒絕時，這導(dǎo)致了AI破產(chǎn)階段。回顧過去，人工智能繁榮階段的消亡可以歸因于以下幾個主要障礙：

3.1 有限且昂貴的計算能力

1970年代的計算能力非常昂貴，而且還不足以模仿人類的大腦。例如，創(chuàng)建一個人腦大小的人工神經(jīng)網(wǎng)絡(luò)（ANN）會在1974年消耗掉整個美國的GDP。

3.2 人類思想背后的奧秘

科學(xué)家不了解人腦如何運(yùn)作，尤其是不了解創(chuàng)造力，推理和幽默背后的神經(jīng)機(jī)制。缺乏對機(jī)器學(xué)習(xí)程序應(yīng)該嘗試模仿的精確范圍的認(rèn)識，在推動人工智能理論發(fā)展中產(chǎn)生了重要問題。正如麻省理工學(xué)院教授休伯特·德雷福斯（Hubert Dreyfus）簡要解釋的那樣，“這些程序缺乏四歲兒童的直觀常識”，而且沒人知道如何進(jìn)行。

上面提到的第一個難題可以歸為機(jī)械難題，而第二個難題可以歸結(jié)為概念難題。兩者都是40年前AI繁榮第一階段的結(jié)束。到1982年，明斯基本人已經(jīng)推翻了他以前的樂觀觀點(diǎn)，他說：“我認(rèn)為鋁的問題是有史以來最困難的科學(xué)之一”。

圖2：尚未完全了解其功能的人腦

3.3 沒有概念上的突破

顯然，在“危險游戲”中擊敗人類，IBM Watson在2011年所做的事絕非易事；但是，它僅提供類事實(shí)作為對《危險》中各種問題的答案！隨后有關(guān)IBM Watson的聲明和廣告暗示，它可以幫助解決一些與人類有關(guān)的難題（例如，幫助癌癥研究和尋找替代療法）；然而，與MD安德森癌癥中心和其他醫(yī)院的后續(xù)工作表明，它遠(yuǎn)沒有達(dá)到這樣的預(yù)期。實(shí)際上，如今沒有任何AI系統(tǒng)甚至接近HAL 9000，這是一臺人工智能計算機(jī)，在電影《 2001：太空漫游》中被描繪為對手 。

在過去的40年中，基本上發(fā)生的事情是在上述第一個（機(jī)械）問題上取得了重大進(jìn)展。此處的促進(jìn)原理是摩爾定律，該定律預(yù)測電子電路中的晶體管數(shù)量應(yīng)每兩年大約增加一倍。結(jié)果，自1970年代以來，計算的成本和速度提高了110萬倍。這導(dǎo)致了無處不在且廉價的硬件和連接性，允許數(shù)十年前在第一個炒作周期中發(fā)明的一些理論進(jìn)展（例如，反向傳播算法）和一些新技術(shù)在實(shí)踐中表現(xiàn)明顯更好，主要是通過啟發(fā)式和工程學(xué)的繁瑣應(yīng)用技能。

但是，仍然缺乏在概念上的突破，它可以提供對上述第二個問題的深刻見解：我們?nèi)匀徊淮_定如何創(chuàng)建真正模仿智能生活的機(jī)器以及如何賦予其“直覺”或“常識”或能夠很好地執(zhí)行多項(xiàng)任務(wù)的能力（例如人類）。即使在最現(xiàn)代的AI程序中，這也導(dǎo)致了幾個明顯的缺陷（在下面詳細(xì)說明），這使得它們在大規(guī)模使用中不切實(shí)際。

任何足夠先進(jìn)的技術(shù)都無法與魔術(shù)區(qū)分開——亞瑟·克拉克（Arthur C. Clarke），1973年

4、現(xiàn)代的AI中明顯的缺陷

4.1 當(dāng)前的深度學(xué)習(xí)網(wǎng)絡(luò)并不強(qiáng)大

2015年，Nguyen，Yosinki和Clune檢查了領(lǐng)先的圖像識別深層神經(jīng)網(wǎng)絡(luò)是否易受假陽性的影響。他們通過擾動模式生成隨機(jī)圖像，并向這些神經(jīng)網(wǎng)絡(luò)顯示原始模式及其變異副本（這些網(wǎng)絡(luò)使用ImageNet的標(biāo)記數(shù)據(jù)進(jìn)行了訓(xùn)練）。盡管擾動模式（下面的圖3中描述了其中的八個）基本上沒有任何意義，但是它們被這些網(wǎng)絡(luò)錯誤地識別為國王企鵝，海星等，占99％以上的置信度。

另一個研究小組表明，通過佩戴某些迷幻眼鏡，普通人可能會愚弄面部識別系統(tǒng)，以為自己是名人。這樣一來，人們就可以相互模仿，而不會被這種系統(tǒng)檢測到。同樣，2017年的研究人員在路標(biāo)上添加了貼紙，這導(dǎo)致ANN將其分類錯誤，這可能對自動駕駛汽車造成嚴(yán)重后果。在這些AI系統(tǒng)變得足夠健壯到不會被此類干擾所欺騙之前，行業(yè)廣泛采用它們是不可行的。

4.2 機(jī)器學(xué)習(xí)系統(tǒng)仍然效率低下

機(jī)器學(xué)習(xí)算法需要成千上萬的貓（和非貓）圖片，然后才能開始準(zhǔn)確區(qū)分它們。如果AI系統(tǒng)在與過去大不相同的情況下運(yùn)行（例如，由于股票市場崩潰），這可能會給AI系統(tǒng)帶來嚴(yán)重的問題；由于AI系統(tǒng)可能沒有足夠大的數(shù)據(jù)集來進(jìn)行充分訓(xùn)練，因此它可能會失敗。

4.3 深度學(xué)習(xí)網(wǎng)絡(luò)難以改進(jìn)

盡管深度學(xué)習(xí)算法有時會產(chǎn)生優(yōu)異的結(jié)果，但它們通常是“黑匣子”，甚至研究人員目前也無法建立理論框架來理解它們?nèi)绾位驗(yàn)槭裁唇o出答案。例如，達(dá)德利（Dudley）和他的同事在山峰（Mt. 西奈醫(yī)院可以在很大程度上預(yù)見精神分裂癥的發(fā)作，但達(dá)德利遺憾地指出：“我們可以建立這些模型，但我們不知道它們?nèi)绾伟l(fā)揮作用” 。

由于我們不了解AI程序處理的數(shù)據(jù)與其最終答案之間的直接因果關(guān)系，因此系統(tǒng)地改進(jìn)AI程序仍然是一個嚴(yán)重的問題，通常是通過反復(fù)試驗(yàn)來完成的。出于同樣的原因，如果出現(xiàn)問題，很難解決這些問題。鑒于這些問題以及人們被教導(dǎo)要“處理”原因（而不是癥狀）的事實(shí)，至少在任何時候，許多行業(yè)不太可能能夠依靠深度學(xué)習(xí)程序。例如，醫(yī)生不太可能僅根據(jù)程序的預(yù)測即患者很快會成為精神分裂癥而向患者給藥。的確，如果程序的預(yù)測不準(zhǔn)確，并且患者由于使用不當(dāng)藥物引起的副作用而患病。

4.4 摩爾定律將在十年內(nèi)結(jié)束

如前所述，根據(jù)摩爾定律預(yù)測電路中晶體管數(shù)量的指數(shù)增長速度，是影響我們AI進(jìn)步的最重要原因。在達(dá)到一個硅原子的理論極限之前，當(dāng)今的晶體管尺寸最多可以減少4900倍。2015年，摩爾本人說：“我認(rèn)為摩爾定律將在未來十年左右消失” ［117］。因此，尚不清楚在摩爾定律消亡之前是否會開發(fā)出強(qiáng)大的通用人工智能系統(tǒng)。

5、人工智能系統(tǒng)對人類社會的短期影響

5.1 適應(yīng)不良的基礎(chǔ)設(shè)施

即使解決了前面提到的AI系統(tǒng)問題，以下原因也表明，仍必須付出大量努力才能使公司，組織和政府的基礎(chǔ)架構(gòu)適應(yīng)廣泛采用AI程序的情況：

現(xiàn)代AI算法通常需要強(qiáng)大的（數(shù)千個內(nèi)核）處理能力。但是，很少有組織在單個群集中安裝具有100個以上內(nèi)核的并行計算基礎(chǔ)架構(gòu)，并且安裝較大規(guī)模的系統(tǒng)既費(fèi)時又昂貴。原則上，組織可以將其數(shù)據(jù)發(fā)送到技術(shù)公司（例如Amazon Web Services或Google Cloud），后者可以大規(guī)模提供并行和分布式計算。但是，由于風(fēng)險（例如，數(shù)據(jù)泄露）和合規(guī)性原因，許多組織無法使用此類服務(wù)。

大型公司中的數(shù)據(jù)通常駐留在數(shù)千個不同的數(shù)據(jù)庫和位置中。這些數(shù)據(jù)大多數(shù)都是“嘈雜的”，如果AI系統(tǒng)以當(dāng)前形式使用此數(shù)據(jù)，則它們很可能會失敗。清理和協(xié)調(diào)數(shù)據(jù)是一項(xiàng)艱巨而耗時的任務(wù)，數(shù)據(jù)工程目前是部署AI系統(tǒng)的最大瓶頸，占其時間和成本的60％以上。大多數(shù)組織尚未開始大規(guī)模清理其數(shù)據(jù)，而少數(shù)已經(jīng)開始這樣做的組織則預(yù)計將花費(fèi)兩到五年的時間。

上游或下游的變化（例如，不斷變化的法規(guī)或商業(yè)環(huán)境）可能會迫使AI系統(tǒng)進(jìn)行重新配置，重新培訓(xùn)，重新驗(yàn)證和重新測試；如前所述，這可能會導(dǎo)致嚴(yán)重問題，因?yàn)锳I程序可能缺少新的培訓(xùn)數(shù)據(jù)。

圖5：協(xié)調(diào)大數(shù)據(jù)就像弄清了許多拼圖一樣

5.2 人類工作的短期未來

盡管弗雷和奧斯本（Frey and Osborne）預(yù)測：“美國總就業(yè)人數(shù)的47％屬于高風(fēng)險類別，……大概在一兩年之內(nèi)。” 大型技術(shù)公司，戰(zhàn)略公司和智囊團(tuán)的研究部門長期以來一直低估（至少兩倍）的歷史，具體的技術(shù)進(jìn)步影響人類社會需要多長時間。原因是這些分析通常無法解決關(guān)鍵問題：全球經(jīng)濟(jì)并非一帆風(fēng)順-變化需要時間。如果人類能夠幫助他們，他們很快就會適應(yīng)現(xiàn)代技術(shù)，但是如果它傷害了他們，他們就會非常有抵抗力，這種現(xiàn)象很難量化。

例如，在過去的四十年中，通過使用外包，在高薪國家中已經(jīng)有很大的機(jī)會可以將勞動力成本降低四分之一。從1979年左右開始，美國將制造業(yè)工作外包給低薪國家，但由于到2016年，美國由于外包而累計損失了不到800萬個制造業(yè)工作。同樣，美國的服務(wù)工作外包始于1990年代，但美國已累計損失了約500萬個此類工作。因此，外包造成的工作損失總計約1300萬，約占美國1.61億工作人口的8％。如果全球經(jīng)濟(jì)發(fā)展順利，弗雷和奧斯本預(yù)測的大部分（如果不是全部）47％的工作將流失給外包。

此外，除非在概念上有重大突破，否則先前提到的AI程序的不足也將導(dǎo)致在未來的15年內(nèi)不太可能因自動化而大量失去工作。的確，人工智能系統(tǒng)在學(xué)到的知識上做得很好，但是如果它們的規(guī)則被細(xì)微地干擾，就會很快失敗。如果工作受到威脅，人們可以輕松利用這一事實(shí)，例如，如果使用自動駕駛軟件，出租車司機(jī)可能與其他人合謀引入導(dǎo)致事故的惡意軟件（或在停車標(biāo)志上貼上標(biāo)簽，如上所述）。同樣，可以通過不斷變異惡意軟件攻擊其防御來擊敗ANN ；錯誤的人可以使用此方法將錯誤數(shù)據(jù)走私到ANN訓(xùn)練集中，從而破壞了AI系統(tǒng)的學(xué)習(xí)過程。

最后值得一提的一點(diǎn)是，在接下來的15年中將創(chuàng)造更多的工作，這在Frey和Osborne的分析或隨后的任何分析中都沒有考慮。

5.3 投資收益

由于上述原因，人工智能系統(tǒng)的采用和實(shí)施可能會慢于投資者的設(shè)想。因此，目前尚不清楚金融家是否會從他們的AI投資中獲得收益。在過去十年中，AI投資的總價值超過250億美元，特別是因?yàn)橹挥?1家受資助的私人公司的市值達(dá)到或超過10億美元。實(shí)際上，自2012年以來，在AI的70項(xiàng)并購交易中，有75％的交易價格低于5，000萬美元，是“收購雇員”（為人才而非業(yè)務(wù)績效而收購的公司）；大多數(shù)由投資者資助的公司籌集的資金不足1000萬美元。至少到目前為止，在人工智能上投入少量資金可能會產(chǎn)生不錯的回報，但效果卻不佳。

6、結(jié)論

過去幾年標(biāo)志著AI新的炒作周期的開始。該領(lǐng)域的最新進(jìn)展引起了研究人員和公眾的興趣，他們開始對強(qiáng)大的AI的產(chǎn)生做出令人震驚的預(yù)測，而金融家也開始對AI研究投入大量資金。和初創(chuàng)公司。這讓人聯(lián)想起四十五年前的第一個AI繁榮階段。人工智能領(lǐng)域也看到了許多驚人的進(jìn)步，大膽的預(yù)測和大量的投資。最終，這一繁榮階段崩潰了，主要是由于兩個原因。首先是機(jī)械的，由于1970年代有限且昂貴的計算能力。第二個是概念性的，因?yàn)槿狈Α爸庇X”和“人類思想”的理解，很大程度上由于摩爾定律，第一個問題已得到實(shí)質(zhì)解決。在過去的40年中，硬件的成本和功能提高了超過一百萬倍，從而可以使用無處不在且價格合理的硬件來制作更好的AI程序。但是，第二個問題仍未解決。此外，即使是最現(xiàn)代的AI程序，也存在重大缺陷，這些方案對擾動仍然很敏感，學(xué)習(xí)者的效率低下，難以改進(jìn)。即使解決了這些問題，當(dāng)前企業(yè)和政府的基礎(chǔ)設(shè)施似乎也無法快速大規(guī)模地整合AI程序。因此，研究人員，投資者和公眾（關(guān)于AI）的大膽期望不太可能在未來十五年內(nèi)實(shí)現(xiàn)。

盡管AI的許多舉動都導(dǎo)致了驚人的發(fā)展，但其中很多似乎也基于“非理性繁榮” ，而不是事實(shí)。在AI系統(tǒng)真正模仿智能生活之前，我們似乎仍需要重大突破。正如約翰·麥卡錫（John McCarthy）在1977年所指出的那樣，創(chuàng)建類似人類的AI計算機(jī)將需要“概念上的突破”，因?yàn)椤澳胍氖菒垡蛩固沟?.7和曼哈頓計劃的0.3，而您首先要的是愛因斯坦。我相信它將需要5到500年” 。四十年后，他的發(fā)言現(xiàn)在似乎同樣適用。

圖6：映射嚙齒動物大腦的神經(jīng)元

但是，研究人員正在繼續(xù)開拓可能導(dǎo)致此類突破的道路。例如，由于人工神經(jīng)網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)系統(tǒng)的靈感來自于神經(jīng)科學(xué)，因此一些學(xué)者認(rèn)為，新的概念性見解可能需要將生物學(xué)，數(shù)學(xué)和計算機(jī)科學(xué)相結(jié)合來進(jìn)行多學(xué)科研究。實(shí)際上，MICRoNS（來自皮質(zhì)網(wǎng)絡(luò)的機(jī)器智能）項(xiàng)目是首次嘗試?yán)L制嚙齒動物大腦的圖，該大腦具有大約100，000個神經(jīng)元和大約10億個突觸。美國政府（通過IARPA）已資助了這一億美元的研究計劃，哈佛大學(xué)，普林斯頓大學(xué)，貝勒醫(yī)學(xué)院和艾倫人工智能研究所的神經(jīng)科學(xué)家和計算機(jī)科學(xué)家正在合作以使其成功。MICrONS的計算目標(biāo)包括學(xué)習(xí)執(zhí)行復(fù)雜信息處理任務(wù)的能力，例如單次學(xué)習(xí)，無監(jiān)督聚類和場景解析，最終目標(biāo)是獲得類似于人的熟練程度。如果成功，該項(xiàng)目可能會為下一代AI系統(tǒng)創(chuàng)建基礎(chǔ)塊。

MICRoNS（來自皮質(zhì)網(wǎng)絡(luò)的機(jī)器智能）項(xiàng)目是首次嘗試?yán)L制嚙齒動物大腦的圖，該大腦具有大約100，000個神經(jīng)元和大約十億個突觸。如果成功，該項(xiàng)目可能會為下一代AI系統(tǒng)創(chuàng)建基礎(chǔ)塊。