來(lái)源：《理解和改變世界》

作者：約瑟夫·希發(fā)基思

對(duì)人工智能的與人類智能關(guān)系的探討在當(dāng)下十分熱門，我們對(duì)人工智能是否可能取代人類這個(gè)話題投入了巨大的好奇。在未來(lái)，人工智能怎樣能接近人類智能，人類應(yīng)該如何與人工智能共存等，都是需要科學(xué)家探究并回答的議題。

圖靈獎(jiǎng)得主希發(fā)基思在他的新書《理解和改變世界》中，通過(guò)比較人類智能和人工智能為我們進(jìn)行解答。在書中，他對(duì)人類智能與人工智能進(jìn)行了區(qū)分，并對(duì)人工智能是否能超越人類智能給出了清晰的解答，指出了開發(fā)自主系統(tǒng)是縮小機(jī)器智能和人類智能之間差距的關(guān)鍵，并分析濫用人工智能給人類帶來(lái)的真正的風(fēng)險(xiǎn)與威脅何在。

以下內(nèi)容來(lái)自他的新書《理解和改變世界》：

一、人類智能與人工智能

人類的思維分為快速思維和慢速思維，兩種思維對(duì)應(yīng)著不同的計(jì)算模式，也就是編程的計(jì)算模式與人工神經(jīng)網(wǎng)絡(luò)的計(jì)算模式，理清不同的思維特點(diǎn)，能幫助我們區(qū)分人類智能和人工智能，為探究人工智能接近人類智能指明道路。

1.快速思維和慢速思維

人類擁有兩種類型的思維模式：較慢卻有意識(shí)加工的思維，這是程序性的并且需要運(yùn)用推理規(guī)則。我們使用慢速思維去有意識(shí)地解決問(wèn)題，例如分析問(wèn)題、做計(jì)劃或制造東西。快速卻自動(dòng)（無(wú)意識(shí)）完成的思維，快速思維是自動(dòng)完成的，卻可以讓我們解決復(fù)雜度極高的問(wèn)題，例如說(shuō)話、走路、彈鋼琴等。

兩種思維模式也對(duì)應(yīng)兩種不同的計(jì)算模式：慢速思維基于我們理解事物的心智模式，這種模式與我們對(duì)計(jì)算機(jī)進(jìn)行編程的計(jì)算模式類似。快速思維則是有意識(shí)學(xué)習(xí)的結(jié)果，通過(guò)反復(fù)地訓(xùn)練，內(nèi)化成一種自動(dòng)的模式，這與人工神經(jīng)網(wǎng)絡(luò)的計(jì)算模型一樣。

對(duì)應(yīng)這兩種思維模式，如果我們想要制造雙足機(jī)器人或者能騎車的機(jī)器人，可以通過(guò)兩種方法：1.考慮好所有可能的物理情況，然后將機(jī)器人的動(dòng)作編寫為相應(yīng)的程序。我們需要借助力學(xué)理論，編寫能實(shí)時(shí)控制的程序。2.對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行反復(fù)訓(xùn)練，讓它在同樣的物理?xiàng)l件下做出相似的動(dòng)作。我們并不需要力學(xué)知識(shí)，但是可以訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)如何平衡。

最適合模擬快速思維的是直接依賴物理過(guò)程的自然計(jì)算機(jī)，例如量子計(jì)算機(jī)、蛋白質(zhì)計(jì)算機(jī)，特別是人工神經(jīng)網(wǎng)絡(luò)。它們與快速思維一樣，對(duì)信息的處理本質(zhì)上是并行的，而且執(zhí)行的大都是那種邏輯分析不可能完成的計(jì)算。

2.人類天生擁有常識(shí)智能

傳統(tǒng)計(jì)算機(jī)所擁有的任何“智能”都只是程序員的智能，它們只是在執(zhí)行程序員用符號(hào)描述好的命令而已。隨著人工神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，情況發(fā)生了變化。人工神經(jīng)網(wǎng)絡(luò)采用完全不同的計(jì)算模式，這種模式不是靠編程，而是從龐大的數(shù)據(jù)集中進(jìn)行學(xué)習(xí)。

讓計(jì)算機(jī)接近人類智能的第一步，是讓它表現(xiàn)得像我們所說(shuō)的強(qiáng)人工智能。能把特定問(wèn)題的解決方案與相應(yīng)的技能結(jié)合起來(lái)，像人類一樣對(duì)環(huán)境的刺激做出反應(yīng)。人類智能的特征是能夠把對(duì)感官信息的感知/解釋、信息的邏輯處理，以及可能導(dǎo)致行動(dòng)的決策結(jié)合起來(lái)。

想讓計(jì)算機(jī)表現(xiàn)出人類的行為，需要賦予它相應(yīng)的語(yǔ)義模型：我們可以把意識(shí)理解為大腦在外部世界和內(nèi)部世界的語(yǔ)義模型中“看到”自己如何行動(dòng)的能力。這個(gè)模型在我們的嬰兒時(shí)期就自動(dòng)構(gòu)建起來(lái)了。人類的大部分智力都屬于我們所說(shuō)的常識(shí)。我們的大腦會(huì)使用它的語(yǔ)義模型來(lái)評(píng)估環(huán)境中正在發(fā)生的事情以及可能的后果。這個(gè)語(yǔ)義模型不斷積累經(jīng)驗(yàn)，幾乎每天都在自我豐富。

為了讓計(jì)算機(jī)表現(xiàn)出人類的這種行為，我們必須賦予它相應(yīng)的語(yǔ)義模型。理論上，如果我們能夠?qū)ψ匀徽Z(yǔ)言進(jìn)行分析和形式化，按照層級(jí)構(gòu)建出概念之間關(guān)系的語(yǔ)義網(wǎng)絡(luò)，再加上表征和更新知識(shí)的規(guī)則，我們就可以構(gòu)建出這樣一個(gè)模型。

3.人類思維具有認(rèn)知局限

人類的思維受到認(rèn)知復(fù)雜度的限制。實(shí)驗(yàn)證明，我們的大腦能夠關(guān)聯(lián)的參數(shù)數(shù)量的上限大約是五個(gè)（一個(gè)關(guān)系與四個(gè)參數(shù)）。人類無(wú)法同時(shí)建立起大量操作單位之間的關(guān)系，這對(duì)我們理解世界是一個(gè)非常大的限制，這導(dǎo)致我們?nèi)祟惖乃季S并不具備理解復(fù)雜現(xiàn)象的能力，也限制了我們所能構(gòu)建的理論與制造的工件的復(fù)雜性。

現(xiàn)象是復(fù)雜的，人類思維對(duì)復(fù)雜現(xiàn)象的認(rèn)知具有局限性。在過(guò)去的科學(xué)中，人類通過(guò)簡(jiǎn)化構(gòu)建了一種研究復(fù)雜現(xiàn)象的方式，但這種方式并不能解決所有的復(fù)雜現(xiàn)象的問(wèn)題。正是在這些問(wèn)題上，相信人與計(jì)算機(jī)之間協(xié)作，可以在一定程度上幫助我們克服認(rèn)知局限，建立起一種新的研究復(fù)雜現(xiàn)象的方式。

二、自主系統(tǒng)：超越弱人工智能

人類思維的本性限制了我們探索知識(shí)的能力，我們可以利用計(jì)算機(jī)來(lái)克服認(rèn)知復(fù)雜性的障礙，發(fā)展并驗(yàn)證能夠解釋復(fù)雜現(xiàn)象的新理論。我們有了一個(gè)生成新型科學(xué)知識(shí)的流程，其中的規(guī)律不是由人類思維設(shè)計(jì)的、明確表述的數(shù)學(xué)關(guān)系，而是使用計(jì)算機(jī)發(fā)現(xiàn)的、可能很復(fù)雜的關(guān)系。對(duì)這種關(guān)系的分析可能具有預(yù)測(cè)性，但由于不能通過(guò)明確的數(shù)學(xué)模型來(lái)描述，因此肯定會(huì)限制我們對(duì)現(xiàn)象更深入的理解。在計(jì)算機(jī)的輔助下，我們有了一種新型的知識(shí)，它讓我們無(wú)須借助數(shù)學(xué)分析進(jìn)行理解，便可以做出預(yù)測(cè)。人工智能和超級(jí)計(jì)算機(jī)的使用正在為人類知識(shí)的發(fā)展鋪設(shè)一條新路。

1.機(jī)器學(xué)習(xí)的成果

機(jī)器學(xué)習(xí)和數(shù)據(jù)分析領(lǐng)域的最新進(jìn)展表明，機(jī)器正確地生成知識(shí)并做出預(yù)測(cè)是可能的。這些技術(shù)可以識(shí)別數(shù)據(jù)中的復(fù)雜關(guān)系，而這些關(guān)系可以顯示出因果關(guān)系并進(jìn)一步做出預(yù)測(cè)。

比較科學(xué)知識(shí)的發(fā)展方式和機(jī)器學(xué)習(xí)產(chǎn)生知識(shí)的方式，科學(xué)發(fā)現(xiàn)是觀察者經(jīng)過(guò)學(xué)習(xí)的結(jié)果，他創(chuàng)建一個(gè)可以解釋和預(yù)測(cè)現(xiàn)象的模型，進(jìn)而形成一個(gè)理論。而人工神經(jīng)網(wǎng)絡(luò)生成知識(shí)的方式則是對(duì)大規(guī)模數(shù)據(jù)進(jìn)行長(zhǎng)期“學(xué)習(xí)”。通過(guò)學(xué)習(xí)代表因果關(guān)系的數(shù)據(jù)，神經(jīng)網(wǎng)絡(luò)可以用一種外推方法來(lái)估計(jì)某個(gè)原因最可能導(dǎo)致的結(jié)果。如果人工神經(jīng)網(wǎng)絡(luò)的輸入和輸出是物理量，對(duì)其做形式化就沒(méi)有理論限制了。我們可以通過(guò)了解人工神經(jīng)網(wǎng)絡(luò)各部分的結(jié)構(gòu)和行為，從理論上計(jì)算出表征輸入和輸出關(guān)系的數(shù)學(xué)函數(shù)。在數(shù)學(xué)模型無(wú)法起作用的情況下，人工神經(jīng)網(wǎng)絡(luò)就顯得特別有用。

但是采用機(jī)器學(xué)習(xí)的方法，并不能完全解決智能的問(wèn)題。人類智能的特征是自主行為以及對(duì)內(nèi)、外部環(huán)境變化的適應(yīng)。這是人類大腦能夠創(chuàng)造新知識(shí)，理解從未遇到過(guò)的情況，以及設(shè)定新目標(biāo)的關(guān)鍵所在。目前機(jī)器學(xué)習(xí)并不能做到一點(diǎn)。只有當(dāng)某一天，計(jì)算機(jī)系統(tǒng)能夠自主執(zhí)行大量任務(wù)，并且能夠適應(yīng)不斷變化的環(huán)境時(shí)，我們才可以說(shuō)人工智能和人類智能之間的差距正在消失。

2.人工智能接近人類的可能：自主系統(tǒng)

傳統(tǒng)計(jì)算機(jī)與人類的區(qū)別在于，傳統(tǒng)計(jì)算機(jī)會(huì)自動(dòng)執(zhí)行某些預(yù)定的功能，是一個(gè)自動(dòng)化系統(tǒng)；而人類則具有自主行動(dòng)的能力，人可以對(duì)環(huán)境的變化做出反應(yīng)，也可以在內(nèi)部目標(biāo)的驅(qū)動(dòng)下主動(dòng)采取行動(dòng)。

人工智能的應(yīng)用使我們向前邁出了重要的一步，即從自動(dòng)化系統(tǒng)發(fā)展為自主系統(tǒng)。對(duì)于自主系統(tǒng)，我們期待它能夠在復(fù)雜任務(wù)中取代人類，人們的目標(biāo)是希望達(dá)到在沒(méi)有人工干預(yù)的情況下，把人工智能與自動(dòng)化的流程結(jié)合起來(lái)，從而實(shí)現(xiàn)更高的效率。在這個(gè)系統(tǒng)中，人的作用是設(shè)定和調(diào)整目標(biāo)，而目標(biāo)的實(shí)現(xiàn)則完全交給自主系統(tǒng)來(lái)完成。

在自動(dòng)駕駛中，我們只需要輸入目的地，自動(dòng)駕駛系統(tǒng)就能幫我們把車開到相應(yīng)的位置；在智能工廠或智能農(nóng)場(chǎng)中，我們只需要輸入生產(chǎn)指標(biāo)，整個(gè)系統(tǒng)就能幫我們管理工廠/農(nóng)場(chǎng)，從而完成生產(chǎn)指標(biāo)。實(shí)現(xiàn)自主系統(tǒng)和服務(wù)是物聯(lián)網(wǎng)的核心目標(biāo)。如果這個(gè)目標(biāo)實(shí)現(xiàn)了，那么我們將更有信心說(shuō)，計(jì)算機(jī)智能可以起到比在游戲中擊敗人類更重要的作用。

要實(shí)現(xiàn)物聯(lián)網(wǎng)的愿景，開發(fā)可靠的自主系統(tǒng)至關(guān)重要。這既是一項(xiàng)科學(xué)挑戰(zhàn)，也是一項(xiàng)技術(shù)挑戰(zhàn)，同時(shí)還包含巨大的經(jīng)濟(jì)和政治競(jìng)爭(zhēng)。這就是為什么所有主要的科技公司都在投資這個(gè)領(lǐng)域，尤其是自動(dòng)駕駛汽車，因?yàn)橛邢喈?dāng)大的經(jīng)濟(jì)利益。參與這場(chǎng)競(jìng)爭(zhēng)的公司包括谷歌及其子公司W(wǎng)aymo、蘋果、英特爾及其子公司Mobileye、優(yōu)步、阿里巴巴、華為、騰訊等，當(dāng)然還包括所有主要的汽車制造商，其中特斯拉處于領(lǐng)先地位。

3.自主系統(tǒng)的功能和組織的特征

一個(gè)自主系統(tǒng)包括五個(gè)關(guān)鍵功能，環(huán)境感知和狀態(tài)表示用來(lái)理解環(huán)境狀況，目標(biāo)管理和策略規(guī)劃用于決策，另外一個(gè)賦予了系統(tǒng)自我學(xué)習(xí)的能力。

環(huán)境感知功能從環(huán)境中接收感知信息（圖像或別的信號(hào)），然后根據(jù)存儲(chǔ)庫(kù)中的概念，對(duì)這些信息進(jìn)行分類。感知到的信息被傳遞給狀態(tài)表示函數(shù)，這種函數(shù)的功能是建立一個(gè)系統(tǒng)外部和內(nèi)部環(huán)境的模型。決策模塊有兩種功能：目標(biāo)管理和策略規(guī)劃。所謂目標(biāo)管理，即從一組預(yù)先確定的目標(biāo)中選擇與環(huán)境模型的當(dāng)前狀態(tài)相匹配的兼容目標(biāo)子集。目標(biāo)管理也決定了我們所說(shuō)的策略規(guī)劃。策略規(guī)劃功能可以對(duì)目標(biāo)管理進(jìn)行補(bǔ)充和完善。該功能決定了系統(tǒng)的策略。對(duì)于每組選定的目標(biāo)，策略規(guī)劃功能函數(shù)會(huì)計(jì)算出一系列命令給執(zhí)行器，執(zhí)行器執(zhí)行相應(yīng)的操作。最后，第五個(gè)關(guān)鍵功能是自我學(xué)習(xí)，對(duì)知識(shí)庫(kù)里的知識(shí)進(jìn)行管理和更新。知識(shí)的更新是通過(guò)創(chuàng)建新知識(shí)來(lái)完成的：（1）環(huán)境，例如基于模型數(shù)據(jù)分析中積累的知識(shí)形成的新概念；（2）適應(yīng)環(huán)境變化的新目標(biāo)，或改變與目標(biāo)選擇相關(guān)的參數(shù)值。

上述架構(gòu)將“自主”定義為：為了適應(yīng)環(huán)境的變化，系統(tǒng)在沒(méi)有人為干預(yù)的情況下實(shí)現(xiàn)一系列目標(biāo)的能力。為了實(shí)現(xiàn)“自主”，需要將五個(gè)相互獨(dú)立的功能——環(huán)境感知、狀態(tài)表示、目標(biāo)管理、策略規(guī)劃和自我學(xué)習(xí)——結(jié)合起來(lái)。

三、人工智能帶來(lái)的真正挑戰(zhàn)

計(jì)算機(jī)智能最終將超過(guò)人類智能，我們最終可能會(huì)成為機(jī)器的寵物。史蒂芬·霍金、比爾·蓋茨和埃隆·馬斯克等人都支持這類觀點(diǎn)。顯然，這些觀點(diǎn)缺乏嚴(yán)肅性，是站不住腳的。再?gòu)?qiáng)大的機(jī)器也不足以戰(zhàn)勝人類的智慧。但他們的這些想法在媒體中找到了滋生的溫床，被不加批判地廣泛傳播，在很大程度上引起了公眾的共鳴。人們都在熱議計(jì)算機(jī)智能的假想風(fēng)險(xiǎn)，也許把真正的風(fēng)險(xiǎn)掩蓋住了。而這些真正的風(fēng)險(xiǎn)才是問(wèn)題所在，因?yàn)樗鼈兩婕吧鐣?huì)組織的類型及其所服務(wù)的關(guān)系，特別是社會(huì)和政治性質(zhì)的問(wèn)題。

1.風(fēng)險(xiǎn)一：失業(yè)

很久以前人們就發(fā)現(xiàn)，自動(dòng)化程度不斷提高帶來(lái)的一個(gè)風(fēng)險(xiǎn)是，機(jī)器人使用越普遍的行業(yè)失業(yè)率越高。除了引發(fā)高失業(yè)率之外，自動(dòng)化的趨勢(shì)還會(huì)進(jìn)一步擴(kuò)大需要技能和知識(shí)的高薪工作與其他體力勞動(dòng)之間的差距。有些人認(rèn)為，傳統(tǒng)工作崗位的消失會(huì)被新需求所創(chuàng)造的崗位抵消。我認(rèn)為，除非對(duì)職業(yè)結(jié)構(gòu)進(jìn)行徹底改革，否則失業(yè)和工資差距的問(wèn)題將會(huì)惡化。

2.風(fēng)險(xiǎn)二：防護(hù)、安全和風(fēng)險(xiǎn)管理

當(dāng)自動(dòng)化集成程度超過(guò)某個(gè)水平時(shí)，信息系統(tǒng)如果缺乏安全保護(hù)可能是極其危險(xiǎn)的。眾所周知，即使對(duì)那些最重要的系統(tǒng)，人們也無(wú)法做到全面保護(hù)它們不遭受網(wǎng)絡(luò)攻擊，我們充其量只能希望及時(shí)發(fā)現(xiàn)入侵者。

在引入人工智能和自主系統(tǒng)的領(lǐng)域，其風(fēng)險(xiǎn)管理與在其他領(lǐng)域有顯著的差異。在這些領(lǐng)域中，不再有獨(dú)立的國(guó)家機(jī)構(gòu)來(lái)保證和控制系統(tǒng)的質(zhì)量及安全。這個(gè)責(zé)任轉(zhuǎn)移給了制造商。其中的風(fēng)險(xiǎn)是顯而易見(jiàn)的，因?yàn)橛脩舻陌踩?jí)別將不再由透明的技術(shù)標(biāo)準(zhǔn)決定，而是由制造成本和能夠覆蓋事故賠償金的保險(xiǎn)成本之間的最佳平衡值來(lái)決定。

各國(guó)政府和國(guó)際組織明顯是缺席和不作為的。他們好像認(rèn)為技術(shù)進(jìn)步本身就是目的。他們很少關(guān)心互聯(lián)網(wǎng)上發(fā)生的違法行為。他們認(rèn)為風(fēng)險(xiǎn)不可避免，因此干脆對(duì)其放任自流，就好像進(jìn)步一定會(huì)帶來(lái)某些不可避免和無(wú)法控制的弊病一樣。

因此，公眾輿論仍然處于混亂迷失狀態(tài)，而且在一定程度上被那些既不負(fù)責(zé)也不客觀的聲音操縱了。一些人夸大了風(fēng)險(xiǎn)，而另一些人則為了推廣技術(shù)應(yīng)用而淡化風(fēng)險(xiǎn)。公眾卻樂(lè)于接受錯(cuò)誤的思想，并隨波逐流。

3.風(fēng)險(xiǎn)三：技術(shù)依賴

技術(shù)的應(yīng)用解決了人們的許多實(shí)際問(wèn)題并使生活變得更舒適，但這也意味著我們喪失了某些解決問(wèn)題的技能。擔(dān)心人們過(guò)度依賴技術(shù)并非杞人憂天。因?yàn)楝F(xiàn)在技術(shù)不僅是解決單個(gè)問(wèn)題，而且為人們提供了全面的解決方案。這意味著我們正在過(guò)渡到一種新的生活方式——技術(shù)提供大量的服務(wù)，減輕了我們管理決策的負(fù)擔(dān)。在這種生活方式中，有越來(lái)越多的技能/知識(shí)不再是我們必須掌握的了。

正確、合理地使用人工智能和自主系統(tǒng)取決于：第一，根據(jù)客觀標(biāo)準(zhǔn)評(píng)估我們是否可以信任計(jì)算機(jī)生成的知識(shí)。第二，全社會(huì)的警惕性和政治責(zé)任感。

審核編輯：湯梓紅