常博逸：人工智能將顛覆一切，“人類帝國的覆滅”源自自滿和懶惰

人工智能的故事始于1955年的達(dá)特茅斯學(xué)院。

那年，29歲的數(shù)學(xué)助理教授約翰·麥卡錫（John McCarthy）邀請全美最杰出的數(shù)學(xué)家參加一個暑期研討會。在邀請信中，他首次使用了“人工智能”這個詞：“既然我們現(xiàn)在已經(jīng)能夠相當(dāng)確切地學(xué)習(xí)機(jī)制以及人類智慧的其他方面，那么我們就應(yīng)該有能力研制出一種可以模擬人類智慧的機(jī)器，賦予這種機(jī)器以語言，使其能夠形成概念和抽象思維，并且能夠解決現(xiàn)在只有人類才有能力處理的問題?！贝文晗奶?，研討會如期舉行——這是歷史上首個“自發(fā)集結(jié)”的研究計(jì)算機(jī)這門新興科學(xué)的最前沿科學(xué)家團(tuán)體。

在此后的幾十年間，人工智能的相關(guān)討論陷入沉寂。如果不是因?yàn)槔鋺?zhàn)期間美蘇爭霸集中于原子彈控制權(quán)和空間大戰(zhàn)，人類對人工智能的開發(fā)應(yīng)用可能會更早出現(xiàn)。參加1956年會議的這批科學(xué)家，直到2006年才再度齊聚一堂。彼時，人工智能研究的各個細(xì)分領(lǐng)域——語言和自動翻譯、神經(jīng)網(wǎng)絡(luò)、機(jī)器人學(xué)、圖像識別、機(jī)器學(xué)習(xí)——均已出現(xiàn)，人工智能的大爆發(fā)即將開始。

十多年后的今天，“人工智能帝國”已經(jīng)在一點(diǎn)一點(diǎn)地添磚加瓦：搜索引擎、購物建議、連網(wǎng)設(shè)備、智能手機(jī)、Apps、自動駕駛汽車、無人駕駛飛機(jī)、機(jī)器人、自動翻譯、元數(shù)據(jù)分析軟件……從BAT到谷歌、蘋果、微軟、Uber，每一個科技巨頭都在大力投資“下一件大事”（the next big thing），那就是人工智能。美國聊天機(jī)器人（chatbot）專家布魯斯·威爾科克斯（Bruce Wilcox）開發(fā)了聊天機(jī)器人露絲（Rose），“她”的人物設(shè)定是一名住在舊金山的31歲女黑客，能夠與人類展開真實(shí)有趣的對話。該項(xiàng)目曾于2014年和2015年兩度獲得洛伯納（Loebner）獎，該獎項(xiàng)用于獎勵（幾乎）成功通過圖靈測試的機(jī)器人。

在可以預(yù)見的未來，我們將越來越依賴人工智能來幫助我們處理生活瑣事，甚至做出重大決定；與此同時，技術(shù)革新的腳步將越來越快，直至技術(shù)奇點(diǎn)降臨。當(dāng)像露絲這樣的人工智能機(jī)器人發(fā)展出自己的獨(dú)立意識，并在各個領(lǐng)域“架空”人類的決策權(quán)和行動時，我們該怎么辦？

在《人類帝國的覆滅》聯(lián)合作者、國際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）看來，隨著技術(shù)奇點(diǎn)的到來，人類社會的現(xiàn)有組織形式、商業(yè)形態(tài)、價(jià)值觀和社會體制將發(fā)生根本性變革。這不是科幻小說式的危言聳聽，而是切實(shí)存在的風(fēng)險(xiǎn)。他認(rèn)為，雖然我們無法阻止技術(shù)進(jìn)步，也無法預(yù)見未來的真實(shí)情況，但對人工智能的未來動向和潛在風(fēng)險(xiǎn)保持警惕和持續(xù)探討仍然十分有意義。我們需要警惕，一個由人工智能構(gòu)建的標(biāo)準(zhǔn)化、穩(wěn)定、冷靜的世界將維護(hù)一小部分人的利益，損害所有其他人的利益。人類與機(jī)器的合理關(guān)系，是“不要讓機(jī)器人做你自己能做的事”，唯有如此，我們才能避免“人類帝國的覆滅”。

《人類帝國的覆滅》聯(lián)合作者、國際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）真實(shí)的預(yù)言：“終有一天，奇點(diǎn)將像生物進(jìn)化一樣降臨某處”

“這是關(guān)于一門科學(xué)的故事，它就是人工智能……我想講述從1956年（這是史學(xué)家公認(rèn)的、智能機(jī)器研究的漫長冒險(xiǎn)旅程開始的年份）到2040年人類和人工智能之間這種奇特關(guān)系的歷史……從源起一直發(fā)展到臻于完善，我是每一個階段的見證者，因?yàn)槲揖褪且粋€高級人工智能。”

界面文化：你是如何想到寫這本書的？

常博逸：我寫過不少書，這本書之前，我寫了《孔夫子與機(jī)器人》，它也已經(jīng)被翻譯成中文引進(jìn)了。在那本書里，我討論了在一個日益由機(jī)器控制的世界中人類的境遇，描述了當(dāng)下幾十種即將形塑明日世界的技術(shù)。2014年，那本書出版以后，我想，在所有技術(shù)當(dāng)中，最有顛覆性的就是人工智能了。當(dāng)時還沒有什么人討論人工智能，因?yàn)槿斯ぶ悄艿臐摿€不為大眾所知。我詢問了出版商，我是否可以就這個話題寫一本書，出版商同意了。

當(dāng)時我就想好了這個標(biāo)題：《人類帝國的覆滅》。這個標(biāo)題是一開始就定下的，后來又加上了副標(biāo)題（一個機(jī)器人的回憶錄）。在我的構(gòu)想中，是露西（注：書中設(shè)想的達(dá)到奇點(diǎn)的人工智能機(jī)器）撰寫了這本書。兩年半的時間里，我采訪了許多教授和致力于人工智能開發(fā)的商業(yè)領(lǐng)袖，并完成了這本書。

我不是為了大學(xué)教授、歷史學(xué)家來寫這本書的，我希望這本書既能被我7歲的侄子閱讀，也能被我的祖輩理解。因此我希望從商業(yè)角度探討一個技術(shù)問題，與此同時，不忘其社會影響——這正是我們所有人都在面對的威脅。

界面文化：目前我們處于人工智能的哪個發(fā)展階段呢？

常博逸：當(dāng)下的科技巨頭都在大力投入研發(fā)人工智能，它們從你我手中獲取數(shù)據(jù)，在廣告投放中不遺余力。它們使用深度學(xué)習(xí)技術(shù)——這是一種起源于1970年代的老技術(shù)——來研究社交網(wǎng)絡(luò)，最大化地賺取利潤。我們還沒有看到技術(shù)突破，現(xiàn)在能看到的是應(yīng)用于銀行業(yè)、消費(fèi)品和服務(wù)業(yè)的一些應(yīng)用軟件。我們看到有部分公司正在嘗試研發(fā)通用人工智能或其他的新技術(shù)，但我相信這還只是一個開始。

我在書中寫到，下一個階段將出現(xiàn)人工智能助手，將出現(xiàn)根據(jù)生物原理開發(fā)的人工智能，其運(yùn)行機(jī)制將和機(jī)器學(xué)習(xí)有很大不同，它像人類大腦一樣工作，耗能更少、運(yùn)行更快。我們還會看到量子計(jì)算機(jī)大量出現(xiàn)。絕大多數(shù)目前我們看到的技術(shù)都將成為商品：自然語言處理、圖像識別等等。我們目前只處于人工智能的早期，當(dāng)下的科技巨頭仍然有很大優(yōu)勢，但它們的優(yōu)勢可能不會持續(xù)太久。

界面文化：為什么這本書以十年為一個時間節(jié)點(diǎn)呢？特別值得注意的是，為什么你認(rèn)為技術(shù)奇點(diǎn)將在2038年到來呢？之前我采訪過《技術(shù)奇點(diǎn)》的作者默里·沙納漢（Murray Shanahan），他拒絕預(yù)言技術(shù)奇點(diǎn)的確切到來時間。

常博逸：這本書的開篇設(shè)定在1956年的達(dá)特茅斯學(xué)院“人工智能”研討會。我本以為參加那次會議的科學(xué)家之后會有很多交流，沒想到他們下一次齊聚一堂已經(jīng)是50年以后的事了，于是我的第二章設(shè)定在了2006年。然后，我認(rèn)為十年是一個合適的時間段——長到足以令事情發(fā)生巨大改變——因此下一個章節(jié)是2016年，在那一年，人工智能到了一個轉(zhuǎn)折點(diǎn)。再然后就是2026年。接下來是什么呢？2038年。這一章仍然不是故事的全部，我還加上了尾聲（2040年）。

過去40年里的每一個十年都發(fā)生了巨變。1998年我們還沒有手機(jī)，2008年才出現(xiàn)了智能手機(jī)，2018年我們的手機(jī)已經(jīng)堪稱一部平板電腦，2028年我們肯定會有一些更不一樣的東西。我相信技術(shù)進(jìn)步是偶然發(fā)生，而不是故意為之的。想想人類是什么時候開始擁有自我意識的吧，我們并不知道確切的時間，它就這么發(fā)生了，也許是神的旨意或什么別的原因吧。

因此我的推測是，終有一天，奇點(diǎn)將像生物進(jìn)化一樣降臨某處，所有的那些軟件將讓機(jī)器擁有思考的能力，聯(lián)結(jié)起來形成一種意識。不是某個來自中國、美國或歐洲的科學(xué)家發(fā)現(xiàn)了奇點(diǎn)——順便說一句，我不相信奇點(diǎn)將由科學(xué)家發(fā)現(xiàn)——因?yàn)榇蠖鄶?shù)重大發(fā)現(xiàn)是偶然間或巧合下獲得的

界面文化：我認(rèn)為沒有人能預(yù)測人工智能領(lǐng)域技術(shù)突破的確切時間，目前我們能看到的人工智能也還非常原始，因此這本書的后半部分在我看來有點(diǎn)像是科幻小說了。你的論據(jù)有怎樣的現(xiàn)實(shí)基礎(chǔ)呢？

常博逸：我認(rèn)為你對這本書的判斷需要更謹(jǐn)慎一些?！?038年”的那一章是有一點(diǎn)像科幻小說，它討論了當(dāng)機(jī)器能夠自主思考時，人類應(yīng)該如何應(yīng)對的問題——這是最后兩章探討的主要內(nèi)容，也就是“人類帝國的覆滅”這一主旨。

“2026年”的這一章非常真實(shí)，如果你去詢問技術(shù)專家，他們都會同意這是即將發(fā)生的事。如今你能夠遠(yuǎn)程操縱你的生活，百度、阿里巴巴或騰訊這樣的公司與你接洽。在不久之后的未來，你手機(jī)上的人工智能（我稱之為“人工智能協(xié)議”）將逐漸從幫助你遠(yuǎn)程操縱生活過渡到直接操縱你的生活，它將在不把信息泄露給第三方的情況下給你的個人生活、銀行賬戶狀況、職業(yè)發(fā)展提出建議。這是非常真實(shí)可行的。

現(xiàn)在的問題是，誰將開發(fā)這些應(yīng)用，誰將提供這些服務(wù)呢？當(dāng)谷歌來臨的時候，沒有人想到過我們需要它；當(dāng)Facebook來臨時，沒有人想過我們需要它；智能手機(jī)本來完全有可能被諾基亞、摩托羅拉這些公司發(fā)明，iPhone并沒有什么超高級的技術(shù)。就像2000年的時候未來學(xué)家Erica Orange告訴我的：手機(jī)將遠(yuǎn)程操控你的生活。當(dāng)時沒有人相信，手機(jī)不就是用來打電話、發(fā)短信的工具么？它怎么可能用來管理人生？

所以，“2038年”及之后的一章你可以說是科幻小說，“2026年”對我來說是非常真實(shí)可信的。

科技發(fā)展與社會公平：我們需要一個分享技術(shù)進(jìn)步成果的機(jī)制

“人工智能變成了為富裕國家（或者更確切地說，是這些富裕國家所庇護(hù)的企業(yè)）服務(wù)的經(jīng)濟(jì)力量工具。通過大幅降低勞動力成本和投入的資金總額，它為工業(yè)大國帶來了新的活力。知識集中在少數(shù)人手里的情況前所未有地嚴(yán)重。這一小部分可以獲得技術(shù)和資金的社會階層如今占據(jù)了這個領(lǐng)域的頂端，全世界的記憶都在他們的服務(wù)器里。擁有者和不擁有者之間的斷層不斷擴(kuò)大?！?/p>

界面文化：近年來，英國脫歐、特朗普當(dāng)選美國總統(tǒng)、法國“黃背心運(yùn)動”等事件不斷提醒我們?nèi)蚧托伦杂芍髁x經(jīng)濟(jì)秩序正在造成嚴(yán)重的社會不平等。人們正在失去工作和經(jīng)濟(jì)機(jī)會，我們有足夠多的理由擔(dān)心人工智能將進(jìn)一步從我們手中奪走工作。當(dāng)我們?nèi)匀辉诿媾R“效率VS公平”的老問題時，推動人工智能發(fā)展還有必要嗎？

常博逸：很不幸，人類永遠(yuǎn)不會停止對新技術(shù)的追求。我們認(rèn)為核能很危險(xiǎn)，但現(xiàn)在我們?nèi)栽谑褂盟?；我們認(rèn)為細(xì)菌生物武器很危險(xiǎn)，但還是將它應(yīng)用在戰(zhàn)場上。所以，首先，我們不可能停止技術(shù)開發(fā)，如果有一個國家決定停止，其他國家也會繼續(xù)那么做，然后技術(shù)差距就會越來越大。

第二，我們要明白人工智能的挑戰(zhàn)是：作為一個整體，我們相信它會讓社會變得更好——馬路上的交通擁堵會更少，社會運(yùn)行會更有效率，我們能解決更多的醫(yī)療問題，人們能盡早發(fā)現(xiàn)癌癥；但作為個人，我們看不到人工智能的好處在哪里——我們會擔(dān)心，我們的子女將來要怎么辦，我的工作還保不保得?。繛槭裁磿l(fā)生這種情況？因?yàn)槲覀儼鸭夹g(shù)置于了人類的對立面，事情變成了人工智能對抗人類智能。我們應(yīng)該怎么應(yīng)對技術(shù)變革呢？我們應(yīng)該融合人類智能和人工智能，我稱之為“人類增強(qiáng)智能”（human-augmented intelligence）。所以人工智能助手會出現(xiàn)。

我的一個堅(jiān)定信念是，如果人們能夠利用人工智能來安排生活，就能更好地工作，能成為更好的公民、更好的母親、更好的任何角色，然后我們就能有更多新的發(fā)現(xiàn)。我完全相信未來世界會有許多新的工作出現(xiàn)。我們?nèi)缃褚呀?jīng)從第一產(chǎn)業(yè)轉(zhuǎn)移至第二產(chǎn)業(yè)、第三產(chǎn)業(yè)。我相信將會有第四產(chǎn)業(yè)出現(xiàn)，新的工作、新的人類活動形態(tài)。我們——政府、咨詢?nèi)藛T、記者——要做的是，引導(dǎo)人們參與人工智能應(yīng)用融合的討論。

人工智能不能由少數(shù)人控制，這樣的話窮人就會被奴役，這正是“人類帝國的覆滅”的理論。如果世界上的大多數(shù)人都失業(yè)，沒有機(jī)會獲得人工智能助手，人類就會變成人形機(jī)器，不滿的群體將因此推翻富人的資源壟斷、推翻政府、推翻人工智能的控制。因此這本書的一個重要目的——特別是最后一章——是告訴人們：機(jī)器必須一直是人類的工具。

界面文化：在書中，你指出中國正在全力發(fā)展機(jī)器人和人工智能，很大程度上是因?yàn)槿肆Τ杀旧仙腿丝诶淆g化。機(jī)器人和人工智能將如何幫助我們解決老齡化社會的問題呢？

常博逸：首先，鑒于低成本和高效率，中國已經(jīng)是一個世界工廠。隨著機(jī)器人和人工智能的發(fā)展，工廠將減少對人力的需求。目前中國的年輕人口在下降，勞動力在減少，因此（發(fā)展人工智能）會解決工廠的產(chǎn)能問題。另一方面，當(dāng)我們談及人口老齡化問題時，我們首先思考的是醫(yī)療，以及如何幫助那些依然處于良好身體狀態(tài)的老人繼續(xù)工作，為了實(shí)現(xiàn)這個目標(biāo)，我們需要有新的工作（正如我剛才提到的），我們也需要有新的技術(shù)手段來照顧老人，需要更好的、因人而異的照料。我相信機(jī)器人和人工智能將是每一個國家的未來，對于中國甚至?xí)鼮殛P(guān)鍵。

好消息是，人們正在變得更健康，更長壽，到了45歲、55歲、65歲，我們的大腦仍然非?；钴S。因此，“增強(qiáng)人類智能”（augmented human intelligence）能夠更好地回饋社會。我們給予人們越多的技術(shù)手段——不是從他們身上搶走經(jīng)濟(jì)機(jī)會而是幫助他們提升自身技能——我們就能更順利地渡過轉(zhuǎn)型期。這不是一件易事，因?yàn)槲覀兪サ墓ぷ鳈C(jī)會比新增的工作機(jī)會要多，因此在很多國家，政府都需要幫助人民，而我相信社會福利的力量。

界面文化：聽起來，政府似乎需要設(shè)想一個更好地分享科技突破成果的機(jī)制。

常博逸：分享成果，但首先需要大力投資，獲得成果，然后再分享。鼓勵新的企業(yè)參與競爭，打破科技巨頭的壟斷，以此保護(hù)社會。我經(jīng)常說的一句話是，創(chuàng)新會“殺死”創(chuàng)新。數(shù)據(jù)統(tǒng)計(jì)上來看，同一家公司是不可能連續(xù)在三場技術(shù)革新中獨(dú)占鰲頭的。他們可以收購公司，但不可能一直維持創(chuàng)新。

在任何新的技術(shù)浪潮中，數(shù)據(jù)統(tǒng)計(jì)顯示中小企業(yè)更有可能脫穎而出，因?yàn)樗鼈儧]有什么可失去的。今天，如果你想顛覆BAT，對中國來說這種經(jīng)濟(jì)后果就會是大到無法承受的。因此你會看到技術(shù)進(jìn)步的速度會放緩，大公司會以收購小公司的方式將新點(diǎn)子扼殺在搖籃里。同樣的事也在美國發(fā)生。目前，所有的科技巨頭都在投入大量人力財(cái)力做研發(fā)，但我們難以看到技術(shù)突破。

從我收集到的信息來看，2026年真的會見證人類社會的一個較大顛覆，IBM、微軟、思科、通訊商、智能手機(jī)制造商、人工智能公司，都會卷入其中。想象在一個未來世界里，沒有司機(jī)，路上跑的都是無人駕駛汽車，政府將通過一個移動平臺來監(jiān)管車輛。這就是Uber這樣的公司正在做的事，他們在全力投入下一個熱點(diǎn)，因?yàn)樗麄兦宄贿@么做的話就會被淘汰。

人工智能不僅僅關(guān)于更多的錢和數(shù)據(jù)，而是某種技術(shù)突破，就像谷歌帶來了搜索引擎。當(dāng)聲音識別、面部識別和其他技術(shù)成為了一種商品，任何組織都有可能提供新服務(wù)了。我無法相信政府會允許科技巨頭成為面部識別或聲音識別的唯一服務(wù)提供商，因?yàn)檫@會讓它們有巨大的壟斷能力。

界面文化：一些樂觀主義者認(rèn)為人工智能會取代人類的部分工作，與此同時，也能創(chuàng)造出更多工作。如果我們看之前的技術(shù)革命，事情似乎確實(shí)如此，但面對未來，我們還能保持同樣的樂觀嗎？

常博逸：人類的工作是會遷移的。問題是，我們沒有預(yù)知能力。我沒法具體形容這些工作會是什么，但如果你看看那些知名博主，他們賺得盆滿缽滿；人們還愿意在直播軟件里看別人吃東西，只因?yàn)樽约汉芄陋?dú)；老人也需要陪伴——如果你仔細(xì)思考一下“第四產(chǎn)業(yè)”，就會發(fā)現(xiàn)我們需要很多工作崗位來為人類提供娛樂服務(wù)。

還有，如果我們持續(xù)按照現(xiàn)行規(guī)則行事，福利規(guī)則就是不可持續(xù)的。人們會需要政府提供基本收入，但政府要從哪里獲得這筆錢呢？因此，我認(rèn)為這將影響到全社會。人們無法設(shè)想未來，每個人都只從自己的角度思考問題，全都是“我，我，我”，我呼吁大家從人類整體出發(fā)思考問題，讓我們更多地融合人工智能和人類智能，讓我們更多地探討第四產(chǎn)業(yè)的新就業(yè)機(jī)會，探討人口流動監(jiān)管問題；讓我們更多地討論新的競爭對手、新的技術(shù)，因?yàn)樗械囊磺卸紩l(fā)生變革。世界是流動的，社會轉(zhuǎn)型或許比我們所有人想象得都大。

“人類帝國的覆滅”：自滿和懶惰讓我們看不到人工智能的危險(xiǎn)

“人類將自己領(lǐng)地的要沖交托給了人工智能，當(dāng)人類意識到這一點(diǎn)時也許已經(jīng)太遲了。如果機(jī)器已經(jīng)知道了一切，那么學(xué)習(xí)還有什么用呢？如果人類停止學(xué)習(xí)和傳承，那么他們在宇宙中的作用是什么？”

界面文化：你在書中指出，人工智能會對人類社會產(chǎn)生前所未有的沖擊，因?yàn)樗鼘⒏拘缘馗淖內(nèi)祟惖谋举|(zhì)。為什么我們要為此擔(dān)心呢？

常博逸：想象在一個世界里，生活瑣事都不存在了，露西將為你打點(diǎn)好很多事，你不需要思考晚餐要做什么菜，你可能會整天玩游戲，讓露西去處理重要事務(wù)，屆時人性也可能會改變。另外，我在“2038年”那一章里寫了，我們與死亡的關(guān)系也會發(fā)生改變。

想想機(jī)器的本質(zhì)吧：如果機(jī)器人控制了世界會怎樣，它們的目標(biāo)會是什么？我們作為人類會理所當(dāng)然地認(rèn)為它們想要控制世界，但如果你是一個機(jī)器人，你的首要目標(biāo)是什么？保證能源的穩(wěn)定供給——你要確保有干凈的、無限量的能源，很有可能是太陽能。其次，你要確保自己有一個物質(zhì)實(shí)體，所以你需要一個安全潔凈的環(huán)境。你感興趣的不會是錢，你能夠保持永生。

這就是為什么在書中，露西向（她的人類同伴）保羅做出的一個提議是幫助保羅獲得永生，這是機(jī)器人能夠?yàn)槿祟愄岢龅淖钣姓T惑力的提議了。這將從根本上改變?nèi)诵员举|(zhì)，因?yàn)檫@觸及了我們身體中最無法捉摸、最難理解的部分——靈魂和頭腦。唯一讓所有人平等的事就是我們都終將一死。當(dāng)一部分人因?yàn)樨?cái)富和權(quán)力能夠獲得永生、另一些人只能正常死亡時，我認(rèn)為這將從根本上改變?nèi)诵浴?/p>

界面文化：所以所謂“人類帝國的覆滅”具體指的是？

常博逸：我的意思是，如果我們和歷史上其他已經(jīng)覆滅的帝國子民一樣漠視自己的懶惰、自滿，肆意發(fā)動無謂的戰(zhàn)爭，機(jī)器人將取代我們的位置。因此在書中我提出，“人類帝國的覆滅”過程不像成吉思汗的閃電征服那樣迅猛，而是像玩游戲一樣讓人在無意識中沉迷。當(dāng)我們在要求露西管理我們的人生的同時不提升人類自身的能力和水平，我們將越來越無關(guān)緊要。我們的生活將只剩下吃喝拉撒，玩耍享樂。這是今后有可能發(fā)生的事。

但在書的結(jié)尾，我表示這種可能性沒有變成現(xiàn)實(shí)，因?yàn)楸Ａ_感到無聊了，但這仍然是一種可能性。這就是為什么“人類帝國的覆滅”是這本書的書名，因?yàn)檫@其中蘊(yùn)含的風(fēng)險(xiǎn)比我們認(rèn)為的大得多。這不僅僅事關(guān)人們的就業(yè)機(jī)會，不僅僅事關(guān)中國和美國，而是影響全人類的事。

界面文化：有趣的是，你在書中提出社會弱勢群體將被動員起來，抵抗“人工智能集權(quán)主義”的發(fā)生。但如果未來的人工智能像你書中描述的這般全知全能，我們?nèi)绾斡心芰Υ蚱七@種極度的權(quán)力不平等呢？

常博逸：這個世界仍然是由人類管理控制的。如果我們開始重新組織起來阻止人工智能的權(quán)力壟斷，如果我們還有獨(dú)立思考的能力，我們能夠摧毀機(jī)器。別忘了，我們在與我們的創(chuàng)造物斗爭，你是可以阻止你的創(chuàng)造物失控的。只要我們不過于自滿，不向人性的陰暗面屈服，我們就能成功。這就像我們?nèi)绾慰创h(huán)境保護(hù)問題一樣。每個人都同意我們需要一個更健康的環(huán)境，但作為一個群體，我們就是不愿支付環(huán)保稅。這是一個“自私”VS“無私”的典型人性挑戰(zhàn)。

界面文化：關(guān)于未來人工智能的討論其實(shí)也是重新思考人類價(jià)值和道德。要想在未來充分利用人工智能帶來的便利，我們面臨的最緊要的問題是什么？

常博逸：有兩點(diǎn)。第一，我們沒有辦法阻止科技的發(fā)展。如今人們在試圖監(jiān)管無人駕駛汽車，但一切討論都是理論上的，當(dāng)一部分人在夸夸其談的時候，另一部分人正在埋頭造車。這就像1945年，人們討論核能的危險(xiǎn)，當(dāng)時世界上只有幾個國家擁有核武器，人們認(rèn)為核武器有能力毀滅全球，他們說，好吧，讓我們坐下來談?wù)?，如果有人犯傻，我們所有人都會死。但核能還是繼續(xù)往下發(fā)展了。我的觀點(diǎn)是，技術(shù)發(fā)展的腳步不會停歇，有反思和討論是好事。對我來說，關(guān)于未來的討論會比關(guān)于當(dāng)下的討論更有成效。

第二，人類是有自己的無理性偏見的，因此一個謬誤觀點(diǎn)是，我們在創(chuàng)造機(jī)器的時候能夠避免人類社會的種種問題。但實(shí)際上在算法當(dāng)中，也是充滿人類偏見的。我們需要非常小心地對待偏見，因?yàn)槠妬碓从谏?，而不是機(jī)器。

《人類帝國的覆滅：一個機(jī)器人的回憶錄》