導(dǎo)語：洗禮者是天真的理想主義者，走私者是憤世嫉俗的操作者，但走私者會(huì)獲得勝利。

人工智能時(shí)代已經(jīng)到來，人們對(duì)此感到驚訝不已。

幸運(yùn)的是，我在這里給大家?guī)砗孟ⅲ喝斯ぶ悄懿粫?huì)毀滅世界，事實(shí)上它可能拯救世界。

首先，簡(jiǎn)要介紹一下人工智能是什么：它是將數(shù)學(xué)和軟件代碼應(yīng)用于教會(huì)計(jì)算機(jī)以類似于人類的方式理解、綜合和生成知識(shí)的技術(shù)。人工智能就像任何其他計(jì)算機(jī)程序一樣——它運(yùn)行、接收輸入、處理數(shù)據(jù)并生成輸出。人工智能的輸出在許多領(lǐng)域都非常有用，包括編程、醫(yī)學(xué)、法律和創(chuàng)意藝術(shù)。它是由人擁有和控制的，就像任何其他技術(shù)一樣。

關(guān)于人工智能的簡(jiǎn)短描述：它不是會(huì)突然活過來并決定殺害人類或毀滅一切的殺人軟件和機(jī)器人，就像電影中所展現(xiàn)的那樣。

更為簡(jiǎn)短的描述：人工智能是一種能夠讓我們關(guān)心的一切變得更好的方式。

為什么人工智能可以讓我們關(guān)心的一切變得更好

社會(huì)科學(xué)在許多十年和成千上萬的研究中得出的最為驗(yàn)證的核心結(jié)論是，人類智能可以在生活的各個(gè)方面取得更好的結(jié)果。更聰明的人在幾乎所有活動(dòng)領(lǐng)域都能取得更好的成就：學(xué)術(shù)成就、工作表現(xiàn)、職業(yè)地位、收入、創(chuàng)造力、身體健康、壽命、學(xué)習(xí)新技能、處理復(fù)雜任務(wù)、領(lǐng)導(dǎo)能力、創(chuàng)業(yè)成功、沖突解決、閱讀理解、金融決策、理解他人的觀點(diǎn)、創(chuàng)意藝術(shù)、育兒成果和生活滿意度。

此外，人類智能是我們幾千年來用來創(chuàng)造我們今天生活世界的杠桿：科學(xué)、技術(shù)、數(shù)學(xué)、物理學(xué)、化學(xué)、醫(yī)學(xué)、能源、建筑、交通、通信、藝術(shù)、音樂、文化、哲學(xué)、倫理學(xué)、道德。如果沒有在所有這些領(lǐng)域應(yīng)用智能，我們?nèi)匀粫?huì)住在泥屋中，過著勉強(qiáng)維持的農(nóng)耕生活。相反，我們利用智能將我們的生活水平提高了約10,000倍，過去4000年間取得了巨大的進(jìn)步。

人工智能為我們提供了深度增強(qiáng)人類智能的機(jī)會(huì)，可以使所有這些智能成果（以及從創(chuàng)造新藥物到解決氣候變化和太空技術(shù)的方式等其他領(lǐng)域）在這個(gè)基礎(chǔ)上變得更好得多。

人工智能對(duì)人類智能的增強(qiáng)已經(jīng)開始了——人工智能已經(jīng)以各種計(jì)算機(jī)控制系統(tǒng)的形式存在于我們周圍，如今通過像ChatGPT這樣的大規(guī)模語言模型迅速升級(jí)，并且如果我們?cè)试S的話，將會(huì)從這里迅速加速發(fā)展。

在我們的人工智能新時(shí)代中：

每個(gè)孩子將擁有一位無限耐心、無限同情、無限知識(shí)和無限幫助的人工智能導(dǎo)師。這位人工智能導(dǎo)師將在每個(gè)孩子成長(zhǎng)的每個(gè)階段都與他們并肩而行，以機(jī)器版的無限愛幫助他們最大限度地發(fā)揮潛力。

每個(gè)人都將擁有一位無限耐心、無限同情、無限知識(shí)和無限幫助的人工智能助手/教練/導(dǎo)師/培訓(xùn)師/顧問/心理治療師。這位人工智能助手將在人生的各個(gè)機(jī)遇和挑戰(zhàn)中一直陪伴，最大化每個(gè)人的成果。

每個(gè)科學(xué)家都將擁有一位能極大擴(kuò)展他們科研和成就范圍的人工智能助手/合作者/伙伴。每個(gè)藝術(shù)家、工程師、商人、醫(yī)生、照料者都將在他們的領(lǐng)域中擁有同樣的助手。

每個(gè)CEO、政府官員、非營(yíng)利組織主席、體育教練、教師——都將有同樣的機(jī)會(huì)。領(lǐng)導(dǎo)者在引導(dǎo)他們所領(lǐng)導(dǎo)的人方面做出更好決策的放大效應(yīng)是巨大的，因此這種智能增強(qiáng)可能是最重要的。

經(jīng)濟(jì)中的生產(chǎn)力增長(zhǎng)將大幅加速，推動(dòng)經(jīng)濟(jì)增長(zhǎng)、新產(chǎn)業(yè)的創(chuàng)造、新工作的創(chuàng)造和工資增長(zhǎng)，從而帶來全球范圍內(nèi)物質(zhì)繁榮的新時(shí)代。

科學(xué)突破、新技術(shù)和新藥物將大幅擴(kuò)展，因?yàn)槿斯ぶ悄軒椭覀冞M(jìn)一步解碼自然法則并利用它們?yōu)槲覀冎\福利。

創(chuàng)意藝術(shù)將進(jìn)入黃金時(shí)代，因?yàn)榻?jīng)過人工智能增強(qiáng)的藝術(shù)家、音樂家、作家和電影制作人能夠以比以往更快、更大規(guī)模地實(shí)現(xiàn)他們的愿景。

我甚至認(rèn)為，當(dāng)戰(zhàn)爭(zhēng)不可避免時(shí)，人工智能將改善戰(zhàn)爭(zhēng)，大大降低戰(zhàn)時(shí)死亡率。每場(chǎng)戰(zhàn)爭(zhēng)都以在極大壓力下、信息嚴(yán)重受限的情況下由非常有限的人類領(lǐng)導(dǎo)者做出的可怕決策為特征。現(xiàn)在，軍事指揮官和政治領(lǐng)導(dǎo)人將有人工智能顧問，將幫助他們做出更好的戰(zhàn)略和戰(zhàn)術(shù)決策，最大限度地減少風(fēng)險(xiǎn)、錯(cuò)誤和不必要的流血犧牲。

簡(jiǎn)而言之，人們今天所運(yùn)用的自然智能，通過人工智能可以更好地實(shí)現(xiàn)，我們將能夠應(yīng)對(duì)那些在沒有人工智能的情況下無法解決的新挑戰(zhàn)，從治愈所有疾病到實(shí)現(xiàn)星際旅行。

而且，這不僅僅涉及智能。人工智能最被低估的特質(zhì)也許是它如何賦予人類更多人性。人工智能藝術(shù)使那些在技術(shù)技能上欠缺的人們擁有自由創(chuàng)作和分享他們的藝術(shù)思想。與富有同情心的人工智能朋友交談確實(shí)提高了人們應(yīng)對(duì)逆境的能力。而且，與人類對(duì)應(yīng)的醫(yī)療聊天機(jī)器人已經(jīng)更加富有同理心。無限耐心和同情心的人工智能將使世界變得更加溫暖和友好，而不是讓世界變得更加冷酷和機(jī)械化。

這里的風(fēng)險(xiǎn)很高，機(jī)遇也非常深遠(yuǎn)。人工智能很可能是我們文明創(chuàng)造的最重要、最好的事物，與電力和微芯片相媲美，甚至可能超越它們。

人工智能的發(fā)展和普及——遠(yuǎn)非我們應(yīng)該害怕的風(fēng)險(xiǎn)——是我們對(duì)自己、對(duì)我們的孩子和對(duì)我們未來的道義責(zé)任。

我們應(yīng)該生活在一個(gè)借助人工智能變得更美好的世界，現(xiàn)在我們可以實(shí)現(xiàn)這一目標(biāo)。

為什么會(huì)出現(xiàn)恐慌情緒？

與這種積極的觀點(diǎn)相反，目前關(guān)于人工智能的公眾討論充斥著歇斯底里的恐懼和偏執(zhí)。

有人聲稱人工智能將以各種方式殺死我們所有人，毀壞我們的社會(huì)，奪走我們所有的工作，導(dǎo)致嚴(yán)重的不平等，并使壞人能夠做出可怕的事情。

為什么在人工智能的潛在結(jié)果中會(huì)出現(xiàn)這種從近乎烏托邦到可怕的反烏托邦的差異呢？

從歷史上看，每一項(xiàng)重要的新技術(shù)，無論是電燈照明、汽車、無線電還是互聯(lián)網(wǎng)，都引發(fā)了一場(chǎng)道德恐慌——一種社會(huì)傳染病，使人們相信新技術(shù)將摧毀世界、破壞社會(huì)，或兩者兼有。Pessimists Archive的研究人員在過去幾十年中記錄了這些與技術(shù)相關(guān)的道德恐慌；他們的歷史清晰地展現(xiàn)了這一模式。事實(shí)證明，當(dāng)前的人工智能恐慌甚至不是第一次出現(xiàn)。

當(dāng)然，許多新技術(shù)確實(shí)導(dǎo)致了不良結(jié)果——通常是那些在其他方面對(duì)我們福祉有巨大益處的技術(shù)。因此，并不是道德恐慌的存在意味著沒有什么值得關(guān)注的問題。

但是，道德恐慌本質(zhì)上是非理性的——它將可能是合理關(guān)切的問題夸大到一種歇斯底里的程度，諷刺的是，這使得真正嚴(yán)重的問題更難以應(yīng)對(duì)。

現(xiàn)在，我們對(duì)人工智能出現(xiàn)了一場(chǎng)全面的道德恐慌。

這種道德恐慌已經(jīng)被各種行為者作為一種推動(dòng)力量，要求政策行動(dòng)——制定新的人工智能限制、監(jiān)管和法律。這些行為者對(duì)人工智能的危險(xiǎn)發(fā)表極具戲劇性的公開聲明，以此滋養(yǎng)和加劇道德恐慌，他們都把自己描繪成無私的公共利益捍衛(wèi)者。

但他們真的是嗎？

他們的觀點(diǎn)是對(duì)還是錯(cuò)？

AI的洗禮者和走私者

經(jīng)濟(jì)學(xué)家觀察到這種改革運(yùn)動(dòng)中的一種長(zhǎng)期模式。在這類運(yùn)動(dòng)中，參與者分為兩類——“洗禮者”和“走私者”——借鑒了上世紀(jì)20年代美國(guó)禁酒令的歷史例子：

“洗禮者”是真正的社會(huì)改革者，他們出于情感上的、而非理性上的原因，確實(shí)深切地認(rèn)為需要制定新的限制、監(jiān)管和法律來防止社會(huì)災(zāi)難的發(fā)生。在禁酒令中，這些參與者通常是虔誠(chéng)的基督徒，他們認(rèn)為酒精正在破壞社會(huì)的道德結(jié)構(gòu)。對(duì)于AI風(fēng)險(xiǎn)來說，這些參與者真心實(shí)意地認(rèn)為人工智能存在一種或多種存在威脅——用測(cè)謊儀測(cè)，他們是認(rèn)真的。

“走私者”是自私的機(jī)會(huì)主義者，他們將從新的限制、監(jiān)管和法律中獲得經(jīng)濟(jì)利益，使自己免受競(jìng)爭(zhēng)的沖擊。在禁酒令中，這些人就是以非法方式向美國(guó)人銷售非法酒精而發(fā)了財(cái)?shù)娜恕?duì)于AI風(fēng)險(xiǎn)來說，這些人是CEO，如果建立起規(guī)范性障礙，形成一家由政府認(rèn)可的人工智能供應(yīng)商壟斷組織，可以保護(hù)它們免受新創(chuàng)業(yè)公司和開源競(jìng)爭(zhēng)的沖擊，就像是“太大而不能倒”的銀行一樣。

憤世嫉俗者可能會(huì)提出，一些表面上是洗禮者的人也是走私者——特別是那些受到大學(xué)、智庫(kù)、活動(dòng)團(tuán)體和媒體機(jī)構(gòu)支付薪水或獲得資助來宣揚(yáng)人工智能恐慌的人。如果你得到薪水或獲得資助來宣揚(yáng)人工智能恐慌...你很可能是一個(gè)走私者。

走私者的問題在于他們會(huì)獲得勝利。洗禮者是天真的理想主義者，走私者是憤世嫉俗的操作者，因此這類改革運(yùn)動(dòng)的結(jié)果通常是走私者得到他們想要的——監(jiān)管壟斷、免受競(jìng)爭(zhēng)的沖擊、壟斷組織的形成——而洗禮者則納悶著他們?yōu)榱松鐣?huì)進(jìn)步而努力的動(dòng)力到底出了什么問題。

我們剛剛經(jīng)歷了一個(gè)驚人的例子——2008年全球金融危機(jī)后的銀行改革。洗禮者告訴我們，我們需要新的法律和監(jiān)管來打破“太大而不能倒”的銀行，以防止類似危機(jī)再次發(fā)生。于是，美國(guó)國(guó)會(huì)通過了2010年的《多德-弗蘭克法案》，宣傳稱滿足了洗禮者的目標(biāo)，但實(shí)際上被走私者——大銀行所利用。結(jié)果是，2008年那些“太大而不能倒”的銀行現(xiàn)在變得更加龐大了。

因此，實(shí)際上，即使洗禮者是真誠(chéng)的，即使洗禮者是正確的，他們也會(huì)被善于操縱和貪婪的走私者利用，以謀取自己的利益。

這正是當(dāng)前推動(dòng)人工智能監(jiān)管的情況。

然而，僅僅識(shí)別參與者并質(zhì)疑他們的動(dòng)機(jī)是不夠的。我們應(yīng)該對(duì)洗禮者和走私者的論點(diǎn)進(jìn)行評(píng)估。

AI風(fēng)險(xiǎn)1：人工智能會(huì)殺死我們所有人嗎？

首個(gè)也是最早的人工智能厄運(yùn)論風(fēng)險(xiǎn)是人工智能會(huì)決定實(shí)際上殺死人類。

對(duì)我們自己創(chuàng)造的技術(shù)將會(huì)崛起并摧毀我們的恐懼根深蒂固地融入到我們的文化中。古希臘人在普羅米修斯神話中表達(dá)了這種恐懼——普羅米修斯給人類帶來了毀滅性的火焰和更廣義的技術(shù)（“技藝”），而為此普羅米修斯被眾神永久折磨。后來，瑪麗·雪萊在她的小說《弗蘭肯斯坦》或《現(xiàn)代普羅米修斯》中給了我們現(xiàn)代人一個(gè)自己的版本，其中我們開發(fā)了永生的技術(shù)，然后這種技術(shù)升起并試圖摧毀我們。當(dāng)然，任何關(guān)于人工智能的恐慌報(bào)道都不會(huì)完整，沒有詹姆斯·卡梅隆的《終結(jié)者》系列電影中一個(gè)閃亮紅眼睛的殺人機(jī)器人的靜止圖像。

這種神話的推測(cè)性進(jìn)化目的是激勵(lì)我們認(rèn)真考慮新技術(shù)的潛在風(fēng)險(xiǎn)——畢竟，火焰確實(shí)可以用來燒毀整個(gè)城市。但就像火焰也是現(xiàn)代文明的基石，用來使我們?cè)诤浜蛿硨?duì)的世界中保持溫暖和安全一樣，這種神話忽視了大多數(shù)新技術(shù)的更大潛力——也許是全部潛力？——并且實(shí)際上煽動(dòng)了破壞性的情緒，而非理性分析。僅僅因?yàn)楣糯藭?huì)像這樣驚慌失措，并不意味著我們必須這樣做；我們可以應(yīng)用理性。

我的觀點(diǎn)是，人工智能會(huì)決定實(shí)際上殺死人類的觀點(diǎn)是一個(gè)深刻的范疇錯(cuò)誤。人工智能不是一個(gè)有著億萬年進(jìn)化歷程、已經(jīng)被激發(fā)參與適者生存競(jìng)爭(zhēng)的生命體，就像動(dòng)物和我們一樣。它只是數(shù)學(xué)——代碼——由人構(gòu)建、由人擁有、由人使用、由人控制的計(jì)算機(jī)。它會(huì)在某個(gè)時(shí)刻發(fā)展出自己的思維，并決定有動(dòng)機(jī)導(dǎo)致它試圖殺死我們的想法是一種迷信的觀點(diǎn)。

簡(jiǎn)而言之，人工智能沒有欲望，它沒有目標(biāo)，它不想殺死你，因?yàn)樗皇腔畹摹Ｈ斯ぶ悄苁且环N機(jī)器，就像你的烤面包機(jī)一樣，不會(huì)比它更有生命。

顯然，有些人是對(duì)殺手人工智能深信不疑的人——洗禮者——他們因?yàn)榭植赖木娑蝗猾@得了極高的媒體關(guān)注，其中一些人聲稱已經(jīng)研究這個(gè)主題數(shù)十年，并表示他們對(duì)所了解到的內(nèi)容感到恐懼。其中一些真信徒甚至是這項(xiàng)技術(shù)的創(chuàng)新者。這些人主張對(duì)人工智能實(shí)施各種奇怪和極端的限制，從禁止人工智能的發(fā)展，一直到對(duì)數(shù)據(jù)中心進(jìn)行軍事空襲和核戰(zhàn)爭(zhēng)。他們認(rèn)為，由于像我這樣的人無法排除人工智能未來可能帶來的災(zāi)難性后果，我們必須采取預(yù)防性的立場(chǎng)，可能需要大量的實(shí)際暴力和死亡來防止?jié)撛诘拇嬖陲L(fēng)險(xiǎn)。

我的回應(yīng)是，他們的立場(chǎng)是非科學(xué)的——有什么可以進(jìn)行檢驗(yàn)的假設(shè)？什么會(huì)證偽這個(gè)假設(shè)？我們?nèi)绾沃朗裁磿r(shí)候進(jìn)入了危險(xiǎn)區(qū)域？除了“你不能證明它不會(huì)發(fā)生！”之外，這些問題基本上沒有得到回答。事實(shí)上，這些洗禮者的立場(chǎng)非常非科學(xué)和極端——是一種關(guān)于數(shù)學(xué)和代碼的陰謀論——而且已經(jīng)呼吁實(shí)施實(shí)際暴力，所以我會(huì)做一些我通常不會(huì)做的事情，質(zhì)疑他們的動(dòng)機(jī)。

具體來說，我認(rèn)為有三個(gè)方面的情況發(fā)生了變化：

首先，回想一下，約翰·馮·諾伊曼對(duì)羅伯特·奧本海默有關(guān)他參與制造核武器的憂慮做出了回應(yīng)——這些核武器幫助結(jié)束了第二次世界大戰(zhàn)并阻止了第三次世界大戰(zhàn)——他說：“有些人承認(rèn)罪行是為了聲稱自己的功勞。”有什么辦法可以以最引人注目的方式聲稱自己的工作的重要性，而不顯得過于自負(fù)呢？這解釋了那些實(shí)際上正在構(gòu)建和資助人工智能的洗禮者言行不一致的現(xiàn)象——觀察他們的行動(dòng)，而不是他們的言辭。（杜魯門在與奧本海默會(huì)面后說得更狠：“別讓那個(gè)哭鼻子再進(jìn)來”）。

其次，一些洗禮者實(shí)際上是走私者。有一個(gè)專門的職業(yè)“人工智能安全專家”、“人工智能倫理學(xué)家”、“人工智能風(fēng)險(xiǎn)研究員”。他們是為了悲觀而受薪水的，他們的言論應(yīng)該得到適當(dāng)?shù)奶幚怼?/p>

第三, 加利福尼亞州因我們眾多的邪教而聞名，從培訓(xùn)魂、人民寺廟，到天堂之門和曼森家族。盡管并非所有這些邪教都是有害的，甚至對(duì)于那些感到疏離的人來說，它們可能有助于找到一個(gè)歸屬感。但有些邪教確實(shí)非常危險(xiǎn)，邪教通常很難在終將導(dǎo)致暴力和死亡的界限上取得平衡。

事實(shí)是，對(duì)于舊金山灣區(qū)的每個(gè)人來說顯而易見，但可能對(duì)其他地方的人來說并不明顯，"人工智能風(fēng)險(xiǎn)"已經(jīng)發(fā)展成為一個(gè)邪教，并突然在全球媒體關(guān)注和公眾討論中浮出水面。這個(gè)邪教不僅吸引了一些邊緣人物，還吸引了一些真正的行業(yè)專家和相當(dāng)數(shù)量的富有捐贈(zèng)者，其中包括直到最近的山姆·班克曼-弗里德。它還發(fā)展出了一整套邪教行為和信仰。

正是由于這種邪教，才出現(xiàn)了一群聲音極端的人工智能風(fēng)險(xiǎn)悲觀者——并不是因?yàn)樗麄冋娴膿碛心撤N秘密的知識(shí)，使得他們的極端主義變得合乎邏輯，而是因?yàn)樗麄冏约喊炎约杭?dòng)得瘋狂，真的是極端到極點(diǎn)。

事實(shí)證明，這種類型的邪教并不新鮮——在西方有著悠久的千禧年主義傳統(tǒng)，會(huì)產(chǎn)生啟示錄型邪教。人工智能風(fēng)險(xiǎn)邪教具有所有千禧年啟示錄型邪教的特征。以下是來自維基百科的內(nèi)容，我加入了一些補(bǔ)充：

千禧主義是一種由一群人或運(yùn)動(dòng)（AI風(fēng)險(xiǎn)厭惡者）相信社會(huì)即將發(fā)生根本性轉(zhuǎn)變（AI的出現(xiàn)）的信念，隨后一切都將發(fā)生改變（AI烏托邦、反烏托邦或世界末日）。只有戲劇性的事件（AI禁令、對(duì)數(shù)據(jù)中心的空襲、對(duì)無監(jiān)管AI的核打擊）被視為能夠改變世界（阻止AI），而這種變革預(yù)計(jì)將由一群虔誠(chéng)而專注的人群帶來或幸存下來。在大多數(shù)千禧主義情景中，即將到來的災(zāi)難或戰(zhàn)斗（AI啟示錄或其預(yù)防）將被一個(gè)新的、純凈的世界（AI禁令）所緊隨，信徒將會(huì)得到獎(jiǎng)賞（或至少被承認(rèn)一直正確）。

這種末日邪教的模式如此明顯，以至于我對(duì)更多的人沒有看到它感到驚訝。

別誤會(huì)，了解邪教是很有趣的，它們的書面材料常常富有創(chuàng)意和吸引力，它們的成員在晚宴和電視節(jié)目中也很引人入勝。但是，它們的極端信仰不應(yīng)決定法律和社會(huì)的未來-顯然不應(yīng)該。

AI風(fēng)險(xiǎn)2：人工智能會(huì)毀掉我們的社會(huì)嗎？

第二個(gè)廣為傳播的AI風(fēng)險(xiǎn)是AI會(huì)毀掉我們的社會(huì)，通過產(chǎn)生輸出結(jié)果，即使我們沒有被直接殺害，也會(huì)對(duì)人類造成深遠(yuǎn)的傷害，使用這種末日論者的術(shù)語來說就是“有害”的。

簡(jiǎn)而言之，如果殺人機(jī)器人不能殺死我們，仇恨言論和錯(cuò)誤信息將會(huì)毀掉我們。

這是一個(gè)相對(duì)較新的末日論關(guān)注點(diǎn)，它分支出來并在一定程度上接管了我上面描述的“AI風(fēng)險(xiǎn)”運(yùn)動(dòng)。實(shí)際上，AI風(fēng)險(xiǎn)的術(shù)語最近從“AI安全”（由擔(dān)心AI會(huì)直接殺死我們的人使用）變?yōu)椤癆I對(duì)齊”（由擔(dān)心社會(huì)“傷害”的人使用）。最初關(guān)注AI安全的人對(duì)這種轉(zhuǎn)變感到沮喪，盡管他們不知道如何讓它回到原來的軌道-他們現(xiàn)在主張將實(shí)際的AI風(fēng)險(xiǎn)主題更名為“AI不會(huì)殺掉所有人主義”，盡管這種術(shù)語尚未被廣泛采用，但至少它是清楚的。

AI社會(huì)風(fēng)險(xiǎn)主張的特點(diǎn)就是它自己的術(shù)語：“AI對(duì)齊”。對(duì)齊什么？人類價(jià)值觀。哪些人類價(jià)值觀？啊，這就是問題的復(fù)雜之處。

碰巧的是，我親眼目睹了類似的情況-社交媒體的“信任與安全”戰(zhàn)爭(zhēng)。如今顯而易見，社交媒體服務(wù)多年來一直面臨來自政府和活動(dòng)人士的巨大壓力，要求禁止、限制、審查和壓制各種內(nèi)容。而“仇恨言論”（及其數(shù)學(xué)對(duì)應(yīng)物“算法偏見”）和“錯(cuò)誤信息”的相同擔(dān)憂直接從社交媒體背景轉(zhuǎn)移到了“AI對(duì)齊”的新領(lǐng)域。

我從社交媒體戰(zhàn)爭(zhēng)中獲得的主要教訓(xùn)是：

一方面，不存在絕對(duì)的言論自由立場(chǎng)。首先，包括美國(guó)在內(nèi)的每個(gè)國(guó)家至少都會(huì)將某些內(nèi)容定為非法。其次，某些內(nèi)容，比如兒童色情和煽動(dòng)現(xiàn)實(shí)世界暴力的行為，幾乎被幾乎每個(gè)社會(huì)普遍認(rèn)為是禁止的-不論是否合法。因此，任何促進(jìn)或生成內(nèi)容（言論）的技術(shù)平臺(tái)都將受到一定的限制。

另一方面，滑坡效應(yīng)不是謬誤，而是不可避免的結(jié)果。一旦建立了限制甚至極其可怕內(nèi)容的框架，例如針對(duì)仇恨言論、傷害性詞語或錯(cuò)誤信息（如“教皇去世”這樣明顯的虛假陳述），將會(huì)有令人震驚的廣泛政府機(jī)構(gòu)、活動(dòng)人士壓力團(tuán)體和非政府實(shí)體踏入行動(dòng)，并要求對(duì)他們認(rèn)為威脅社會(huì)和/或個(gè)人偏好的言論進(jìn)行越來越多的審查和壓制，甚至采取公然犯罪的方式。實(shí)際上，這種循環(huán)似乎可以無限延續(xù)，得到整個(gè)精英權(quán)力結(jié)構(gòu)中那些積極支持的權(quán)威主義監(jiān)察員的支持。這在社交媒體上已經(jīng)持續(xù)了十年，除了一些特例，情況越來越熱烈。

因此，這就是現(xiàn)在圍繞“AI對(duì)齊”形成的動(dòng)態(tài)。其支持者聲稱擁有智慧來設(shè)計(jì)對(duì)社會(huì)有益的AI生成的言論和思想，并禁止對(duì)社會(huì)有害的AI生成的言論和思想。而其反對(duì)者則聲稱思想警察極其傲慢和專橫-而且在美國(guó)至少往往是徹底違法的，并實(shí)際上試圖成為一種新型的融合政府-企業(yè)-學(xué)術(shù)權(quán)威主義言論專政，直接從喬治·奧威爾的《1984》中摘取。

由于“信任與安全”和“AI對(duì)齊”的支持者都聚集在全球人口中非常狹窄的一部分中，這部分人正是美國(guó)沿海精英的代表，其中包括許多科技行業(yè)的從業(yè)人員和作家，我相信我的許多讀者會(huì)認(rèn)為，為了避免摧毀社會(huì)，對(duì)AI輸出進(jìn)行嚴(yán)格限制是必要的。我現(xiàn)在不打算說服你們改變這種觀點(diǎn)，我只是簡(jiǎn)單地陳述這是需求的本質(zhì)，而且世界上大多數(shù)人既不同意你們的意識(shí)形態(tài)，也不希望看到你們獲勝。

如果你不同意當(dāng)前通過不斷加強(qiáng)的言論規(guī)范對(duì)社交媒體和AI強(qiáng)加的小眾道德觀，你應(yīng)該意識(shí)到對(duì)AI允許說什么/生成什么的爭(zhēng)論將比對(duì)社交媒體審查的爭(zhēng)論更加重要-遠(yuǎn)遠(yuǎn)重要。AI極有可能成為世界上一切事物的控制層。它被允許如何運(yùn)作可能比任何其他事情都更加重要。你應(yīng)該意識(shí)到，一小撮孤立的黨派社會(huì)工程師正在試圖在他們聲稱為了保護(hù)你們的名義下，決定這一點(diǎn)。

簡(jiǎn)而言之，不要讓思想警察壓制AI。

AI風(fēng)險(xiǎn)3：會(huì)奪走我們所有的工作嗎？

擔(dān)心因機(jī)械化、自動(dòng)化、計(jì)算機(jī)化或AI而導(dǎo)致失業(yè)的恐懼已經(jīng)持續(xù)數(shù)百年，自從機(jī)械織布機(jī)等機(jī)械裝置首次出現(xiàn)以來。盡管每一項(xiàng)重大新技術(shù)在歷史上都帶來了更多高薪工作，但每一波這種恐慌都伴隨著“這一次不同”的說法-這一次終于會(huì)發(fā)生，這一次的技術(shù)將給人類勞動(dòng)力以致命一擊。然而，這從未發(fā)生過。

在最近的過去，我們經(jīng)歷過兩次由技術(shù)驅(qū)動(dòng)的失業(yè)恐慌周期-2000年代的外包恐慌和2010年代的自動(dòng)化恐慌。盡管在這兩個(gè)十年里，許多評(píng)論家、專家甚至科技行業(yè)高管都大聲疾呼大規(guī)模失業(yè)即將來臨，但到2019年底-即COVID爆發(fā)前-世界上的工作崗位數(shù)量創(chuàng)歷史新高，薪資水平也達(dá)到了歷史最高水平。

然而，這個(gè)錯(cuò)誤觀念卻不會(huì)消失。

果然，它又回來了。

這一次，我們終于有了一種將奪走所有工作，使人類工人變得多余的技術(shù)-真正的人工智能。這一次歷史不會(huì)重演，AI將導(dǎo)致大規(guī)模失業(yè)，而不是迅速的經(jīng)濟(jì)、就業(yè)和工資增長(zhǎng)，對(duì)嗎？

不，那是不可能發(fā)生的-事實(shí)上，如果允許人工智能在經(jīng)濟(jì)中得以發(fā)展和普及，它可能會(huì)引發(fā)有史以來最引人注目和持續(xù)的經(jīng)濟(jì)繁榮，相應(yīng)地創(chuàng)造就業(yè)和工資增長(zhǎng)的紀(jì)錄-正好與恐懼相反。原因如下。

自動(dòng)化殺死工作的末日論者一直在犯的核心錯(cuò)誤被稱為“勞動(dòng)總量謬誤”。這種謬誤是錯(cuò)誤的觀念，即在任何特定時(shí)期內(nèi)，經(jīng)濟(jì)中需要完成的勞動(dòng)是固定的，要么由機(jī)器完成，要么由人類完成-如果由機(jī)器完成，就不會(huì)有工作可供人類去做。

勞動(dòng)總量謬誤自然而然地源于天真的直覺，但在這里，天真的直覺是錯(cuò)誤的。當(dāng)技術(shù)應(yīng)用于生產(chǎn)時(shí)，我們獲得了生產(chǎn)力增長(zhǎng)-即通過減少投入而增加產(chǎn)出。其結(jié)果是商品和服務(wù)的價(jià)格下降。隨著商品和服務(wù)的價(jià)格下降，我們支付的費(fèi)用也減少了，這意味著我們現(xiàn)在有額外的消費(fèi)能力，可以購(gòu)買其他東西。這增加了經(jīng)濟(jì)中的需求，推動(dòng)了新的生產(chǎn)-包括新產(chǎn)品和新行業(yè)-的創(chuàng)造，從而為以前被機(jī)器取代的人們創(chuàng)造了新的就業(yè)機(jī)會(huì)。結(jié)果是一個(gè)更大的經(jīng)濟(jì)體，物質(zhì)繁榮水平更高，行業(yè)更多，產(chǎn)品更多，就業(yè)機(jī)會(huì)也更多。

但好消息還不止于此。我們還會(huì)獲得更高的工資。這是因?yàn)椋瑥膫€(gè)體工人的層面來看，市場(chǎng)根據(jù)工人的邊際生產(chǎn)力來確定報(bào)酬。與傳統(tǒng)企業(yè)相比，科技融入業(yè)務(wù)的工人將更具生產(chǎn)力。雇主要么會(huì)因?yàn)楣と说纳a(chǎn)力提高而支付更多的薪水，要么其他雇主會(huì)純粹出于自身利益而支付更多薪水。結(jié)果是，引入技術(shù)到一個(gè)行業(yè)通常不僅會(huì)增加該行業(yè)的就業(yè)機(jī)會(huì)，還會(huì)提高工資水平。

總結(jié)一下，技術(shù)使人們能夠更具生產(chǎn)力。這導(dǎo)致現(xiàn)有商品和服務(wù)的價(jià)格下降，工資上升。這進(jìn)而導(dǎo)致經(jīng)濟(jì)增長(zhǎng)和就業(yè)增長(zhǎng)，并激勵(lì)創(chuàng)造新的工作崗位和新的產(chǎn)業(yè)。如果市場(chǎng)經(jīng)濟(jì)得以正常運(yùn)作，如果技術(shù)得以自由引入，這將是一個(gè)永不停歇的持續(xù)向上循環(huán)。正如彌爾頓·弗里德曼所觀察到的，“人類的欲望和需求是無窮無盡的”-我們總是希望擁有更多。科技融入市場(chǎng)經(jīng)濟(jì)是我們接近滿足每個(gè)人可能想要的一切，但永遠(yuǎn)無法完全實(shí)現(xiàn)的方式。這就是為什么技術(shù)不會(huì)破壞就業(yè)，永遠(yuǎn)也不會(huì)。

對(duì)于那些沒有接觸過這些思想的人來說，這些想法確實(shí)是令人震驚的，可能需要一些時(shí)間來理解。但我發(fā)誓我并不是編造它們-事實(shí)上，你可以在標(biāo)準(zhǔn)經(jīng)濟(jì)學(xué)教材中找到關(guān)于它們的所有內(nèi)容。我推薦你閱讀亨利·哈茲里特（Henry Hazlitt）的《經(jīng)濟(jì)學(xué)一課》中的“機(jī)械的詛咒”一章，以及弗雷德里克·巴斯夏（Frederic Bastiat）關(guān)于蠟燭制造商向太陽(yáng)提出請(qǐng)?jiān)笗闹S刺，因?yàn)樘?yáng)與照明行業(yè)存在不公平競(jìng)爭(zhēng)，這里為我們現(xiàn)代化。

但你可能會(huì)想，這一次不同。這一次，隨著AI的出現(xiàn)，我們擁有了可以取代所有人類勞動(dòng)力的技術(shù)。

但是，根據(jù)我上面描述的原理，想想如果所有現(xiàn)有的人類勞動(dòng)力都被機(jī)器替代會(huì)意味著什么。

這意味著經(jīng)濟(jì)生產(chǎn)率增長(zhǎng)的起飛速度將是絕對(duì)天文數(shù)字，遠(yuǎn)遠(yuǎn)超過任何歷史先例。現(xiàn)有商品和服務(wù)的價(jià)格將全面下降，接近于零。消費(fèi)者福利將飆升。消費(fèi)者的購(gòu)買力將飆升。經(jīng)濟(jì)中的新需求將迅速爆發(fā)。企業(yè)家們將創(chuàng)造令人眼花繚亂的新行業(yè)、產(chǎn)品和服務(wù)，并盡快雇傭盡可能多的人工智能和人力來滿足所有新的需求。

假設(shè)AI再次取代了這種勞動(dòng)力？這個(gè)循環(huán)將重復(fù)，推動(dòng)消費(fèi)者福利、經(jīng)濟(jì)增長(zhǎng)以及就業(yè)和工資增長(zhǎng)更上層樓。這將是一個(gè)直線上升的螺旋，直達(dá)亞當(dāng)·斯密和卡爾·馬克思從未敢于夢(mèng)想的物質(zhì)烏托邦。

我們應(yīng)該感到如此幸運(yùn)。

AI風(fēng)險(xiǎn)4：人工智能會(huì)導(dǎo)致嚴(yán)重的不平等嗎？

對(duì)于AI奪走工作的擔(dān)憂直接引出了下一個(gè)聲稱的AI風(fēng)險(xiǎn)：假設(shè)AI確實(shí)奪走了所有的工作，不論是出于好的還是壞的原因。那么，這難道不會(huì)導(dǎo)致巨大而嚴(yán)重的財(cái)富不平等嗎？AI的所有者獲得了所有的經(jīng)濟(jì)回報(bào)，而普通人卻一無所得？

即生產(chǎn)資料的所有者-資產(chǎn)階級(jí)-將不可避免地從真正做工作的人-無產(chǎn)階級(jí)-那里竊取所有的社會(huì)財(cái)富。盡管這個(gè)觀點(diǎn)在現(xiàn)實(shí)中被多次證明為錯(cuò)誤，但它是一個(gè)無論多少次都無法消失的謬誤。但讓我們還是從根本上否定它。

這一理論的缺陷在于，作為一種技術(shù)的所有者，將其保留給自己并不符合自身利益-事實(shí)上相反，將其賣給盡可能多的客戶才符合自身利益。任何產(chǎn)品的最大市場(chǎng)都是整個(gè)世界，也就是80億人口。因此，實(shí)際上，每一項(xiàng)新技術(shù)-即使最初只向高薪大公司或富有的消費(fèi)者銷售-都會(huì)迅速傳播，直到它進(jìn)入最大可能的大眾市場(chǎng)，最終覆蓋整個(gè)地球上的每一個(gè)人。

經(jīng)典的例子是埃隆·馬斯克在2006年對(duì)特斯拉提出的所謂“秘密計(jì)劃”-當(dāng)然，他當(dāng)時(shí)是公開發(fā)表的：

第一步，制造昂貴的跑車

第二步，用這筆錢制造一輛價(jià)格實(shí)惠的車

第三步，用這筆錢制造一輛更加實(shí)惠的車

...這當(dāng)然正是他所做的，結(jié)果成為了世界上最富有的人。

最后一點(diǎn)非常關(guān)鍵。如果埃隆今天只賣車給富人，他會(huì)更加富有嗎？不會(huì)。如果他只為自己制造汽車，他會(huì)比現(xiàn)在更富有嗎？當(dāng)然不會(huì)。不，他通過銷售給最大可能的市場(chǎng)-全世界-來最大化自己的利潤(rùn)。

簡(jiǎn)而言之，每個(gè)人都會(huì)得到這個(gè)東西-就像我們過去在汽車、電力、無線電、計(jì)算機(jī)、互聯(lián)網(wǎng)、移動(dòng)電話和搜索引擎方面所看到的一樣。這些技術(shù)的制造者非常有動(dòng)力將價(jià)格降低，以至于地球上的每個(gè)人都能夠負(fù)擔(dān)得起。這正是在人工智能領(lǐng)域已經(jīng)發(fā)生的事情-這就是為什么今天你可以以低廉甚至免費(fèi)的價(jià)格使用最先進(jìn)的生成式人工智能，例如微軟的必應(yīng)（Bing）和谷歌的Bard-而且這種情況將繼續(xù)發(fā)生。這不是因?yàn)檫@些供應(yīng)商愚蠢或慷慨，而是因?yàn)樗麄冐澙?他們希望最大限度地?cái)U(kuò)大市場(chǎng)規(guī)模，從而最大化他們的利潤(rùn)。

因此，發(fā)生的情況與技術(shù)推動(dòng)財(cái)富集中化相反-最終包括全球所有人在內(nèi)的技術(shù)的個(gè)體用戶獲得了權(quán)力，并獲得了大部分產(chǎn)生的價(jià)值。與之前的技術(shù)一樣，建造人工智能的公司-假設(shè)它們必須在自由市場(chǎng)中運(yùn)作-將競(jìng)相努力實(shí)現(xiàn)這一目標(biāo)。

這并不是說不平等不是我們社會(huì)面臨的問題。它是一個(gè)問題，只是它不是由技術(shù)驅(qū)動(dòng)的，而是由相反的因素驅(qū)動(dòng)，即那些對(duì)新技術(shù)最抵制的經(jīng)濟(jì)部門，那些對(duì)阻止采用人工智能等新技術(shù)干預(yù)最多的部門-特別是房屋、教育和醫(yī)療保健部門。人工智能和不平等的實(shí)際風(fēng)險(xiǎn)不在于人工智能會(huì)導(dǎo)致更大的不平等，而是我們將不允許利用人工智能來減少不平等。

AI風(fēng)險(xiǎn)5：人工智能會(huì)導(dǎo)致人們做壞事嗎？

到目前為止，我已經(jīng)解釋了五個(gè)最常提出的AI風(fēng)險(xiǎn)中的四個(gè)實(shí)際上并不存在-人工智能不會(huì)自主行動(dòng)并殺死我們，人工智能不會(huì)毀掉我們的社會(huì)，人工智能不會(huì)導(dǎo)致大規(guī)模失業(yè)，人工智能不會(huì)引發(fā)災(zāi)難性的不平等增加。但現(xiàn)在讓我們來討論第五個(gè)風(fēng)險(xiǎn)，這是我實(shí)際上同意的一個(gè)觀點(diǎn)：人工智能將使壞人更容易做壞事。

從某種意義上說，這是個(gè)重言。技術(shù)是一種工具。工具，從火和石頭開始，可以用來做好事-烹飪食物和建造房屋-也可以用來做壞事-燒傷人和毆打人。任何技術(shù)都可以用于善惡之中。沒錯(cuò)。毫無疑問，人工智能將使罪犯、恐怖分子和敵對(duì)政府更容易做壞事。

這使得一些人提議，好吧，既然這樣，那么在這種情況下，讓我們不冒這個(gè)風(fēng)險(xiǎn)，讓我們?cè)谶@種情況發(fā)生之前禁止人工智能。不幸的是，人工智能并不是一種難以獲得的隱秘物質(zhì)，比如钚。恰恰相反，它是世界上最容易獲得的材料-數(shù)學(xué)和代碼。

人工智能已經(jīng)猛虎出籠。你可以從成千上萬的免費(fèi)在線課程、書籍、論文和視頻中學(xué)習(xí)如何構(gòu)建人工智能，而且優(yōu)秀的開源實(shí)現(xiàn)正在日益增多。人工智能就像空氣-它將無處不在。為了阻止人工智能的發(fā)展，所需要的極權(quán)壓制程度將如此嚴(yán)酷-世界政府監(jiān)控和控制所有計(jì)算機(jī)？穿著黑色直升機(jī)的武裝暴徒搶奪流氓顯卡？-以至于我們將沒有一個(gè)社會(huì)可以保護(hù)。

因此，解決壞人利用人工智能做壞事的風(fēng)險(xiǎn)有兩種非常直接的方法，這正是我們應(yīng)該關(guān)注的。

首先，我們已經(jīng)有法律來將大多數(shù)壞事與人工智能聯(lián)系起來犯罪化。入侵五角大樓？這是犯罪。從銀行盜取錢財(cái)？這是犯罪。制造生物武器？這是犯罪。實(shí)施恐怖襲擊？這是犯罪。我們可以簡(jiǎn)單地專注于在我們可以的情況下預(yù)防這些犯罪行為，并在無法預(yù)防時(shí)對(duì)其進(jìn)行起訴。我們甚至不需要新的法律-我不知道是否有任何一個(gè)實(shí)際上被提出的壞的人工智能使用方法不違法。如果發(fā)現(xiàn)新的壞的使用方法，我們禁止該使用方法。證明了問題。

但你會(huì)注意到我在其中提到了什么-我說我們應(yīng)該首先集中精力在防止人工智能協(xié)助犯罪之前-難道這種預(yù)防不意味著禁止人工智能嗎？好吧，還有另一種方法來防止這種行為，那就是將人工智能作為一種防御工具。使壞人在實(shí)現(xiàn)壞目標(biāo)時(shí)危險(xiǎn)的能力，同樣也使得在實(shí)現(xiàn)良好目標(biāo)的好人手中具有強(qiáng)大的能力-特別是那些工作是預(yù)防壞事發(fā)生的好人。

例如，如果你擔(dān)心人工智能生成假人和虛假視頻，答案是構(gòu)建新的系統(tǒng)，讓人們可以通過加密簽名驗(yàn)證自己和真實(shí)內(nèi)容。在人工智能出現(xiàn)之前，數(shù)字化創(chuàng)作和篡改真實(shí)和虛假內(nèi)容已經(jīng)存在；答案不是禁止文字處理軟件和Photoshop-或者人工智能-而是利用技術(shù)構(gòu)建一個(gè)真正解決問題的系統(tǒng)。

因此，第二點(diǎn)，讓我們大力推動(dòng)將人工智能用于善良、合法和防御性目的。讓我們將人工智能應(yīng)用于網(wǎng)絡(luò)防御、生物防御、追捕恐怖分子以及我們?yōu)榱吮Ｗo(hù)自己、我們的社區(qū)和我們的國(guó)家而做的一切。

當(dāng)然，已經(jīng)有很多聰明的人在政府內(nèi)外正在做這件事-但如果我們將目前專注于徒勞地試圖禁止人工智能的所有努力和智慧應(yīng)用于利用人工智能來防范壞人做壞事，我認(rèn)為毫無疑問，一個(gè)融入人工智能的世界將比我們今天生活的世界更加安全。

應(yīng)該采取什么行動(dòng)？

我提出一個(gè)簡(jiǎn)單的計(jì)劃：

1. 允許大型人工智能公司盡可能快速和積極地發(fā)展人工智能，但不允許它們獲得監(jiān)管控制，不允許它們建立一種受到錯(cuò)誤的人工智能風(fēng)險(xiǎn)聲稱保護(hù)的政府壟斷聯(lián)盟。這將最大程度地發(fā)揮這些公司的驚人能力所帶來的技術(shù)和社會(huì)回報(bào)，它們是現(xiàn)代資本主義的寶貴財(cái)富。

2. 創(chuàng)業(yè)型人工智能公司應(yīng)被允許盡可能快速和積極地發(fā)展人工智能。它們既不應(yīng)面對(duì)大公司獲得政府授予的保護(hù)，也不應(yīng)接受政府援助。它們應(yīng)該被允許自由競(jìng)爭(zhēng)。即使初創(chuàng)公司失敗，它們?cè)谑袌?chǎng)中的存在也將不斷激勵(lì)大公司做到最好-不管以哪種方式，我們的經(jīng)濟(jì)和社會(huì)都會(huì)獲勝。

3. 開源人工智能應(yīng)被允許自由擴(kuò)散和與大型人工智能公司和初創(chuàng)公司競(jìng)爭(zhēng)。開源領(lǐng)域不應(yīng)受到任何監(jiān)管壁壘的限制。即使開源技術(shù)不能戰(zhàn)勝公司，它的廣泛可用性對(duì)世界各地想要學(xué)習(xí)如何構(gòu)建和使用人工智能并成為技術(shù)未來一部分的學(xué)生們是一種福音，它將確保無論一個(gè)人是誰，有多少錢，都能從中受益。

4. 為了抵消壞人利用人工智能做壞事的風(fēng)險(xiǎn)，政府與私營(yíng)部門合作，應(yīng)積極參與潛在風(fēng)險(xiǎn)領(lǐng)域，利用人工智能來最大限度地提升社會(huì)的防御能力。這不僅限于人工智能相關(guān)的風(fēng)險(xiǎn)，還包括更一般的問題，如營(yíng)養(yǎng)不良、疾病和氣候問題。人工智能可以是解決問題的非常強(qiáng)大的工具，我們應(yīng)該將其作為這樣的工具來接受和運(yùn)用。

這就是我們?nèi)绾卫萌斯ぶ悄軄碚仁澜纭?/p>

是時(shí)候開始行動(dòng)了。

傳奇與英雄

我以兩個(gè)簡(jiǎn)單的陳述作為結(jié)尾。

人工智能的發(fā)展始于20世紀(jì)40年代，與計(jì)算機(jī)的發(fā)明同時(shí)進(jìn)行。關(guān)于神經(jīng)網(wǎng)絡(luò)（我們今天所擁有的人工智能的架構(gòu)）的第一篇科學(xué)論文于1943年發(fā)表。

在過去的80年里，整整幾代人的人工智能科學(xué)家出生、上學(xué)、工作，許多人甚至去世，都沒有看到我們現(xiàn)在所獲得的回報(bào)，他們都是傳奇人物。

如今，越來越多的工程師群體正在努力將人工智能變?yōu)楝F(xiàn)實(shí)，其中許多人年輕，可能有祖父母甚至曾祖父母參與了人工智能理念的創(chuàng)造。

然而，他們面臨著一片聲稱他們草率和邪惡的恐懼聲音和悲觀主義。

我不相信他們是草率或邪惡的人，他們每一個(gè)人都是英雄。我和我的公司非常高興支持盡可能多的他們，我們將100%站在他們和他們的工作旁邊。