我一直都很喜歡電影中的機器人，壞機器人我也喜歡。但令人不安的是，我們身邊的機器變得越來越聰明，因此我們沒有理由不擔心帶有惡意的人工智能——也就是某個版本的終結者或HAL（出自《2001太空漫游》）——最終將闖入現實世界。

當然，我并不是唯一一個持有這一悲觀觀點的人。史蒂芬·霍金（Stephen Hawking）曾警告說：“自主型人工智能技術的開發將讓人類走向終結。”牛津大學哲學家托比·歐德（TobyOrd）在其令人振奮的著作《絕境》（The Precipice）中審視了一系列可能導致人類滅絕的威脅，例如小行星、核戰和氣候變化，將“背叛的人工智能”列為其中最有可能發生的一項。

看看最近介紹有關人工智能的書作，專家們有關“奇點”（人工智能超越人類智慧的時間點）不會馬上到來的共識給了我些許安慰，他們有的認為需要數十年的時間，有的則認為需要數個世紀。然而，我們并不能掉以輕心，因為這些作者認為，有關機器人在未來成為霸主的焦慮，轉移了我們對近期“狹義”人工智能威脅的關注，這類人工智能技術支撐著眾多事物，從智能揚聲器到自動駕駛汽車等等。

對于某些人來說，這類人工智能看起來很聰明，但卻是善意的，只不過是一個可執行某類任務的數字傻瓜仆人，例如從A點行進至B點，不要碰到障礙。但正如邁克·卡南（Michael Kanaan）在《倒計時AI》（T-Minus AI ）一書中所提到的那樣，人工智能也可以冷酷無情地干壞事。卡南呼吁立即展開對話，探討人工智能應用不設限的后果，以及如何設置防護措施，來保護我們的自由和安全。

威廉姆·達維多（William Davidow）與邁克·馬龍（Michael Malone）的著作《自動化革命》（The Autonomous Revolution）以及丹尼爾·薩斯坎德（Daniel Susskind）的《一個沒有工作的世界》（A World WithoutWork）都不約而同地談到了現有人工智能帶來的風險。他們并不認為人工智能的崛起只是一場會創造大量新工作的技術變革，例如工業革命，只不過同時也會導致眾多工作的消失;他們認為，人類正處于一個歷史轉折點，當前，獨特的智能化技術在越來越多的任務中超越了人類的表現，而且最終可能會取代眾多人類的工作。

科技行業高管達維多與記者兼創業者馬龍表示，人工智能并不會像之前的技術進步一樣，帶來能夠提升GDP和富裕度的生產力改善，它可能會提升生產力，但會導致GDP下降。一個可能的結果是：大量的勞動力變得越發便宜，薪資水平下降，經濟不平衡加劇，工作機會減少，以及“數百萬‘零經濟價值’”勞動力（也就是那些即便免費為你工作你也不會聘請的勞動力）涌現。

經濟學家、英國政府前政策顧問薩斯坎德持有類似的觀點。他認為，隨著人工智能的崛起，人類可從事的活動將不斷減少。卡車司機+GPS是一個強有力的組合，然而，當人工智能成為駕駛員和導航者之后，美國350萬卡車司機將會失業。即便那些依賴于最為人性化的特征（同理心、判斷力和創意）的工作可能也無法幸免于難。機器可能永遠都不會具有醫生對于某項“診斷”的直覺，或像作曲家一樣進行沉思，但它們確實會學習如何模仿這些人類行為，而且學得非常逼真，讓人類自己也難辨真假。

然而，這些作者的確看到了人類即將步入的世界，一個工作機會更少、不平衡性加劇的世界。他們認為會出現新的監管機構（例如，薩斯坎德預測會出現一個名為政治權力監管局的機構，來控制那些權力過大的公司），而且政府會加大干預力度。達維多和馬龍提出，如果自由市場解決方案無法解決問題，那么等待我們的將是（請勇敢面對）“財富重新分配的體制，例如更高的稅收、免費的全民醫療，以及全民基本收入”。

“沒有哪個工作能夠幸免于難，我對這一觀點已經深信不疑，也十分期待深入探討。”凱文·斯科特（Kevin Scott）在《重構美國夢》（Reprogramming the American Dream）中提出積極觀點。微軟首席技術官斯科特預測，農民工將迎來大量的新工作，尤其在制造業領域。他信誓旦旦地說道：“人工智能說到底是給人類賦能，而不是取代人類。”確實，他描述了眾多人工智能、機器人和自動化將創造的藍領工作。例如，一位企業家建立了一家基于計算機的精細化塑料編織企業，其中“有機械工文憑的某個人……即便沒有接受多少崗前培訓，都可以在一個不起眼的小城鎮拿到一份高薪工作”。斯科特還提到了全新類型的工作——為人工智能提供支持：用于訓練人工智能的數據標記工作，人類運行的機器人臨時工中介，以及巨型數據中心的建造工作，例如微軟在弗吉尼亞州占地500英畝的設施。斯科特這個充滿希望的觀點在很大程度上回避了大家不愿談論的話題：這些新工作能否完全取代那些消失的工作崗位。

這些作者可能在一些具體的問題上出現分歧，但他們對未來均保留著樂觀態度。他們基本上認為，關鍵在于在當前設立能夠避免未來最壞結果的規則和制度。正如卡南說的那樣，我們需要確保人工智能技術“只能以符合人類基本尊嚴的方式來實施……而且只能用于與民主理念、自由和法律相一致的目的”。

你認為人工智能會怎么看待這個計劃？當卡南讓機器學習應用GPT-2的一個版本來即興談論對這一理念的看法時，它立即給出了完美的回答：“如今，我們的重點工作是讓公眾相信，使用人工智能來實現這些目標對于人類社會來說是必要的，也是可取的……然而最終，未來會要求我們做出道德的決策，而我們也將開始打造一個真正安全和可持續的世界，一個人類和人工智能可以真正共存的世界。”

盡管機器并不像人一樣知道自己都寫了些什么，但我們至少看到了自利的影子，并多少洞悉了未來的模樣。