人工智能是科學技術的前沿，不僅影響當下人類社會的方方面面，而且關系到人類的命運。正因為此，人工智能引發來自科技界內外的廣泛關注和爭議。這些爭論大致可以歸為三類：

● 其一，人工智能是否會危及人類的命運；

● 其二，強人工智能與弱人工智能的競爭與合作；

● 其三，強人工智能與弱人工智能各自內部發展路徑辨析。

本文探討第一、二兩點，這兩點都涉及對人工智能的科學屬性與技術屬性的理解。人工智能一身而二任，既是科學，也是技術，是科學和技術的一體化。

無論置身于其中的業內人士還是身處局外的觀察者，實際上自覺不自覺地不是把人工智能歸為科學，就是認作技術。在某種意義上可以說，眼下關于人工智能的種種爭論，或多或少均與此有關。

一、強人工智能與弱人工智能

1.強、弱人工智能——科學與技術

強人工智能與弱人工智能之爭可以歸結到科學與技術的關系。相對而言，強人工智能強調跟隨并再現人的自我意識，偏向于認為人工智能是探索人腦與意識的科學；弱人工智能則沿著圖靈的思路，認為人工智能能夠執行人腦相應的功能而得到應用即可。顯然，在弱人工智能一方的心目中，人工智能是技術。

正因為強人工智能與弱人工智能的背后有科學與技術之分，所以二者的思路和發展路徑存在種種差異。

強人工智能的目標是發現未知，揭示人腦及其運行背后未知的秘密，核心是主體的意向性。強人工智能的驅動力是其背后人類數千年如一日的好奇心，是一往無前永不遏止的探索精神。

作為科學，強人工智能清楚肩負的重任。且不要說人類的“意向性”，身邊貓狗等寵物的意向性說的清楚嗎？有必要沿生物進化的路徑回溯，先從模擬昆蟲、魚和哺乳動物的大腦開始，再一步一步進階到對人腦的模擬。“強人工智能還太遠了?！保ū本┖娇蘸教齑髮W自動化學院副教授秦曾昌）。

面對如此宏大的目標，眼下的弱人工智能，哪怕是阿法狗，還是阿法元，只能是一個字：“弱”；而那些媒體為此的搖旗吶喊，只能是泡沫，從而給人工智能，特別是弱人工智能潑冷水。

強人工智能嘲笑弱人工智能之“弱”，距人的智能何止千里之遙?！爸形奈葑印迸c其說是“懟”強人工智能，不如說是在羞辱弱人工智能。強人工智能要求揭示功能背后的結構，必須以“具有意識功能的材料為基質”（中山大學人際互聯實驗室主任翟振明），譬如說“微管”，由結構解釋功能，在量子層面闡明意識的本質，以知其所以然。

潘建偉認為，“不到量子人工智能的時代，我是一點兒不擔心人工智能會取代人類?！瘪R兆遠認同這一點，在由納米尺度理解意識之前，“人工智能至少在三百年內還沒什么機會超越人腦”。

站在技術的立場，弱人工智能則認為強人工智能沒有必要，實現功能無需舍近求遠，不如且行且進。如果人們的目標是制造“工具”，那么考慮特定類型的智能行為就已足夠，何必再去考慮獨立意識（南京大學教授、計算機軟件新技術國家重點實驗室常務副主任周志華）？

一部技術史，從工作機-動力機-控制學習機的線索來看，工作機、動力機、控制學習機，分解開來，逐一攻克。汽車并不是馬，電機和熱機未必如九?；蚨ⅲ?a target="_blank">電腦雖在普適與情感等方面不如人腦，卻越來越多的個別場合勝似人腦。

從科技黑箱的視角看，使用者只在乎其能否執行功能。就此而言，科技黑箱并不介意牛馬的結構，從基本物理運動、化學運動、生命運動一路走來，突破曾經的一個個界限，在實際上同樣進入意識運動的王國。

弱人工智能的目標是看得見的眼前，數年或數十年，在一定程度上可以預測，滲透到經濟、社會和文化的各個領域，在個別的特定的領域逐一替代人。所謂“個別”、“特定”，就是邊界明確，規則嚴密，賞罰分明，也就是有“激勵機制”。弱人工智能，在這些特定的領域攻城略地，日益，以及堅定地擴大自己的營地。

從知識論的視角來看，弱人工智能把人的日常生活與工作中有規可循的行為編碼編程，大數據加算法加算力，做成控制學習機。再結合工作機與動力機，腳踏實地步步為營，對人工智能持樂觀立場，集腋成裘，在近數十年間將會迎來“奇點”。

其實，歷史地看，科學和技術的發展都離不開對方的支撐和拉動，已經有太多的研究成果說明了這一點，人工智能至今的發展同樣是科學和技術，在某種意義上，也就是強人工智能與弱人工智能，雙方攜手并進的結果（此處期待業內人士拍磚和完善）。

2.強人工智能人機回圈中的“機”與“人”

如果接受這一觀點，那么不難看出，筆者在（人機回圈：人類的科技化與科技的人文化（序及綱要）；人機回圈：人類的科技化與科技的人文化（一、2）“機”的演化…人機回圈：人類的科技化與科技的人文化一、人機回圈中的“機”）中所分析的“機”，工作-動力-學習機，以及科技黑箱，都是把人工智能看作是技術。

既然如此，作為科學的強人工智能，“機”的含義自然有所不同，那就是科學研究過程中所提出的“模型”，例如一個多世紀前對于原子的“葡萄干面包”和“行星式”模型，關于銀河系的“水缸里的漩渦”模型，以及DNA的“三螺旋”和“雙螺旋”模型等。對于強人工智能來說，“機”，也就是模型，主要并不有意實現什么功能，而是旨在認識大腦的結構，理解和揭示意識的本質，這是模型的目標：人的大腦和意識。

強人工智能與弱人工智能的人機回圈中的“機”不同，人機回圈中的“人”也不同。在作為技術的弱人工智能看來，人機回圈中的人是現實社會中的各色人等；那么作為科學，既然強人工智能中人機回圈的“機”是認識過程中的模型，那么人機回圈中的人就不是現實社會中的人，而是人作為“類”的典型。

在一次次回圈中，模型無限逼近原型。眼下的一項最新進展是麻省理工學院的“類腦芯片”[i]，人造突觸，是可以用于終端的便攜式低功耗神經形態芯片，可將人腦能力“復制”到芯片，從而為實現神經網絡硬件化打下堅實的基礎。

值得注意的是，強人工智能在某種意義上沿襲了西方近代以來的步點。秉承笛卡爾的“認識論轉向”，“腦”登場，“心”只是“處理機械自然中為物理學無法解釋的一切感性經驗的傾倒垃圾的場所”[ii]。所以需要“以頭立地”，重“知”（智）輕“行”。

然而，人是“工作機-動力機-控制學習機”的融合，不可分割。身體，不僅是工作機和動力機，而且全方位參與認知與實踐活動。這就是“全身心”，心智合一，靈與肉不可分離。

如果考慮到身心合一，那么強人工智能人機回圈之“機”，就必須以一個完整的人作為“回圈”的目標。2016/9/25上海AI小組閉門討論會稱，生命形態的不完整情況下發展的人工智能為“偽智能”。

或許正是在此意義上，喬布斯曾在自傳里預言：20世紀80年代是IT時代，而21世紀絕對是基因科技時代。生物技術將從技術之“機”和科學之模型兩個緯度推進人工智能。

考慮到科學與技術之間的互動，作為技術的弱人工智能中的“機”與作為科學的強人工智能中的“機”，也就是科學模型之間的互動，有待拓寬和強化。（此處同樣期待業內人士拍磚和完善）

二、人工智能雙刃劍

科學技術是雙刃劍，這一點已經在科技界和社會上形成廣泛共識。人工智能也是雙刃劍。分析強人工智能與弱人工智能雙方對人工智能雙刃劍的立場會饒有興味。

1.科學與技術，何者更是雙刃劍

科學技術是雙刃劍，這一說辭籠統了。進一步的分析可以發現，科學與技術相比之下，技術更是雙刃劍。

可以在自然與社會之間設一譜系，將人類的各項活動排序。相對而言，科學更接近自然，技術更靠近社會。科學源于好奇心，強調自由探索，“為科學而科學”，其成果是與特定的主體、對象和語境無關的非嵌入編碼知識。

科學的成果雖然可以為各方所用，但科學本身止于認識階段。作為認識活動，科學與社會的互動主要在觀念層面，科學實驗雖然是實踐活動，但目的主要是為了認識，而不是效益。

技術旨在效用和控制，需要調動更多自然和社會資源，其成果滿足特定社會成員的特定需要。作為實踐活動，技術需要社會調集更多資源，技術的成果（科技黑箱）也會更直接廣泛影響社會。

技術與社會之間在經濟、政治和文化諸領域發生全方位的互動。較之科學來說，技術的雙刃劍效應，無論是正面還是負面，都更為顯著，更為“鋒利”。如果說作為認識活動，“科學無禁區”，那么作為產生后果的實踐活動，技術必須有禁區。由此可見，技術必須更多顧及負面效應。

2.人工智能雙刃劍的不同立場

弱人工智能一方把人工智能看作是技術，因而人工智能必須考慮可控與效益，考慮雙刃劍的負面效應。技術有禁區。因而擔心人工智能最終影響人類的命運，霍金（科學家可以持人工智能是技術的觀點，或者其成果終究會轉化為技術，從而關注其負面效應）與馬斯克是持這一觀點的代表人物。他們擔心的威脅，實際上是來自強人工智能。“嚴肅學者不該去碰強人工智能”（周志華）。如果限定在弱人工智能，則只會是人類乖巧而順從的助手。

如果看作是科學，更多強調自由探索精神，科學無禁區。難道“強人工智能是潘多拉魔盒？”（北京郵電大學人機交互與認知工程實驗室主任劉偉）[iii]。

即使是“潘多拉魔盒”，如果因此“說不要研究強人工智能，這就有些一廂情愿了。因為強人工智能是科學發展的必然趨勢?！?/p>

回顧一部科學史，劉偉所言不差。合成尿素打破無機與有機的界限，生命科學和生物技術架起通往生命的橋梁，往日的界限已經攻克，意識運動同樣沒有禁區。

大腦，即使加上身體，全身心，無論多么復雜，無限，畢竟是“已經生成”之物（或弦）；人工智能，無論是“強”還是“弱”，其發展卻無窮無盡。這一點與《三體》中描繪的“黑暗森林”類似。這一追趕的步伐，在弱人工智能看來近在咫尺，就在數十年后，即使在強人工智能心目中，也就數百年。

3.人工智能雙刃劍前景

先看作為技術的人工智能。

科技黑箱將越來越黑。除了少數科技精英，人類中越來越多的人將不知其運行的機理，而科技精英的解釋如“糾纏”、“疊加”、“塌縮”，則往往令常人如云里霧里，甚至科技精英也無法以經典的科學概念解釋得出的結果，乃至求助于已“恭候多時”的佛教徒。

與此相反的趨勢是，在相當程度上正是因為越來越黑，所以科技黑箱在操作上越來越簡單。

上文述及，科技黑箱沿量子階梯上升，由無機到有機、生命，以及大腦，從生理到心理；工作機越來越能干，動力機越來越強大持久，控制學習機越來越聰明，因而對人類社會的影響在正負兩方面都越來越大。這一點再加上雙刃劍越來越黑，越來越簡單，因而雙刃劍那一刃都變得越來越鋒利。

人性有兩個根本的弱點：自利與有限。無自利，或許唯有耶穌和佛陀。有限，不可能洞察一切。沿弱人工智能的途徑，人工智能的發展將最終超越人性的弱點。弱人工智能沒有自我意識，意味著無所謂“自利”， 無關尊嚴、榮譽，對于所有的情感“沒感覺”，而是遵循規律。弱人工智能不是克服，而是繞過人性的自利。而在時空上無窮無盡的大數據和超凡脫俗的計算能力則超越人之“有限”。

“讓機器工作，讓人們思考”，這是2011年9月22日，IBM公司在計算機紀元50周年的題詞。這十個字是弱人工智能的宗旨。

回顧歷史，在普里戈金的分岔圖上，每一次科技創新或多或少都是一次分岔。每一次分岔，往往針對上一次創新的不足之處與負面效應，換言之，人類畢竟還擁有一定程度的控制權，可以由新的分岔彌補修正上一個分岔的負效應。

展望前程，人類正在越過的是人類歷史上最大，或許也是對于人類來說的最后一個分岔。人工智能的發展將可能一勞永逸地結束人類社會歷經萬年，“從分岔到分岔”的“曲折前行”的道路。

再看作為科學的強人工智能。

即使在不涉及實踐后果的純粹的認識領域，強人工智能同樣有令人毛骨悚然的效應。在圍棋界，來無蹤去無影的“棋感”已被阿法狗解密。試想，例如在人類最神奇私密的愛情領域，強人工智能將其中難以乃至不可言說的微妙之處一一解碼，娓娓道來，以示天下，人類還花前月下，談情說愛嗎？要是同情心、審美和宗教情懷都可以在“微管”與量子的層面上得到解釋，這一說辭不禁令人想起歷史上曾經的還原論。

強人工智能與弱人工智能的一個共同點是，踏在往日科學技術的肩上，沿量子階梯和運動形式升高，直至生命和意識。

斯蒂芬·沃爾夫勒姆（Stephen Wolfram）表示[iv]，模仿人類，既是錯誤的路線，又是唯一可行的路線。

強人工智能與弱人工智能結合，能否是“上帝的歸上帝，凱撒的歸凱撒”的模式。人，照看自己的靈魂，做出決策；機，人工智能從事計算，提供決策的依據和選項。“人心機腦”，是可欲的理想，還是一廂情愿？

人是雙刃劍。

雖然有上述種種反思，但是強人工智能也好，弱人工智能也好，二者的相互結合也好，人工智能繼續推進的趨勢不可阻擋。說到底，在這一趨勢的背后，依然是人工智能苦苦追尋并試圖超越的人性。

人性推動人工智能超越（否定）自身?？萍茧p刃劍的根源是人。

人自身就是雙刃劍。一刃是善，一刃是惡；一刃是自我控制，一刃是放縱自我；一側是對世界無窮的知與控制的欲望，另一側是有限的認識和實踐能力；一邊是對不確定未來的向往或恐懼，一邊是對確定往事的留戀或背離。

說到底依然是兩句話：人是自利的，人是有限的。

前者的表現之一是控制欲，控制自然，控制他人，與此同時則是放縱自我。個人的控制與放縱，在人際就是控制與反控制。

后者在于，由于自然界（大腦）的極端復雜、相互關聯與不確定，由于人（國）際關系的博弈或合作，以及由于主觀能力所限，人不可能把握全局，不可能預知未來。

回首往事，歷歷在目；展望未來，充滿了分岔和不確定。兩千年前，伊壁鳩魯的原子論認為原子的偏斜造就了世界，上世紀居里的名言是，非對稱創造世界?；蛟S應該補充的是，非對稱也會毀滅世界。

潘多拉魔盒釋放了科技，也就是釋放了雙刃劍。打開了，就不可能再關上。

弗洛伊德在1930年寫道，能否理解，文明在多大程度上是建立在對本能的滿足之上，又是在多大程度上是以對強大的本能的力量（以壓迫、鎮壓或別的方法？）不予滿足為前提？

凱文·凱利謹慎地表示，互聯網產生的相當大一部分都是不好的。但只要互聯網的積極的一面僅僅比負面效應多出1%，我認為這1%會年復一年地滾動，歷經數十年甚至上百年的復合產生收益。所以，為了長遠獲得正效應的復利，現在互聯網產生的正面效用，必須要比負效應哪怕多那么一點點。

本能（好奇、控制……）或許正是比對本能的控制大了1%。正是這1%的不對稱,“建構”了迄今的文明史。除了邪教，幾乎所有的宗教都在于勸誡放棄對自然和他人的控制，代之以控制自我。

要是宗教大獲成功，或許人類將止步不前；要是沒有宗教，人類將自我毀滅。

自然界，正物質恰好比反物質多了“一點”，那多出來的“一點”構成了人類和大千世界。

說到底，人自身雙刃劍的不對稱，這才是科技雙刃劍——無論是正面還是負面——的原動力。

只要人類一息猶存，就不會停下好奇與控制的腳步；只要人類不停下探索與支配的步伐，最終的征服對象就是人類自己。這是人類最大的悖論。

向死而生，這是哲學家對個人的教導，現在成為人類本身的宿命。

人類，能否鳳凰涅槃浴火重生……

鑒于科學與技術之間沒有截然分明的界限，強人工智能與弱人工智能之間也沒有截然分明的界限，因而本文中的論述也會帶有這一印記。