哈佛大學著名遺傳學教授George M. Church認為，在人工智能時代，人類和機器之間的界限正在變得模糊，這是因為機器變得更像人類，而人類也變得更像機器。

本文作者George M. Church是哈佛醫學院著名遺傳學教授，哈佛大學韋斯生物啟發工程研究所(Wyss 研究所)的核心成員，被學界譽為是個人基因組學和合成生物學的先鋒。

與此同時，作為人類基因組計劃負責人，Church也被認為是一個致力于改造基因組的瘋狂科學家，一個人類企圖扮演上帝角色的典型代表。

George M. Church

Church近日在medium網站發表文章:A Bill of Rights for the Age of Artificial Intelligence。在這篇文章中，Church認為在人工智能時代，人類和機器之間的界限正在變得模糊，這是因為機器變得更像人類，而人類也變得更像機器。

他說：“當前所未有的思想多樣性出現時，我們應該關注所有意識的權利。”未來已來，只不過不均勻，我們中有數百萬人已經成為“超人”(transhuman)，“什么是人類”這個問題應該轉為思考“什么是超人，他們應該有哪些權利”。

新智元對文章進行譯介如下：

全盤更新機器威脅論

1950年，諾伯特·維納(Norbert Wiener)的著作《人有人的用處》(The Human Use of Human Beings)走在了遠見和思辨的前沿，書中宣稱：

瓶裝妖魔型的機器雖然能夠學習，能夠在學習的基礎上作出決策，但它無論如何也不會遵照我們的意圖去作出我們應該作出的或是我們可以接受的決策的...不論我們把我們的決策委托給金屬組成的機器或是血肉組成的機器(機構、大型試驗室、軍隊和企業)...時已遲矣，善惡決絕之機已經迫在眉睫了。[1]

但這是他的書的結尾了，它讓我們徘徊了68年，不僅沒有提供指示和禁令，甚至連清晰的“問題陳述”都沒有。自那以后，我們看到很多類似的關于人類受機器威脅的警告，甚至是通過電影《巨人:福賓計劃》(Colossus: the Forbin Project, 1970)、《終結者》(the Terminator, 1984)、《黑客帝國》(the Matrix, 1999)和《機械戰警》(Ex Machina, 2015)等面向大眾的形式。但是，現在是時候用全新的觀點全盤更新這種機器威脅論了，特別是集中于我們的“人權”和我們的生存需要的一般化。

關注的焦點往往集中在“我們與它們”(us versus them，機器人)或“灰霧”(gray goo，納米技術)或“克隆的單一栽培”(生物)上。推斷一下當前的趨勢：如果我們能夠制造或種植幾乎任何東西，并設計出任何我們想要的安全性和有效性水平，那會變成怎么樣呢？任何有思想的生物(由原子的任何排列組成)都可以使用任何一種技術。

也許我們不應該太過關心“我們與它們”，而應該更多地關心在前所未有的思想多樣性涌現時所有意識形態的權利(the rights of all sentients)。我們應該利用這種多樣性來將全球存在風險降至最低，例如超級火山和小行星等。

雖然我們可能不知道在我們加速進化的每一步中，生物/人類/納米/機器人的合成人(hybrids)的比例將占多大比例，但我們可以致力于彼此的高水平的人道、公平和安全的處理(“使用”)。

平等

1776年，33歲的托馬斯·杰斐遜(Thomas Jefferson)寫道：“我們認為以下真理是不言而喻的：人皆生而平等，享有造物主賦予給他們的不可剝奪的權利，包括生命、自由和追求幸福的權利。”

當今，“人類”的范圍是很大的。1776年時，“人”不包括有色人種或女性。即使在今天，有先天性認知障礙或行為障礙的人注定要接受不平等的(盡管在大多數情況下是富有同情心的)治療——唐氏綜合癥、泰-薩克斯病、脆性X染色體綜合癥、腦癱等等。

隨著人類社會的改變和成熟，不平等權利已經發生了巨大的變化。胚胎、嬰兒、兒童、青少年、成年人、病人、重罪犯、性別認同和性別偏好、非常富有的人和赤貧的人——所有這些人都面對著不同的權利和社會經濟現實。

獲得并保留與最精英人類相似的新思維類型權利的一條途徑是保留一個人類屬性(Homo component)。我們可能很難拔掉插頭，修改或刪除(殺死)一臺電腦和它的記憶——尤其是如果它與人類成為朋友，并發出極其迫切的求生請求(所有優秀的研究人員都會這樣做)。

人類與非人類和合成人的規則截然不同

上面提到的智人內部權利差異的分歧，一旦我們轉移到“人類”定義覆蓋到(或即將覆蓋)的實體，就會爆發一場不平等騷亂。

在谷歌街景中，人們的臉和汽車牌都被模糊處理了。視頻設備被排除在許多場景之外，比如法庭和委員會會議。具有面部識別軟件的可穿戴公共攝像頭是一個禁區。患有超憶癥(hyperthymesia)或過目不忘的人是不是應該同樣被排除在這些場景之外呢?

面孔失認癥(臉盲)或遺忘癥患者不應該從面部識別軟件和光學字符識別軟件中受益嗎？如果他們可以，那么為什么不是每個人都可以呢？如果我們都在某種程度上擁有這些工具，難道我們不都能從中受益嗎?

這些場景與庫爾特·馮內古特(Kurt Vonnegut) 1961年的短篇小說《哈里森·伯杰隆》(Harrison Bergeron)如出一轍，其中，非凡的才能被壓制，以符合社會平庸的最低共同點。像約翰·塞爾(John Searle)的《中文房間》(Chinese room)和艾薩克·阿西莫夫(Isaac Asimov)的《機器人三定律》這樣的思維實驗，都吸引了丹尼爾·卡尼曼(Daniel Kahneman)、阿莫斯·特沃斯基(Amos Tversky)等人證明的那種困擾人類大腦的直覺。

“中文房間”實驗假設，一個由機械和智人組成的大腦，無論它在智人對話(中文對話)中多么有能力，都不可能是有意識的，除非人類能夠識別意識的來源并“感覺”到它。

如果機器人不具有與人類完全相同的意識，那么這就被用作給他們不同權利的借口，類似于其他部落或種族不如人類的論點。機器人已經表現出自由意志了嗎？他們已經有自我意識了嗎？機器人Qbo通過了自我識別的“鏡像測試”，機器人Nao通過了識別自身聲音并推斷自身是否處于靜音狀態的相關測試。

關于自由意志，我們的算法既不是完全確定的，也不是完全隨機的，而是針對接近最優的概率決策。有人可能會認為這是博弈論的優勝劣汰的結果。對于許多（而非所有）博弈/問題，如果我們的結論是完全可預測或完全隨機的，那么我們往往會陷入失敗。

那么，自由意志的吸引力到底是什么？從歷史上看，自由意志給了我們在地球或來世實施獎懲的方法。懲罰的目標可能包括推動個人優先事項，以有助于物種的生存。在極端情況下，如果積極/消極強化不足以保護社會，這種懲罰可能包括監禁或其他限制。顯然，這些手段可以應用于廣泛的自由意志，它適用于我們想要管理和約束其行為的任何機器。

我們可以討論機器人是否真的經歷了自由意志或自我意識的主觀感受，但這同樣適用于評估人類。我們怎么知道反社會人士，陷入休克的病人、威氏綜合癥患者或嬰兒與我們自己有相同的自由意志或自我意識？實際上，自由意志起到了什么作用？如果人類令人信服地聲稱要經歷意識、痛苦、信仰、幸福、野心，對社會發生作用，我們是否應該否認他們的享有自由意志的權利，只因為他們的假設與我們的假設不同？

人與機器之間的界限越來越模糊

我們曾認為自己永遠不會跨越的那條禁忌的紅線，似乎變得越來越短，而且越發不合理。人與機器之間的界限越來越模糊，機器變得更像人類，人類變得更像機器。這不僅在于我們越來越盲目地服從和遵循GPS定位信息、條件反射般的推文和精心策劃的營銷手段，而且我們也消化了對自己大腦的更多見解和遺傳編碼機制。 美國國立衛生研究院的“大腦計劃”正在開發創新技術，并利用這些技術繪制神經電路的連接和活動，用以改善電子和合成神經生物學產品的性能。

很多類型的“紅線”取決于遺傳的特殊性，遺傳學被認為是永久的（盡管已證明遺傳是可逆的），而一些技術，比如汽車，無論從何種意圖和目的來看，都由于社會和經濟力量而變得不可逆轉。在遺傳學中，這類“紅線”促使我們禁止或避免使用轉基因食品，但卻接受了用轉基因細菌制造胰島素或轉基因人類，歐洲已經批準了用于成人和胚胎的線粒體療法。

對于“人類的主題研究”，可以參考1964年赫爾辛基宣言，更要牢記1932年至1972年的塔斯基吉梅毒實驗，這可能是美國歷史上最臭名昭著的生物醫學研究。 2015年，非人權項目代表兩只被石溪大學研究的黑猩猩向紐約州最高法院提起訴訟。上訴法院的裁決認為黑猩猩不應被視為法人，因為它們“在社會上沒有義務和責任”，不過JaneGoodall和其他一些人持相反意見，還有人認為這樣的判決將來也可能降臨在兒童和殘疾人士身上。

是什么阻止了人類與其他動物、類器官、機器和雜交物種的延伸和交融？目前，一些人工智能領域的著名人物（如霍金、馬斯克、泰格馬克等）已經在宣傳禁止使用“自主武器”，我們將一類“啞巴”機器不斷妖魔化，而實際上其他類型的機器，比如由許多智人投票組成的機器可能更致命，更具誤導性。

“超人”們已經在地球上四處漫游了嗎？對于那些“未接觸現代世界的民族”，如印度的Sentinelese和Andamanese，印度尼西亞的Korowai，秘魯的Mashco-Piro，澳大利亞的Pintupi，埃塞俄比亞的Surma，越南的Ruc，巴拉圭的Ayoreo-Totobiegosode，納米比亞的辛巴和巴布亞新幾內亞的數十個部落來說，他們的祖先會如何回應這個觀點？我們可以將“超人”定義為生活在現代，但未接觸技術文化中的人們無法理解的那些人和文化。

這樣，現代石器時代的人們將很難理解為什么我們因為最近發現LIGO引力波證據，印證了百年歷史的廣義相對論而熱烈慶祝。他們會為我們的原子鐘或GPS衛星而困惑不已。我們可以比任何其他生物物種更快地移動，實際上，我們可以從地球達到逃逸速度，并在非常寒冷的太空真空環境中生存。

科幻小說先知威廉·吉布森曾說過：“未來已至，它的分布并不均勻。”雖然這話低估了下一輪的“未來”，但我們當中數百萬人已經是超人 - 我們大多數人都要求更多。 “什么是人類？”這個問題已經變成了“什么是超人，TA們有哪些權利？”

[1]諾伯特·維納是20 世紀最偉大的數學家之一，信息論的前驅，控制論的奠基人。這段譯文摘自北京大學出版社《人有人的用處——控制論與社會》，譯者陳步。