這篇文章來源于DevicePlus.com英語網(wǎng)站的翻譯稿。

埃隆·馬斯克一直是技術(shù)創(chuàng)新和未來商業(yè)模式的前沿代表。所以，當(dāng)他對硅谷加速采用人工智能（AI）和機(jī)器人技術(shù)感到害怕時，很多人感到驚訝。

隨著爭論的持續(xù)，您可能會懷疑他說的是否有道理。我們是否需要支持毀滅開關(guān)的AI和機(jī)器人標(biāo)準(zhǔn)？

馬斯克（PayPal、特斯拉和SpaceX創(chuàng)始人）認(rèn)為，人類或?qū)o力抵抗發(fā)展到集中化的人工智能（AI）。他還認(rèn)為AI的發(fā)展速度比人們想象的要快得多，并且很可能會摧毀人類。

該思想與馬斯克前幾年的說法遙相呼應(yīng)。當(dāng)時，馬斯克表示人類與AI的融合不可避免，因此為了對人工智能實(shí)施更多控制，最佳解決方案是人類-智能共生體。

馬斯克并不孤單！

理論物理學(xué)家斯蒂芬霍金表示，如果技術(shù)進(jìn)步失控，那么智能程序和機(jī)器人可能會以人類無法比擬的速度持續(xù)進(jìn)化升級，并能快速重新設(shè)計(jì)自己，我們都應(yīng)該擔(dān)心這一點(diǎn)。

此外，他認(rèn)為當(dāng)AI超越人類智慧時，我們將面臨可怕的后果。生存風(fēng)險(xiǎn)研究中心（CSER）和劍橋大學(xué)Leverhulme未來智能中心的專家也表現(xiàn)出相同的擔(dān)憂，并將AI列為未來最大的顧慮。

另外，他們還表示， 到2075年自主AI就能夠趕上人類智能水平。因此，如果不加以控制，這些智能機(jī)器人可能會引發(fā)核戰(zhàn)并摧毀整個人類。

然而，倫敦實(shí)驗(yàn)室DeepMind的聯(lián)合創(chuàng)始人Demis Hassabis提出了不同意見。雖然AI經(jīng)歷了一段加速發(fā)展時期，但仍然不是馬斯克所擔(dān)心的全能自我進(jìn)化軟件。

如今的AI為Google搜索引擎、基本數(shù)字助理（比如Apple的Siri）以及Facebook使用的照片標(biāo)記技術(shù)等領(lǐng)域提供支持。但是，人們的最終目標(biāo)是構(gòu)建一種可以模仿人類學(xué)習(xí)的高適應(yīng)性自學(xué)AI，這并不是什么秘密。

因此，可以得出結(jié)論，Hassabis和馬斯克都是對的。不受限制的AI發(fā)展是一個非常現(xiàn)實(shí)的危險(xiǎn)，但是用世界末日描述這個問題可能是杞人憂天（更像是一種干擾）。

然而，即使是Hassabis的合作伙伴和DeepMind聯(lián)合創(chuàng)始人Shane Legg也認(rèn)為AI技術(shù)將導(dǎo)致人類滅絕。

AI在短期內(nèi)為人民帶來了巨大的好處，然而，參與機(jī)器人標(biāo)準(zhǔn)的討論和對話從而制定相關(guān)標(biāo)準(zhǔn)也非常重要。

這意味著現(xiàn)在就應(yīng)該擬定協(xié)議來管理人工智能和機(jī)器人，而不是在他們獲得卓越智能之后。因此，在人工智能中加入毀滅開關(guān)可能是一個好主意，但是全球管理機(jī)構(gòu)也必須回答一些道德問題。

比如，AI應(yīng)該像人類一樣獲得權(quán)利嗎？更重要的是，當(dāng)AI造成傷害時，誰應(yīng)該承擔(dān)責(zé)任？

AI、機(jī)器人以及機(jī)器人定律

科幻作家Isaac Asimov在20世紀(jì)中期就考慮過這些事情。他建議實(shí)施以下機(jī)器人三大定律，以確保對人類的保護(hù)。

第一定律：機(jī)器人不得傷害人類或坐視人類遭受危險(xiǎn)而袖手不管。第二定律：機(jī)器人必須始終服從人類的命令，當(dāng)該命令與第一定律沖突時例外。

第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己。雖然這些虛構(gòu)的法則可能會讓人想起阿諾德·施瓦辛格和終結(jié)者第一部，但可能是一個很好的起點(diǎn)。

馬斯克對于的AI恐懼并沒有被忽視。事實(shí)上，許多組織正在就系統(tǒng)地管理AI做出努力。亞馬遜、Facebook、谷歌、IBM、微軟等公司已經(jīng)共同成立了AI合作組織（Partnership on Artificial Intelligence to Benefit People and Society）。Orwellian-sounding團(tuán)隊(duì)希望在研發(fā)AI和機(jī)器人技術(shù)最佳實(shí)踐的同時經(jīng)營一個開放式平臺，以鼓勵人們對該主題進(jìn)行廣泛討論。此外，美國政府去年發(fā)布了自動駕駛汽車指南。

世界上最古老的兩個科學(xué)組織——英國皇家學(xué)會和英國國家學(xué)術(shù)院——也發(fā)表了一份報(bào)告，呼吁建立一個國家機(jī)構(gòu)，以管理AI的進(jìn)化發(fā)展。可以肯定的是，盡管許多人不像馬斯克那樣激進(jìn)，但是這些日益增長的擔(dān)憂在世界范圍內(nèi)得到了共識。

然而，人們?nèi)匀淮嬖谠S多分歧，因此我們?nèi)晕淳腿绾螌?shí)施達(dá)成任何協(xié)議。人們對機(jī)器人標(biāo)準(zhǔn)同樣也未達(dá)成共識，所以我們只能拭目以待最終結(jié)果。

有一件事是肯定的：這次討論生正逢時，而且世界上的許多偉大思想都已經(jīng)參與其中。我們朝著正確方向邁出了一步，希望能夠推動毀滅開關(guān)理論和最佳實(shí)踐向前發(fā)展。

DevicePlus 編輯團(tuán)隊(duì)

設(shè)備升級版適用于所有熱愛電子和機(jī)電一體化的人。

審核編輯黃宇