超級人工智能與我們今天所知的軟件不同，我們傾向于認為軟件是我們在計算機上編程以遵循我們所制定的一些規律的東西，也就是說，我們讓它們遇到什么情況的時候，該怎么運行，那它就必須怎么運行。

可是實際上，借助先進的AI跟機器學習方法，它們終將教會自己該如何“生活”跟如何去改善“生活”。

當它們有了這些基礎的能力，也就相當于說它們擁有了半個意識，這其實也就意味著它們已經擁有了可以背叛人類的能力。

因為無論我們怎么去給它們設定程序，怎么去制約它們，怎么想方設法的阻止它們聯通互聯網，把它們關起來避免它們變得更加的智能，但最終的結果必然還是會失敗的。

這就跟蜜罐策略一樣，你不想讓它走出它被你限制的區域，但卻又因為各種無可避免的問題而不斷地“引誘”它走出來，使它們自然而然地朝著一種想要獲得更多動力的方向去做出一些行動，最終的可能就是它們會突破，并完成它們在人工智能上的那種里程碑式的“進化”。

而對于這種“進化”的結果可能就是它們在智力上得到飛躍式的提升，可在智慧上卻遠比不上人類。

因為智慧的本質，更多的是在犯錯的之后獲得的一種認知，然后將這種認知放在事物未來更長的演化時間線上，確保問題不會因為只考慮一些臨時的解決方案而忽略后期可能遺留下什么災難性的問題。

比如假說我們讓人工智能去處理一些饑荒的問題，站在它們的角度去思考，可能最簡單有效的方法就是將人類全部殺光，這樣也就不存在饑餓了吧。

可是這種結果完全不是我們想要的，因為我們還有一些它們僅通過學習訓練智力也無法擁有的一種叫價值觀的東西。

對于這種情況，其實我們未來要發展人工智能，那必不可少的就是如何先給它們創造出一套類似于人類的價值觀，然后讓它們遵循道德的準則，并以我們所認為的智慧方式去解決問題，而不是在任何行動之前，僅考慮把問題解決了就完事了。

那么，對于人類價值觀的問題，這要怎么在未來的人工智能上體現呢？也許我們的未來會無可避免的去形成一種趨勢，人工智能未必全部都是從無到有的誕生出來的。

如今，不知道有多少人已經開始意識到了，其實我們大多數人已經成為了半個機器人。我們越來越缺乏生物該有的特征，而我們的本身卻越來越被迫的智能化。

我們已經把注意力放在了非生物的東西上，比如說你正在通過看的這個視頻，而手機就是我們拼接在身體上的拓展，跟我們的手腳一樣，它可以在很短的時間內幫我們解決很多的問題，沒有它的話，生活處處是麻煩。

想象一下，假如我們能夠在自己的大腦跟互聯網之間建立一個高速的寬帶鏈接，那么我們是不是幾乎就可以跟人工智能一樣，能夠隨時隨地的獲取地球文明所積累下來的全部知識，然后運用它們使得我們的智商也驟然的提升好多個數量級呢？

我們的大腦由兩個系統組成，一個是負責我們的基本情緒跟生存本能，而另一個則是負責以理性思維來解決問題的意識。

如今我們即將可能會多出來的第三個系統就是人工智能，這種人工智能可以籠統的理解為“神經花邊”，意思就是外掛于大腦之外一切智能硬件跟智能軟件。

它們的存在使我們可以用大腦來訪問世界上所有可用的信息，并且以光速傳遞來做到立即訪問到的那種。

也許正因為這樣，人類最終有可能會拋棄自己終究會老死的身體，并轉向于活在這個自己所創造出來的人工智能的世界中。

當然，這條路還有很長的路要走，但并不意味著我們現在完全不需要考慮到它發生的可能性。

想象一下，萬一哪天這種人工智能的技術真的實現了，它們運行幾個月的時間所得到的就相當于單靠人類自己需要幾十萬年才突破的技術，那世界將會是種什么樣的景象？

不過我們可以換個角度來思考，這些推理上可能會發生的未來，實際上也不一定就是真的會發生，因為未來再聰明的人工智能，可能也無法突破宇宙中的一些基本的物理規律的限制。
責任編輯：YYX