AI的達摩克利斯之劍：隱私與安全的遠慮近憂?

中國已經成為世界上人工智能發展最快的國家之一，部分指標已居于世界領先地位。但在AI飛速發展的過程中，技術作為雙刃劍引發的副作用同樣也不可忽視。

諸如《銀河漫游》《星際穿越》等一些科幻電影中，機器發展到一定階段往往人和產生紛繁的利益糾葛，甚至造成不可挽回的生化危機。

假設AI發展到可以取代人的部分功能時，其可能引起的安全與倫理爭議成為我們現在不可以回避的問題。

我們現在該如何界定人工智能？人工智能應該在怎樣安全的框架下發展？怎樣才是理想的人工智能準則？

論道AI安全與倫理主題沙龍在清華科技園成功舉辦。來自AI屆的網紅大佬中國科學院院士、清華大學人工智能研究院院長張鈸，中國人民大學高瓴人工智能學院院長文繼榮，搜狐網產品技術總監楊田博士展開了熱烈的思辨。此外，清華大學副教授劉知遠，搜狐集團招聘負責人付卓艷也作為嘉賓參加了本次會議，一起探尋AI安全與倫理等問題的解決之道。

目前離真正想象的AI狀態還較遠

張鈸院士表示，我們一直認為機器如果發展到和人類不相上下的地步是很遙遠的，盡管人工智能技術看起來并不是十分智能，但是已給我們帶來很大的危險性。

因此，人工智能究竟應該如何發展？有了這些技術我們如何用？

“什么叫做情感，什么叫美，美是主觀的還是客觀的。實際很多東西涉及到哲學上的考慮。人工智能發展如果一個新思路的發展，其實哲學應該走在最前面。大家不要認為這些都是無稽之談，實際它背后包含哲學的思考，這些思考我們相對來講做科學的人做技術的人特別做工程的人考慮很少。” 張鈸院士說。

從目前的產品角度，楊田博士表示現在實際看到的人工智能產品，和我們理想的人工智能差距還比較大大。

“現在感知到的人工智能產品基本都是由最優化問題衍生出來的，像張院士所說，我們現階段想讓人工智能具備人一樣的情感，作為人工智能的訓練者我們這些人本身也不知道情感究竟是什么，人是怎么樣表達的，所以可以肯定的是，至少現在我們不能夠訓練出一個人工智能的機器具有跟人一樣的情感。”

雖然目前做出具有人類情感的AI還比較遙遠，但是要用機器模擬出人的現象和行為，以現在的技術來說卻基本可以實現。被人工智能的機器去利用弱點，反過來被機器所影響的風險極有可能發生。

AI的遠慮和近憂

雖然離真正想象的AI狀態還較遠，但人工智能在發展的過程中已經引發了安全、倫理、道德等問題。

針對對AI倫理相關的考量，加拿大發布了《蒙特利爾宣言》，歐盟發布了《可信賴的AI倫理準則》，澳大利亞發布《人工智能發展政策指導》，北京智源實驗室為首發布《人工智能北京共識》，以探討AI的發展在技術之外還有什么重要的因素需要考量。

文繼榮院長表示，現在人工智能面臨兩大問題，一是深度學習涉及的黑箱問題。“現在存在這種情況，拿一個數據在GPU上面跑，一堆復雜的模型，誰也搞不懂是什么東西，將來不可控制。”

“這件事情其實有很大的隱患，我們訓練的模型都是好心，大家沒有什么惡意，但是訓練出來的模型拿去做一件事情，可能里面有不可控的因素，這是其一。”

其二，高級的人工智能會在應用過程中有自學習功能，會自我計劃、自我學習，這個過程中也會有很多不可控的危險。

他舉例說，微軟研究院做了一個對話機器人小冰，中文版發布的時候叫小冰是個女孩，后來做了一個英文版，是男生，大概兩天三天就下線了，為什么？它在兩三天以后發表很多種族主義的言論。

小冰就是用大數據訓練出來的看起來很智能的機器人，實際上它是在自學習。在剛剛一上線的時候，很多人開始利用這點訓練小冰，因此它就學到了。

張鈸院士表示，宣言里實際包含兩個問題，分別是遠慮和近憂。

從遠慮角度來說，現在有兩種路線，一種路線是我們希望發明出來的機器將來所有事都讓它干，所有決策都讓它做。這個思路非常危險，“你將來的命運實際是操縱在機器人手里。”

我們現在發展人工智能完全要建立人機和諧、人機共處、人機協作的未來，我們發展機器人的時候包括發展人工智能都要考慮到，哪些事情讓機器做，哪些事情讓人類做。

而近憂就在眼前，例如無意產生的語音合成。“本來想做一個服務器講出來的語言和自然人一樣，原來是好心做這個的，但是技術雙刃劍也會去用做壞事，但是有意的有沒有？絕對有。”

選擇保護隱私還是公眾安全

人工智能發展到一定階段，總是面臨著隱私和安全的沖突和平衡。

以加州為例，其通過了最嚴格的隱私保護法，任何在公共場合用攝像頭照人得到的照片都不允許被使用，甚至警察抓罪犯也不能調用。

而我們在安全和隱私這兩個緯度應該做怎樣一個選擇？

張鈸院士表示：更重視隱私呢還是更重視公共利益？是如何平衡的問題。西方強調的隱私不見得對，我們過分強調公共利益也不對，這只是兩個極端而已，不存在誰對誰錯，而在于誰把這個平衡做得更好。

“個人利益和公共利益有些時候是矛盾的，我如何平衡？按照中國的世界觀和價值觀比較強調公共利益，按西方的價值觀比較強調個人利益，個人利益神圣不可侵犯，有這條憲法約定。

比如裝攝像頭，我們裝攝像頭對社會帶來多大的好處？比如抓逃犯，我主張罪犯要抓，如果影響到公共利益該抓就抓，個人要做點犧牲，這個是中國的哲學、中國的價值觀，西方是不接受這種價值觀的。”

清華大學教授唐杰則提到了分級問題，對于人工智能目前的發展狀態是否需要未雨綢繆，像自動駕駛一樣分級，在哪個領域隱私保護里面需要做到什么級別，需要探討分級這個問題。

楊田博士則表示：“我們到處裝攝像頭，侵犯了公民的隱私權。另一方面，在座的所有人或多或少都從所謂的個性化推薦上面獲得了便利，個性化推薦也可以理解為向系統出賣了我們的隱私換來了生活的便利。

而這里面的邊界在不在于攝像頭，不在于數據采集，而在于這件事或者數據采集它能不能作為對行為不當的一種證據。這個是很細致的問題，本身不應該由圖象采集這件事情來承擔。”

而對于人工智能的隱私，倫理等問題，學校和研究所應該做什么？企業應該做什么？還需要大家一起去探索。