2019年1月8日，湛廬成功舉辦了“CHEERS2019·湛廬年度大會”。本文是電子科技大學(xué)教授、“數(shù)據(jù)少帥”周濤老師的演講內(nèi)容，他的分享以中立性、時效性、導(dǎo)向性、邊界性等4個大維度展開，由此叩問了4個亟待思考的大問題。在技術(shù)樂觀派和悲觀派都無所適從的當(dāng)下，他對于技術(shù)的警覺且樂觀充滿了敏銳的洞察力，發(fā)人深省。

（以下內(nèi)容據(jù)周濤現(xiàn)場演講記錄整理，速記及圖片來自湛廬閱讀）

我們現(xiàn)在處在信息爆炸的時代，全世界存儲的信息總量大概有16ZB，也就是1600萬PB，再過十年這個數(shù)字還會翻十倍以上，超過200ZB。

來源：現(xiàn)場PPT

擁有這么多數(shù)據(jù)并不代表我們能駕馭它，我們窮其一生都不可能把這些題目讀一遍。所以很大程度上我們依賴于各種各樣的信息中介，搜索得到的廣告推薦無一不是從這些平臺而來。所以，與其說我們是數(shù)據(jù)的駕馭者，不如說我們就像一個嬰兒，因為我們接受的是信息中介喂的一勺勺“食物”，我們不知道里面有多少營養(yǎng)，又有多少有害物質(zhì)。

人類花了幾百萬年的時間才適應(yīng)從樹上跳躍到用雙腳在大地上行走，但是人類從一個信息極度匱乏的時代，到現(xiàn)在信息高度富余的時代只經(jīng)歷了20年。我本人就是在2000年發(fā)出自己的第一封郵件。所以一個很重要的問題是：我們這個社會是否真正為所謂的大數(shù)據(jù)時代做好了準備。

今天我將從四個方面來談大數(shù)據(jù)和人工智能可能帶來的挑戰(zhàn)：

1.中立性

很多人認為技術(shù)總體來說是中立的，它理性、客觀、中立，沒有偏差，沒有歧視。但是實際并非如此。

舉個例子，60多年前，羅伯特·摩西斯在紐約做了中央花園的建設(shè)，在他的設(shè)計中，通向中央花園的長長的走廊的前邊有一個低矮的橋頭。那時美國大部分窮人和有色人種的出行方式都是公交車，但是公交車很高，沒有辦法從橋下開過去。這個看起來中立的設(shè)計，其實就使得紐約的中央花園基本變成了富人和白人的樂園。在當(dāng)時看來這種歧視是無處不在的，但現(xiàn)在我們來看這是不可容忍的歧視。所以一個設(shè)計即便是嵌入到城市中，它依然有可能帶來我們不容易發(fā)現(xiàn)的一種歧視。

來源：現(xiàn)場PPT

2018年初，有一篇文章講述了一個很有趣的故事，有人設(shè)計了一套推薦系統(tǒng)，這個系統(tǒng)專門給求職的人推薦一些高端的職位，但這個設(shè)計對女性來說是不公平的。在中國，薪水前1%的人群里面，每9個男人才有1個女人，而在美國這個數(shù)字是7：1，在日本這個數(shù)字是33：1。

這條系統(tǒng)最初的目的很簡單，就是盡可能讓推薦的職位和求職者互相匹配，最終實現(xiàn)一次成功的招聘。但是它很聰明，它超出了我們很多倫理和道德的約束，因為它自動認識到了性別這個特征非常重要，于是它自己知道，我要盡可能地向男性推薦這些高端職位，少向女性推薦。

在這個系統(tǒng)運行一年多后，開發(fā)者發(fā)現(xiàn)女性獲得高端職位的信息量比以前少了，這時他們才反省到，一個看起來越來越精確的系統(tǒng)，客觀上有可能讓女性獲得高端職位的可能性進一步降低。原來他們在獲得同等信息暴露的情況下，男女比例是7：1，如果聰明的計算機接管了這個推薦系統(tǒng)，未來比例可能在北美就不是7：1，而是10：1，15：1，20：1，所以一個善良的計算機的程序依然有可能導(dǎo)致不公正的結(jié)果。

來源：現(xiàn)場PPT

我從2007年開始就做推薦系統(tǒng)，在所有的廣告推薦中，一個很自然的維度就是要考慮用戶的價格敏感度——看他購買的東西在整個三級品類中的價格排名如何。如果你買了一支八千塊錢的萬寶龍的筆，那你肯定是富人；如果你買了一輛八千塊錢的二手奧拓汽車，那你肯定是窮人。

可以想象，隨著時間的推移，我們對信息中介的依賴越來越強，當(dāng)我們到了新城市，可能需要計算機推薦一條一日游的路線；當(dāng)我們要看慕課，計算機就會推薦課程，而這個時候，聰明的計算機會根據(jù)每個人的家庭出身和原有的學(xué)習(xí)情況等，做出不一樣的推薦。也就是說，富人和窮人有可能會抵達城市中不同的角落，學(xué)習(xí)不同的課程，在很小的時候就規(guī)劃不同的人生。

那么，數(shù)字化、信息化，甚至說大數(shù)據(jù)、人工智能發(fā)展五年、十年、二十年后呢，它們到底是會減弱不同階級間的鴻溝，還是在某些時候，某些場景，會加劇這種鴻溝？這是我希望大家去思考的第一個問題。

2.時效性

2013年我翻譯了《大數(shù)據(jù)時代》，書里面有一個故事，它講未來有可能很可怕，我們可能會為還未發(fā)出的罪行而付出代價，因為計算機提前預(yù)測你會犯罪，提前逮捕了你。

比如，美國國土安全局會根據(jù)一個人的面部長相、姓名、宗教信仰，以及過往的資金流，交通出行的軌跡、通話人的記錄，等等，來判斷一個人疑似***的可能性有多大。可汗就是一個非常典型的受害者，他實際上是一個無辜的人，但因為被視為高度***，每次他到機場都需要提前五個小時登機，因為他經(jīng)常會被安檢四個小時。

來源：現(xiàn)場PPT

如果說恐怖主義距離我們很遠，那大家可以想象一下酒駕。酒駕入刑在中國已經(jīng)有十年了，這意味著喝酒駕車就是犯罪，這個犯罪背后的法理是很必要的，就好像危害公共安全法是一樣的道理。酒駕并不是在全世界處處皆準，比如在瑞士，大家喝完啤酒開車很正常，這是一種生活方式。禁止酒駕某種意義上講給了我們更多的安全，但是犧牲了一種生活方式。

如果我們再往前走一點，假設(shè)二十年后，那時無人駕駛成為一種主流交通方式，我們完全相信，絕大部分交通事故，尤其是惡性交通事故應(yīng)該是由真人駕駛造成的。我想問大家，如果在座的各位接受了酒駕入刑，那么在二十年以后有沒有可能接受把真人駕車視為一種違法行為呢？這是我希望大家考慮的第二個問題——有多少安全舒適，多少對未來的焦慮，都要和我們當(dāng)前的生活模式做一個平衡。

上邊講的是為某種未來可能性付出代價，那么，反過來講，可能中學(xué)的時候我們因為一次沖動打架留下了不良的記錄；可能大學(xué)的時候我們?yōu)榱苏荩瑸榱速I部蘋果手機，借了校園貸卻沒有及時還款，那么，這些記錄就有可能在五年、十年后影響你申請購房貸款，影響你買車，甚至影響你的融資。

來源：現(xiàn)場PPT

中國有句古話說“浪子回頭金不換”，這是因為你的父母、親人和朋友能夠努力忘掉你的過去，相信有一個全新的你出現(xiàn)。人類之所以如此睿智就是因為懂得遺忘，甚至某些時候我們努力遺忘，但是計算機恰恰相反，它的特別能力就是永不遺忘，它能在五年、十年、五十年、一百年都保留著你過去的信息。

希望大家在時效性這個方向思考的問題是，如果我們有可能會為還沒有到來的未來提前付出代價，又有可能因為過去而影響我們的現(xiàn)在，那我們應(yīng)該做什么選擇？我們是不是只能夠戰(zhàn)戰(zhàn)兢兢，亦步亦趨地沿著所謂的主流價值觀前進？

大家應(yīng)該知道，中國最可怕的一件事情就是主流價值觀駕馭了一代又一代的人，我們的小孩從小就要讀重點小學(xué)、重點中學(xué)，然后是讀重點大學(xué)，去一流企業(yè)，考公務(wù)員，讀研究生，要活得像其他人眼中成功的樣子。這樣的主流價值觀已經(jīng)束縛了我這一代人，未來人工智能、大數(shù)據(jù)的發(fā)展是會像大家想象的一樣給我們帶來多樣性的世界，還是與之相反，會給我們更大的束縛？

3.導(dǎo)向性

為什么講這個？因為社會往前發(fā)展要有一個總的社會福利增加方向，但是計算機不一定這樣想問題。舉個簡單的例子，以前我們看新聞都是按點擊付費，所以會有很多標題黨，希望大家盡快點進去。大家看這張黃黃的圖片，是2017年某知名搜索網(wǎng)站圖片搜索第一名，題目叫做“黃色圖片”，但是我相信大家點開看到這張圖片恐怕是失望的。

來源：現(xiàn)場PPT

這種事情好解決，我們可以想辦法改變函數(shù)，使得計算機的目標，或者人工智能的目標，與人類的正常福利目標一致。比如說，不僅僅是點開率，還有點開新聞之后用戶在頁面停留的時間，這個頁面在第一窗口停留的時間，或者是微信轉(zhuǎn)發(fā)數(shù)、點贊數(shù)等等，這樣的話似乎矛盾就消失了。

但有時候這種矛盾是長期且不可能消失的。2014年，我們團隊有一位副教授到明尼蘇達大學(xué)做了一個聯(lián)合項目，是一款網(wǎng)絡(luò)游戲。一個問題是，當(dāng)資源有限時我們要如何分配這些資源，比如說，每天拿出價值十萬美元的裝備免費發(fā)給所有的玩家，那這些裝備給誰呢？這是一個典型的優(yōu)化問題，大規(guī)模機器學(xué)習(xí)的問題。

事實上，我們確實成功使得玩家們在游戲中花費的時間比之前增加了20%，現(xiàn)在國內(nèi)知名短視頻平臺也把用戶連續(xù)使用APP的時間，從原來的十幾分鐘提高到了三十多分鐘。

這些技術(shù)可以用在好的地方，比如在進行網(wǎng)絡(luò)課程學(xué)習(xí)的時候，計算機可以通過大家的行為分辨學(xué)習(xí)難點，找到學(xué)習(xí)重點，從而幫助大家更好的學(xué)習(xí)。當(dāng)這種技術(shù)被用在游戲和短視頻中，則使得用戶更沉迷其中，從商業(yè)角度來說是成功的，因為讓用戶更多的玩游戲，從用戶的角度來講也是成功的。當(dāng)我們硬幣的兩面都是成功的時候，就沒有任何力量站起來破壞這種成功。

所以，這是我希望大家思考的第三個問題，人工智能和大數(shù)據(jù)前進的方向可能會做到面面俱到，讓每一方都滿意，但是它不一定會給社會帶來福利。

4.邊界性

有些東西人工智能可以做，但是我們要思考要不要讓它做。

我們可以通過計算機識別人的表情，通過微表情和姿態(tài)，從而判斷你心中真實的想法。以前我們測謊要用腦電波、電極，再加上測試你的心跳、心率、脈搏、體表電解質(zhì)、導(dǎo)電水平，現(xiàn)在有一個技術(shù)叫做不接觸測謊，只用攝像頭看你，不需要用任何物理接觸，就能精確判斷你是不是在說謊。也就是說，人工智能實際上有一種能力，它比較容易判斷大家有沒有在說真話，它能夠判斷你是不是真喜歡他，相親對象對你有沒有好感，等等。

也許未來你只需要一個十塊錢的APP，再加上一個攝像頭，就能知道那個說喜歡你的男生是不是真的喜歡你。

來源：現(xiàn)場PPT

現(xiàn)在就回到一個問題，我們經(jīng)常說人類社會的基石是真相，我們需要真相。但從某種意義上講，我認為人類社會的基石不僅有真相，還要有謊言，沒有真相的社會不能想象，但沒有謊言的社會一定也是苦不堪言，相信各位應(yīng)該都已經(jīng)意識到謊言有多么重要。

如果人工智能讓我們沒有辦法說謊，那社會真的會繁榮，人們真的會幸福嗎？這是我希望大家考慮的第四個問題，我們到底要把能夠讓人工智能發(fā)揮作用的邊界畫在哪里？什么時候？哪些地方？

不管你來自哪個行業(yè)，一個以大數(shù)據(jù)為原材料，以智能算法為引擎的新科技時代呼之欲出，而且正在到來，希望大家充分擁抱這樣一個新時代。任何希望用傳統(tǒng)的資源去阻擋或者延遲新時代到來的人，都只可能成為舊時代的關(guān)門人和關(guān)燈者。

什么樣的好方法幫助大家盡快的進入新時代？就是湛廬文化韓焱剛才講的——做一個學(xué)習(xí)者，看那些走在世界最前沿的科學(xué)家、創(chuàng)業(yè)者，他們的理念和思考。

我個人非常欣賞一句話，“勝利總是青睞有準備的頭腦”。今天這個25分鐘的演講雖然不長，但希望能幫各位為即將到來的新時代做更早、更好、更充分的準備，從而成為新時代的勝利者！