日前，人民智庫(kù)與曠視AI治理研究院成立聯(lián)合課題組，邀請(qǐng)中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)為課題支持，共同開展“2021 年度全球十大人工智能治理事件”遴選、評(píng)議，過(guò)程中得到了許多位行業(yè)權(quán)威專家和企業(yè)代表的大力支持。

通過(guò)此次梳理總結(jié)，力圖從喧嘩的輿論聲音以及理性的專家點(diǎn)評(píng)中透析出 AI 治理未來(lái)發(fā)展趨勢(shì)，研判 AI 在各領(lǐng)域、各場(chǎng)景應(yīng)用的新空間、新作為，使其可控可靠可信服務(wù)于人類對(duì)科技改善生活、增進(jìn)福祉的美好愿景。

接下來(lái)我們將把各位專家針對(duì)具體事件的精彩點(diǎn)評(píng)陸續(xù)發(fā)布出來(lái)，與所有 AI 從業(yè)者和關(guān)注負(fù)責(zé)任 AI 發(fā)展的朋友共勉。

事件五、強(qiáng)化算法綜合治理，防范算法濫用風(fēng)險(xiǎn)，用戶可選擇關(guān)閉算法推薦

案例描述

2021 年 9 月底，九部委印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，要求防范算法濫用風(fēng)險(xiǎn)，維護(hù)網(wǎng)絡(luò)空間傳播秩序、市場(chǎng)秩序和社會(huì)秩序。2021 年 8 月 27 日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》向社會(huì)公開征求意見，提出應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)等內(nèi)容。

專家點(diǎn)評(píng)

張凌寒 北京科技大學(xué)法學(xué)院副教授、國(guó)家人工智能倫理與道德標(biāo)準(zhǔn)小組成員

2021 年堪稱中國(guó)算法治理元年。2021 年伊始算法進(jìn)入監(jiān)管視野，監(jiān)管部門展開系列算法執(zhí)法活動(dòng)。世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件《算法推薦管理規(guī)定》出臺(tái)實(shí)施。《指導(dǎo)意見》宣布我國(guó)將在三年內(nèi)建立起算法綜合治理體系。歐盟和美國(guó)在數(shù)據(jù)保護(hù)立法領(lǐng)域走在了中國(guó)之前，算法規(guī)制方面中國(guó)則當(dāng)仁不讓地開世界先河。我國(guó)的算法治理體系以信息安全、市場(chǎng)競(jìng)爭(zhēng)秩序和消費(fèi)者權(quán)益保護(hù)為指導(dǎo)思想，《算法推薦管理規(guī)定》則確立了算法提供服務(wù)者的算法全生命流程監(jiān)管責(zé)任，并構(gòu)建了用戶權(quán)益，尤其是未成年人、老年人和平臺(tái)勞工等社會(huì)弱勢(shì)群體的保護(hù)制度。2021 年的算法綜合治理活動(dòng)與相關(guān)立法，使得我國(guó)率先建立了世界上最為完備的囊括數(shù)據(jù)安全、個(gè)人信息保護(hù)和算法安全的互聯(lián)網(wǎng)治理體系。

郭兵 浙江理工大學(xué)法政學(xué)院特聘副教授、杭州長(zhǎng)三角大數(shù)據(jù)研究院副院長(zhǎng)

當(dāng)前，算法推薦等技術(shù)已經(jīng)被廣泛應(yīng)用于電商平臺(tái)、新聞平臺(tái)、視聽平臺(tái)、社交平臺(tái)等諸多應(yīng)用場(chǎng)景中。算法推薦等技術(shù)為網(wǎng)絡(luò)用戶和網(wǎng)絡(luò)平臺(tái)帶來(lái)便利和經(jīng)濟(jì)利益的同時(shí)，也引發(fā)了一系列新的法律問(wèn)題。如果平衡好算法推薦等技術(shù)的創(chuàng)新發(fā)展與安全風(fēng)險(xiǎn)，成為了算法治理的一大難題。無(wú)論是已經(jīng)出臺(tái)的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，還是正在制定中的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》都是應(yīng)對(duì)算法濫用風(fēng)險(xiǎn)等難題的有益制度探索。

張軍平 復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、博士生導(dǎo)師

由于存在人工智能算法上的偏見以及有意操縱大數(shù)據(jù)的采集，算法有可能會(huì)誤導(dǎo)公民的輿論傾向，甚至打壓競(jìng)爭(zhēng)對(duì)手和侵害網(wǎng)民權(quán)益。因此，立法來(lái)杜絕這一事件，有利于公平化。

潘天群 南京大學(xué)哲學(xué)系教授、博導(dǎo)，南京大學(xué)科學(xué)技術(shù)與社會(huì)研究所所長(zhǎng)

當(dāng)前人們被各種網(wǎng)絡(luò)信息所包裹，這些輿論、信息影響并控制人們的情緒、認(rèn)知與行為。然而，這些輿論、信息等的產(chǎn)生、放大已經(jīng)不是“自然”的，它們是被背后的人和組織通過(guò)技術(shù)手段所操縱，通過(guò)這種操縱，操縱人們的情緒、思維、行為，從而達(dá)到某種目的——無(wú)下限獲利、打壓競(jìng)爭(zhēng)對(duì)手乃至實(shí)現(xiàn)某種政治目的。這種操縱已經(jīng)成了公害。該《意見》的出臺(tái)一定程度上能夠抑制信息的操控，但是這可能遠(yuǎn)遠(yuǎn)不夠。未來(lái)對(duì)網(wǎng)絡(luò)信息的治理任重道遠(yuǎn)。

徐英瑾 復(fù)旦大學(xué)哲學(xué)學(xué)院教授、博導(dǎo)

近年來(lái)中國(guó)的互聯(lián)網(wǎng)技術(shù)的發(fā)展的一個(gè)特點(diǎn)，即以免費(fèi)提供應(yīng)用軟件下載服務(wù)為交換，大量獲取網(wǎng)民的個(gè)人信息，而相關(guān)的互聯(lián)網(wǎng)公司又以相關(guān)信息為基礎(chǔ)，通過(guò)推送軟件的推送服務(wù)獲得更大的流量。這樣的做法所帶來(lái)的倫理上的負(fù)面效應(yīng)，便是加強(qiáng)了傳播學(xué)意義上的“信息繭房”效應(yīng)，使得廣大用戶無(wú)法從互聯(lián)網(wǎng)獲得全面客觀的信息。同時(shí)，這種做法也在客觀上威脅到了廣大用戶的隱私安全。國(guó)家網(wǎng)信辦的這一規(guī)定，使得廣大用戶能夠自主選擇不上傳自身的特定數(shù)據(jù)，以此保護(hù)網(wǎng)民的隱私。從倫理角度看，國(guó)家對(duì)于互聯(lián)網(wǎng)行業(yè)經(jīng)營(yíng)方式的這一干預(yù)是十分必要的。同時(shí)，這也為國(guó)內(nèi)互聯(lián)網(wǎng)公司對(duì)于基于大數(shù)據(jù)技術(shù)的人工智能開發(fā)路線敲響了警鐘。

事件六、自動(dòng)駕駛汽車 2021 年或?qū)⒃谟?guó)合法化

案例描述

英國(guó)《衛(wèi)報(bào)》報(bào)道，英國(guó)將推行計(jì)劃，允許安裝自動(dòng)車道保持系統(tǒng)(Alks)技術(shù)的新車型在沒有司機(jī)插手的情況下上路行駛。英國(guó)交通部長(zhǎng)麥克萊恩(Rachel Maclean)表示，這是“英國(guó)安全使用自動(dòng)駕駛車輛的一大進(jìn)步，它使未來(lái)的出行更加綠色、便捷和可靠。”

專家點(diǎn)評(píng)

聶長(zhǎng)海 南京大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授

這是人類邁出的一大步，必將推動(dòng)這個(gè)領(lǐng)域的更大進(jìn)步：除了道路等基礎(chǔ)設(shè)施建設(shè)、自動(dòng)駕駛汽車能力等自動(dòng)駕駛相關(guān)的技術(shù)的進(jìn)步，以此為示范和契機(jī)，將會(huì)帶動(dòng)更多的無(wú)人系統(tǒng)和自治系統(tǒng)的繁榮和發(fā)展。

寧陽(yáng) 華北電力大學(xué)教授

自動(dòng)駕駛汽車將在英國(guó)合法化，入選 2021 年全球十大人工智能治理事件，引起各方高度關(guān)注。這一方面標(biāo)志著自動(dòng)駕駛技術(shù)越來(lái)越走向成熟，它可能使未來(lái)出行變得更加綠色、便捷和可靠，并將促使道路交通和商業(yè)保險(xiǎn)等相關(guān)法規(guī)的重新修訂。但另一方面，也會(huì)帶來(lái)人們對(duì)于自動(dòng)駕駛安全性的擔(dān)憂和喪失駕駛體驗(yàn)感的顧慮，但不管對(duì)其作出何種評(píng)價(jià)，這無(wú)疑是一項(xiàng)嶄新的技術(shù)革命，自動(dòng)駕駛市場(chǎng)前景廣闊，自動(dòng)駕駛領(lǐng)域必將成為科技巨頭角逐的下一個(gè)行業(yè)藍(lán)海。

王飛躍 中國(guó)科學(xué)院自動(dòng)化研究所復(fù)雜系統(tǒng)管理與控制國(guó)家重點(diǎn)實(shí)驗(yàn)室主任、研究員

對(duì)于開放場(chǎng)景下的無(wú)人駕駛，歐美在法律制定、標(biāo)準(zhǔn)及政策等方面相比較中國(guó)更加靈活，而中國(guó)則因?yàn)閷?duì)監(jiān)管、人權(quán)和安全更加看重，目前仍處于「道路測(cè)試」或者「試運(yùn)營(yíng)」階段。但在提升行業(yè)智能化水平等需求的推動(dòng)下，在封閉或半封閉場(chǎng)景(如礦區(qū)、港口等)正在逐步落地?zé)o人駕駛，并已從技術(shù)上實(shí)現(xiàn)無(wú)安全員。

有人和無(wú)人駕駛的車輛共同上路面臨著工程復(fù)雜性和社會(huì)復(fù)雜性所帶來(lái)的巨大建模鴻溝。而通過(guò)平行駕駛，讓人工系統(tǒng)對(duì)真實(shí)世界車輛和道路建模，構(gòu)建軟件定義的車輛及車路系統(tǒng)，同時(shí)建立控制計(jì)算中心，對(duì)真實(shí)數(shù)據(jù)及虛擬數(shù)據(jù)進(jìn)行聯(lián)合優(yōu)化，虛實(shí)結(jié)合的方式保證無(wú)人駕駛的安全性，加速無(wú)人駕駛的商業(yè)化和規(guī)模化落地。

原文標(biāo)題：事件五、六專家觀點(diǎn) | 2021年度全球十大人工智能治理事件

文章出處：【微信公眾號(hào)：曠視MEGVII】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

審核編輯：湯梓紅