歐盟委員會（European Commission）4月21日發(fā)表了一份提案，要求對歐盟人工智能的使用進(jìn)行監(jiān)管，這是其作為全球監(jiān)管機(jī)構(gòu)正在發(fā)揮的作用的一部分。

事情不會在一夜之間改變。歐盟的人工智能規(guī)則提案是官員、行業(yè)專家和公眾協(xié)商三年工作的結(jié)果，必須通過歐洲議會的要求才能成為法律。然后，歐盟成員國往往需要數(shù)年時間才能將歐盟層面的法規(guī)轉(zhuǎn)變?yōu)閲曳煞ㄒ?guī)。

該提案為人工智能相關(guān)活動定義了四個層次，并為每個層次定義了不同的監(jiān)督級別。第一層是不可接受的風(fēng)險：一些人工智能的使用將在公共場所被徹底禁止，國家法律允許的特定例外情況除外，并受到額外的監(jiān)督和更嚴(yán)格的記錄和人為監(jiān)督。最受關(guān)注的人工智能活動可能是實(shí)時遠(yuǎn)程生物識別，即面部識別。該提案還禁止?jié)撘庾R行為修改和社會評分應(yīng)用。該提案建議對商業(yè)違規(guī)者處以相當(dāng)于其全部年收入6%的罰款。這是迄今為止監(jiān)管人工智能高風(fēng)險應(yīng)用的最大努力之一。

該提案下一步定義了一個高風(fēng)險類別，由系統(tǒng)的目的以及潛在的危害和可能性決定。提案中列舉的例子包括招聘、信用檢查和司法系統(tǒng)。這些規(guī)則將要求此類人工智能應(yīng)用程序使用高質(zhì)量的數(shù)據(jù)集，記錄其可追溯性，與用戶共享信息，并考慮到人為的監(jiān)督。歐盟將根據(jù)擬議的規(guī)則建立一個此類系統(tǒng)的中央登記冊，并在部署前要求獲得批準(zhǔn)。

風(fēng)險有限的場景包括聊天機(jī)器人等，歐盟建議應(yīng)讓用戶知曉自己在與機(jī)器互動，并有權(quán)決定繼續(xù)對話還是退出。最后還有一層應(yīng)用程序被判斷為風(fēng)險最小，其應(yīng)用場景包括基于人工智能的電子游戲和垃圾郵件識別軟件等。

當(dāng)政府提出新規(guī)則手冊（這本是108頁）時經(jīng)常發(fā)生的情況是，行業(yè)和民間社會團(tuán)體的最初反應(yīng)似乎更多地是關(guān)于行業(yè)監(jiān)督的存在和范圍，而不是規(guī)則的具體內(nèi)容。英國牛津大學(xué)和德國柏林Weizenbaum研究所的人工智能治理研究員Lisa Maria Neudert說：“我認(rèn)為這項監(jiān)管措施背后的一個想法是試圖平衡風(fēng)險，讓人們對人工智能感到興奮，重新獲得信任。”英國勞埃德注冊基金會（Lloyds Register Foundation）2019年的一項民意調(diào)查發(fā)現(xiàn)，全球公眾對人工智能的恐懼和興奮大致相當(dāng)。

“我可以想象，如果你有一個經(jīng)驗(yàn)豐富的大型法律團(tuán)隊，這可能會有所幫助，”Neudert說，以幫助合規(guī)，這可能是“一個很難達(dá)成的平衡”之間的規(guī)則，保持創(chuàng)業(yè)友好和成功地控制大公司。

人工智能研究人員Mona Sloane和Andrea Renda在《VentureBeat》一書中寫道，這些規(guī)則在人工智能獲得批準(zhǔn)和發(fā)布后，對其運(yùn)行情況的監(jiān)控較弱，忽視了“人工智能相關(guān)風(fēng)險的一個關(guān)鍵特征：它是普遍存在的，而且是突發(fā)的，通常在開發(fā)和部署后以不可預(yù)測的方式演變”。

2018年歐盟出臺的新隱私法《一般數(shù)據(jù)保護(hù)條例（General Data Protection Regulation，GDPR）》為廣泛適用的數(shù)據(jù)監(jiān)管規(guī)則提供了模板，并以高額罰款作為支撐，歐洲已經(jīng)從中吸取了教訓(xùn)。

Neudert說：“我認(rèn)為我們不應(yīng)該（從GDPR到擬議的人工智能規(guī)則）一概而論，但可以公平地假設(shè)，這么大一部分立法將在歐盟以外產(chǎn)生影響。”對于其他地方的立法者來說，仿效一個模板要比復(fù)制歐盟在研究、社區(qū)參與和規(guī)則制定方面的大量投資容易得多。

雖然科技公司及其行業(yè)團(tuán)體可能會抱怨需要遵守早期的人工智能規(guī)則，《注冊》專欄作家Rupert Goodwin建議，他們最好集中精力組建一些行業(yè)組織，這些組織將決定未來規(guī)則的履行和實(shí)施：“你可能已經(jīng)在一個行業(yè)組織中從事人工智能道德或評估；如果不是，那就把它們看作是影響成長的種子。”

除了法律框架外，歐委會當(dāng)天還公布了針對機(jī)器人、3D打印機(jī)等的人工智能機(jī)器條例，以及人工智能協(xié)調(diào)計劃，旨在加強(qiáng)對人工智能研發(fā)的鼓勵和扶持。這套政策建議尚需經(jīng)過歐洲議會和歐盟理事會批準(zhǔn)。

原文標(biāo)題：歐盟提出AI監(jiān)管新法案

文章出處：【微信公眾號：IEEE電氣電子工程師】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq