??人類的力量是有限的，未來機器必將會代替目前人類所能做的任何事。到那個時候，人類又將何去何從。有人提出，要想不被器取代，我們必須有所防備。

????????? 史蒂芬·霍金曾說，“全面化人工智能可能意味著人類的終結?！彼J為，機器可以自行啟動，并且自動對自身進行重新設計，速率也會越來越快。而受到漫長的生物進化歷程的限制，人類無法與之競爭，終將被取代。

　　霍金的預言是否會成真并不重要，重要的是他在提醒我們要對人工智能進行管控。在算法和數據高速發展的當下，社會生活的各方面都在悄無聲息地與人工智能發生聯系。誠然，人工智能給我們的生活帶來了極大的便利，但完全依賴人工智能，人類將如何自處？面對人工智能可能會帶來的不利后果，我們又該做些什么來對其進行規避？

　　日前安理律師事務所合伙人、互聯網法律專家王新銳從理論和實操兩個層面出發，提出了AI監管的思路，并著重強調了數據保護問題。

　　很多人覺得AI的法律和監管問題離我們還比較遠，但我們在實務中其實已經接觸到很多跟人工智能相關的法律問題，其中既有比較具有普遍意義但抽象的問題，比如產生糾紛時雙方舉證責任和賠償責任的分配原則;也有比較具體、個性化的問題，比如用于訓練算法的數據集的一些知識產權問題。這些問題在具體的語境下，也許是有解的，也許是無解的，但如果把這些問題串在一起看，至少會觀察到，人工智能技術對很多行業的影響越來越大，產生了新的利益和風險，也需要新的規則。

　　我把實務中遇到的AI法律問題分為兩大類：算法和數據。按照人工智能產業的普遍看法，大數據是人工智能快速發展的基礎。其中數據在法律上是一個很宏大的問題，并非人工智能領域所獨有，其中對于個人信息和隱私保護很多國家都有相對成熟的立法和監管機制，中國在《網絡安全法》出臺后也進一步加強了對個人信息的保護;而數據權屬問題在全球范圍內也沒有達成共識，爭議很大;除此以外，數據的保密和公開以及跨境傳輸，也有一些復雜的規則。而算法的監管問題在法律上則更為前沿，舉個例子，歐盟制定了《通用數據保護條例》（GDPR），其中規定歐盟國家公民將有權要求“審查某項特定服務中如何做出特定算法決策”，這對算法影響非常大，具體如何落地，可能會引發監管機構和人工智能公司之間的沖突。

　　我認為在人工智能發展早期的很多因技術bug產生的問題并不是那么重要（盡管很容易被新聞媒體夸大），因為從長遠來看，這些問題會隨著技術發展自然而然地解決掉，監管和法律介入的必要性也不是很大。而重要的是大的框架，也就是人工智能中數據和算法的監管、立法等問題，這些不達成共識，行業發展到一定階段就會受阻，影響公眾對人工智能的信任和接受。

　　事前、事中、事后監管

　　人工智能的邊界到底哪里？我認為在可能出現重大危機或者影響人類利益的場景下，要實現對算法和數據的約束。對人工智能的監管思路，從實務或者理論架構來看有三個方面：

　　第一，對于事后結果的監管。雖然現在深度學習只能是機器學習的一小塊，甚至連1%都沒有，但是我們必須承認深度學習的推動作用。算法和數據有時候像個黑盒子，我們不確切的知道里面發生了什么事情，但是我們仍然可以對結果進行監管，或者通過嚴格責任追究開發者的法律責任。

　　第二，對于數據采集進行事中監管。比如美國建立了禁止數據采集的負面清單，中國人民銀行在關于征信的相關法規中對于不同人群和機構能采集什么數據也有規定。哪些數據不適合提供給人工智能公司，或不允許用于人工智能，也是需要研究的。

　　第三，在采集行為發生前，從根上避免一些不宜公開的數據被采集。比如，犯罪記錄數據的采集。在很多國家，包括中國，犯罪記錄既是個人信息，也是管理信息，超過一定犯罪期限內的數據不能隨便公開，更不要說未成年人信息。

　　現在發展很快的人臉識別技術和指紋識別最大的區別在于，人臉識別不需要接觸就可以實現，那么人臉識別數據采集環節怎么進行約束是值得考慮的問題。

　　決策權不能完全交給機器

　　人工智能在開發過程中需要考慮不同場景下的不同影響，并有所區別，有時需要預先設置黑名單或白名單。以智能音箱為例，國外就有因為算法對指令的識別有誤而直接播放色情內容給小孩的案例，所以對于直接提供給未成年人的東西就需要限制，這樣才不會引起家長和社會的恐慌，否則也會招致批量的法律糾紛。

　　而在某些關系重大的場景中，做決策不能單純依靠人工智能。中國最早發布人工智能相關規范的就是衛計委，因為即便人工智能對醫療有很大的幫助（這一點已有較多的實例支持），但決策權依然不能完全交給機器，因為責任是由醫生來承擔的。醫學倫理問題更加復雜，不能用簡單的標準化程式解決，更不可能交給機器來判斷。衛計委今年出臺四個技術規范，這是關注人工智能邊界的體現。

　　更公平的AI也是可追責的AI，在不同的場景和階段采用不同的方法，對新技術的應用進行約束。那么法律干預的必要性在什么地方？這可能是需要思考和解決的問題。