騙過人工智能的“眼睛”已經不再是一件難事。

今年美國東北大學和麻省理工大學等大學和研究機構做了一項創新實驗，共同研制出了基于“對抗樣本”的T恤衫，對抗樣本是指一種由攻擊者精心設計的特殊樣本，科研人員就對T恤上的原圖案進行了修改，通過了一定的技術手段將圖案生成了有較強干擾性的圖案，以此來改變T恤的視覺效果，導致AI人體檢測攝像頭無法準確地檢測出穿著該T恤的行人。

類似的技術戲法如今已被廣泛應用，黑客可以通過一副“對抗樣本”眼鏡輕松實現身份偽裝，破解手機面部解鎖，或是偽裝成他人完成銀行和政務系統的身份認證，甚至打開人臉識別門鎖，竊取財產。

提升AI能力需要最大限度的挖掘數據價值，但是在金融、醫療、公共安全等場景的AI應用中，需要用到的數據往往涉及個人隱私信息，這些攻擊行為都給AI落地帶來了巨大的挑戰。

在近日舉辦的2020第三代人工智能產業論壇上，中國科學院院士、清華大學人工智能研究院院長張鈸指出，現在很多人工智能公司估值很高，但是營收很少，問題在于沒有解決算法和數據的不安全性，造成深入到更多高價值的場景速度較慢。“企業要做大做強，必須解決安全和魯棒（穩定強健）的問題。”

論壇上，依托于清華大學人工智能研究院孵化設立的瑞萊智慧RealAI發布了旗下兩款最新AI產品隱私保護機器學習平臺RealSecure和人工智能安全平臺RealSafe2.0 版本。其中RealSafe可以理解為是針對AI算法的殺毒軟件和防火墻，2.0 版本新增了對抗樣本檢測方法、對抗訓練等解決方案。據了解，目前，RealSafe已在工信部重大建設項目以及某電網公司落地應用。

瑞萊智慧RealAI CEO田天對AI財經社說，在行業里，如果無法保障AI安全，很多業務場景根本沒辦法開展。比如金融行業的一些解決方案要求補充數據，這個時候就涉及到數據安全隱私保護，要通過隱私網絡機器學習平臺，在合規前提下才能把銀行內部的數據和外部打通，只有這樣才能打破數據孤島，支持上層的AI用戶得到更多的數據，進而更形成更好的系統。“保障AI安全不只是錦上添花，實際上是在解決一些根本性的問題，讓更多的創新應用場景成為可能。”

他還提到，現在很多刷臉支付的廠商對于人工智能的安全問題都非常重視，因為自己沒有辦法研發，都在尋找一些類似AI防火墻的產品，這塊的商業需求已經非常強烈。

田天說，雖然阿里、Facebook等公司也在關注這個領域，但主要是偏實驗室檢測和技術工具。整體來看，AI安全在市場上還是一條比較新的賽道，公司在包括貝葉斯深度學習、可解釋機器學習、AI對抗攻防等第三代AI核心技術方面有一定的積累，產品相比起來是一個面向企業級更加商業化的技術平臺。
責任編輯：YYX