日前，26位專家學者就人工智能安全問題聯合發布了一份報告，這份名為《人工智能的惡意用途：預測、預防和緩解》的報告，呼吁大家關注危險人工智能的崛起，并為之做好充分的準備。

報告指出惡意利用人工智能將導致潛在的安全威脅，并提出了多種預測、預防和緩解威脅的方式建議。報告分析了在未來5到10年內，人工智能在數字安全、物理安全和政治安全領域可能產生的影響，并向研究者等領域相關人員提出了四條應對建議。此外，報告還提及了多個有前景的研究領域，以促進人工智能安全問題的防治解決。最后，報告還討論了安全行為中攻守雙方的平衡問題，但未提出明確的解決方案。

本次報告撰寫者來自于14家頂尖人工智能研究及安全組織，它們包括：非營利組織OpenAI（不久前Open AI宣布聯合創始人Elon Musk將離開董事會，但會繼續為該組織提供支持和建議）、劍橋大學生存風險研究中心（CSER）、牛津大學人類未來研究所（FHI）、新美國安全中心（CNAS）、電子前沿基金會（EFF）等。

關于人工智能的分析報告不少，如白宮出臺的《國家人工智能研究與發展策略規劃》、我國四部委聯合發印的《“互聯網+”人工智能三年行動實施方案》、烏鎮智庫推出的《烏鎮指數：全球人工智能發展報告2017》等等。但這些報告更多地側重于人工智能的光明前景，而撰寫此次報告的專家們卻認為：

人們對人工智能被惡意使用的方式與可能性，

從未給予過足夠重視，這是值得擔憂的。

烏鎮報告中的人工智能領域大學排名（Top20）

人工智能將如何影響現有的安全格局

1、人工智能會擴大現有的安全威脅。通過AI系統的拓展使用，那些通常需要人力、智力和專業知識的任務將更容易完成，令攻擊成本大大降低。這會直接導致被攻擊人群的范圍迅速擴大，增加更多可攻擊的潛在目標，其攻擊速度也會攀升。

2、人工智能會引入新的安全威脅。通過 AI 系統，攻擊者可以完成以往難以做到的新型安全攻擊。另一方面，所開發的AI系統本身也會因為開發漏洞而增加被攻擊利用的可能。

3、人工智能會改變安全威脅的典型特征。伴隨著AI的迅速普及應用，安全攻擊將會更加高效、富于針對性，并且難以溯因防守。這將很大程度上改變網絡安全問題的相關特征。

人工智能的應用前景

報告中還詳細分析了數字安全、物理安全和政治安全這三個領域，并通過一些代表性的例子說明了其中潛在的安全威脅：

數字安全：傳統的網絡攻擊任務中，攻擊規模和攻擊效率之間往往不能兩全，而使用AI來執行這些任務，將突破這一局限。比如，它會增大“勞動密集型”網絡攻擊（如魚叉式網絡釣魚）的威脅程度。此外，人工智能還會促成各種新型安全攻擊：利用人類弱點，例如通過語音合成進行身份冒充；利用現有的軟件漏洞進行自動黑客攻擊；通過對抗性樣本和數據下毒攻擊AI系統，等等。

物理安全：使用AI來自動執行如無人機或其他物理系統（如自主武器系統）有關的攻擊任務。此外，AI也可能會催生新型的攻擊方式，包括破壞物理網絡（如導致自動駕駛車輛癱瘓故障）、可實現遠程入侵的物理系統（如成千上萬的微型無人機）。

政治安全：使用AI進行自動地監控（如分析所收集的數據）、勸誘（如有針對性地宣傳）、欺詐（如竄改影像資料），這可能會導致更嚴重的隱私侵犯和社交操縱。此外，利用AI的學習能力，在現有數據的基礎上，分析掌握人們的行為、情緒、信念，這也是一大潛在危險。這些手段被威權國家采用將尤其令人憂心。當然，不可否認，它也會同時危及民主國家（如是否還能保證公開辯論的真實性）。

Musk領導的特斯拉正在積極推進無人駕駛技術

為應對這些威脅挑戰，報告提出了四項建議：

密切合作：決策者應與技術研究人員保持密切合作，防止人工智能被惡意應用。

嚴陣以待：人工智能領域的相關人員應審慎對待他們工作的雙重性，并在有害應用可預見時迅速采取措施，積極與相關行為者接觸。

制定方案：應采用更多成熟的方案，以便在研究領域確立最佳的實踐方法，來解決AI的雙刃劍問題。就像解決計算機安全一樣來考慮哪些地方可以應用 AI。

擴大討論：積極拓寬該討論的參與者范圍。

質疑炒作

對于這份報告，Gigaom網站評論員Jon Collins認為，它缺乏對風險的“性質討論”，他批評道：“……風險是個數學結構，是概率和影響的產物。而報告里卻一而再地使用‘好像是’等字眼來描述AI的進程、潛在目標和預期結果。好像除此之外，報告別無他物。”

他提到，報告很好地進入了公共輿論，這是它值得稱道的地方。但是這還遠遠不夠的，因為AI周圍早已布滿了“炒作與反炒作”。他指出：

報告給出的分析、建議實際上都在指引著更多的資源流向AI領域，而這是學者和咨詢公司常用的一種策略。

“也許第四個建議才最能說明問題，即他們在尋求更多人的關注和參與”，Jon Collins評論道。