女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

識別 AI 安全威脅

李萍 ? 來源:ZXH22770 ? 作者:ZXH22770 ? 2022-07-15 16:19 ? 次閱讀

人工智能 (AI) 的進步促進了各種自動化服務和自主系統;與此同時,針對人工智能的安全威脅也在迅速演變。為了幫助開發基于 AI 的安全服務和系統,歐洲電信標準協會 (ETSI) 保護人工智能行業規范組 (ISG SAI) 分析了保護 AI的問題和相應的緩解措施;最近發布了兩個小組報告。

ML 的生命周期在 ETSI ISG SAI GR-004報告中捕獲,如圖 1 所示。積極研究實施和部署的安全影響。該報告還確定并描述了四種攻擊類型,以提高人們對潛在安全威脅的認識。ETSI ISG SAI GR-005報告中也對現有緩解措施進行了分析和總結。根據所解決的 AI 模型是否被部署的緩解措施修改,它們被分類為模型增強和模型無關。因此,服務開發者或系統部署者可以根據具體的應用場景來定義他們的緩解策略。

pYYBAGLO9G-AWsViAA16NdO1q6c231.png


圖 1:典型的機器學習生命周期,ETSI SAI GR-004。(來源:ETSI)

中毒攻擊

一種特定類型的已識別攻擊稱為中毒攻擊,它會操縱訓練數據以降低基于 AI 的服務的性能。此外,此類攻擊可能會降低系統的整體性能或允許某些預期的錯誤分類。中毒攻擊的歷史可以追溯到早期的垃圾郵件過濾服務。啟用人工智能的反垃圾郵件過濾器不斷從電子郵件收件人的反應中學習,以改進過濾功能。電子郵件收件人可以將正常電子郵件標記為垃圾郵件或將錯誤分類的垃圾郵件恢復正常。

攻擊者通過修改電子郵件內容來利用學習過程。例如,在垃圾郵件中小心添加一些精心制作的正常內容會誤導反垃圾郵件過濾器將這些正常內容誤認為是潛在的垃圾郵件。稍后,帶有這些精心制作內容的電子郵件可能會被歸類為垃圾郵件。過濾性能會下降到用戶禁用反垃圾郵件過濾服務的程度。

為了減輕這種攻擊,數據質量是關鍵。如圖 2 所示(來自 ETSI ISG SAI GR-005報告),針對中毒攻擊的可用緩解方法包括提高數據供應鏈的數據質量、訓練數據集的數據清理以及在訓練過程中通過使用以下技術阻止中毒作為漸變整形。

點擊查看完整大小的圖片

poYBAGLO9JKAbKp0ADMIrMUl7aw158.png


圖 2:針對中毒攻擊的緩解方法,ETSI ISG GR-005。(來源:ETSI)

在垃圾郵件過濾服務的例子中,兩種緩解方法,數據清理和塊中毒,可以一起應用來緩解中毒攻擊。收到的電子郵件和收件人的反應,不是在到達時輸入到學習過程中,而是被保存并定期批量輸入到學習過程中。它是通過減慢過程來阻止中毒的一種變體。同時,對于每個時期收到的一批郵件,可以采用數據清理技術,將可疑內容從學習中過濾掉。

閃避攻擊

在另一種類型的攻擊中,逃避攻擊,惡意軟件混淆是網絡安全社區眾所周知的。在這種類型的攻擊中,對手在推理時使用操縱的輸入來逃避部署的模型,從而導致模型產生錯誤的分類。

多年來,惡意軟件作者一直試圖通過主要通過使用加密來混淆他們的惡意軟件來避免基于簽名的病毒引擎的檢測。由于基于靜態分析的自動惡意軟件檢測器已經從簡單的基于簽名的方法發展到使用機器學習的更復雜的啟發式技術,因此對檢測器的魯棒性混淆的需求從未如此強烈。

谷歌的 Android 使用統計數據顯示,全球每月有超過 20 億臺活躍設備在使用,每年下載 820 億次應用和游戲。隨著其在物聯網連接設備和車輛中的使用勢頭不斷增強,Android 實施成為惡意軟件攻擊的常見目標,并且越來越多。

對于當前的檢測系統來說,混淆是一個具有挑戰性的問題,Android 惡意軟件作者經常使用加密、反射和引用重命名等技術。這些旨在偽裝和偽裝應用程序中的惡意功能,誘使模型將其歸類為良性。例如,混淆幾乎普遍用于隱藏 API 的使用,惡意應用程序中加密算法的使用率是良性應用程序的五倍。此外,對 76 個惡意軟件家族的分析發現,幾乎 80% 的應用程序使用至少一種混淆技術。

許多良性應用程序被混淆以保護知識產權,這一事實進一步加劇了這個問題。最近,越來越多的研究關注使用對抗性學習來創建更復雜的混淆技術,例如變形混淆,其中被混淆的惡意軟件的功能與原始惡意軟件的功能相同。

有幾種方法可以減輕混淆攻擊。首先,可以通過使用相同惡意和良性應用程序的混淆版本來增強原始訓練數據,使用兩個標簽來注釋每個樣本來進行對抗訓練;惡意或良性,混淆或未混淆。對抗性訓練的一個問題是模型在部署期間泛化到看不見的未混淆樣本的能力降低了。克服這個問題的一種方法是使用包含兩個具有不同成本函數的分類分支的判別對抗網絡 (DAN),如圖 3 所示。

pYYBAGLO9KuAPbbnAALScXy2XUs338.png


圖 3:在上層分類分支上進行常規學習的判別對抗架構,用于惡意軟件檢測和對抗性學習混淆。(來源:第十屆 ACM 數據和應用程序安全和隱私會議論文集,第 353-364 頁)。

DAN 采用生成對抗網絡 (GAN) 的對抗學習方面,但不是訓練生成模型,而是訓練兩個鑒別器,一個用于惡意軟件,另一個用于混淆。使用標準梯度下降算法最小化惡意軟件檢測的成本函數,以最大限度地提高分類精度。然而,相比之下,混淆分支使用隨機梯度上升使成本函數最小化,從而導致分類器的分類準確度是偶然的。這樣做的動機是 DAN 確保學習對惡意軟件檢測固有有用的特征,同時不知道混淆。這樣的特征可以導致看不見的未混淆樣本的更大泛化。

最后,盡管最近對對抗性攻擊和緩解措施進行了大量研究,但實際用例的數量很少,許多人將該領域視為一項學術活動,可以更深入地了解深度學習的工作原理(或休息)。另一方面,機器學習在反病毒引擎、軟件和 Web 應用程序漏洞檢測以及主機和網絡入侵檢測等網絡安全工具中的使用越來越多,這將網絡安全置于人工智能的敵對攻擊者和防御者的前線.

由于保護 AI 是確?;?AI 的服務和系統開發和部署的重要課題,因此需要做更多的研究。作為第一步,ETSI ISG SAI 于 2019 年開始工作,并提交了兩份關于保護 AI 問題陳述和緩解策略報告的小組報告。ETSI ISG SAI 有望在不久的將來獲得更多結果。

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 網絡安全
    +關注

    關注

    11

    文章

    3300

    瀏覽量

    61135
  • AI
    AI
    +關注

    關注

    87

    文章

    34289

    瀏覽量

    275470
  • 安全威脅
    +關注

    關注

    0

    文章

    12

    瀏覽量

    3094
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    工地AI行為識別系統作用

    工地AI行為識別系統作用 工地AI行為識別系統是什么? 工地AI行為識別系統是一種基于人工智能技
    的頭像 發表于 05-08 12:00 ?149次閱讀

    景區AI行為識別系統作用

    景區AI行為識別系統作用 景區AI行為識別系統是什么? 景區AI行為識別系統是利用人工智能技術(
    的頭像 發表于 05-07 15:32 ?182次閱讀
    景區<b class='flag-5'>AI</b>行為<b class='flag-5'>識別</b>系統作用

    NVIDIA將為每家AI工廠提供網絡安全

    NVIDIA DOCA Argus 框架可檢測 AI 工作負載中的威脅并對之做出響應,同時與企業安全系統無縫集成,從而提供實時洞察。
    的頭像 發表于 05-07 15:11 ?291次閱讀
    NVIDIA將為每家<b class='flag-5'>AI</b>工廠提供網絡<b class='flag-5'>安全</b>

    工廠園區AI行為識別系統作用

    違規操作(如未戴防護裝備、危險區域闖入)、設備異常(如機械誤操作)等風險,實現從“人盯人”到“AI主動管控”的轉變,助力工廠安全、效率與合規管理全面升級。 工廠園區為什么需要AI行為識別
    的頭像 發表于 05-06 17:49 ?165次閱讀

    AI賦能安全調度系統:智能升級與功能躍遷

    安全調度系統 通過AI技術的深度整合,實現了從傳統監控到智能決策的質變升級。這種智能化轉型不僅提升了系統的響應速度和處理精度,更重塑了整個安全管理的運行范式。以下是古河云科技AI技術為
    的頭像 發表于 04-24 12:02 ?117次閱讀

    當我問DeepSeek AI爆發時代的FPGA是否重要?答案是......

    安全性。例如,在數據溯源系統中,FPGA可以實時標記和加密數據,確保數據的完整性和可靠性。 ? 適應未來加密需求:隨著量子計算的發展,傳統的加密算法面臨威脅。FPGA的靈活性使其能夠快速適應新型加密
    發表于 02-19 13:55

    在線研討會 | @2/27 威脅偵測與回應:AI在車聯網安全中的應用

    近年來車輛被黑客攻擊的事件頻發,如何保護車聯網安全成為焦點!大聯大世平集團聯合VicOne 將在直播中揭秘攻擊路徑、漏洞發現過程,并分享AI如何加速威脅偵測與響應,為車廠和制造商提供強大支持!想了解更多?千萬別錯過!
    的頭像 發表于 01-21 12:00 ?348次閱讀
    在線研討會 | @2/27 <b class='flag-5'>威脅</b>偵測與回應:<b class='flag-5'>AI</b>在車聯網<b class='flag-5'>安全</b>中的應用

    中偉視界:皮帶異物識別AI攝像頭,安全生產的智能化轉型

    隨著深度學習和計算機視覺技術的發展,皮帶異物識別AI攝像頭成為保障生產線安全的重要設備,通過自動化監測和實時警報,顯著降低安全事故發生率,提升生產效率。未來,該技術將在智能生產和設備維
    的頭像 發表于 12-19 10:59 ?453次閱讀

    AI智能識別監測攝像機

    隨著人工智能技術的飛速發展,AI智能識別監測攝像機逐漸成為各行各業安全管理的重要工具。這種高科技設備不僅具備傳統監控攝像機的基本功能,還通過深度學習和圖像處理等先進技術,實現了對人、車、物體及行為
    的頭像 發表于 11-28 10:39 ?784次閱讀
    <b class='flag-5'>AI</b>智能<b class='flag-5'>識別</b>監測攝像機

    AI行為識別攝像機

    隨著科技的飛速發展,人工智能(AI)在各個領域的應用越來越廣泛。在安全監控領域,AI行為識別攝像機作為一種新興技術,正逐漸改變傳統監控方式,為公共
    的頭像 發表于 11-21 10:49 ?591次閱讀
    <b class='flag-5'>AI</b>行為<b class='flag-5'>識別</b>攝像機

    AI即服務平臺的安全性分析

    AIaaS平臺降低AI應用門檻,但面臨數據泄露、惡意攻擊等安全威脅。需加強數據加密、訪問控制、模型加固、供應鏈安全等措施,確保合法合規,提供安全
    的頭像 發表于 11-07 09:32 ?435次閱讀

    識別IP地址威脅,構筑安全防線

    IP地址作為網絡通信的重要標識,在網絡連接和數據傳輸中起著關鍵作用。然而,IP地址也面臨著各種安全威脅,這些威脅可能導致個人隱私泄露、網絡服務中斷、數據丟失等嚴重后果。因此我們要了解與IP地址相關
    的頭像 發表于 09-03 16:13 ?564次閱讀

    亞馬遜云科技如何追蹤并阻止云端的安全威脅

    的數據安全的一種方式,我們通過該項目識別和阻止各種可能危害或干擾我們客戶或我們基礎設施的惡意在線活動。我們非常重視制定準確、及時、可操作和可擴展的威脅情報,并在這方面投入了大量資源。 很多客戶非常想了解我們
    的頭像 發表于 08-14 17:18 ?502次閱讀

    中企通信“信息安全威脅識別平臺”閃耀BPAA大賽勇奪榜眼

    +創新能力打造的“信息安全威脅識別平臺”,憑借算法模型創新和技術架構創新,入圍世界人工智能大會四大品牌賽事之一“BPAA第四屆全球應用算法模型典范大賽”TOP50,并勇奪公共賽道銀獎。 在中國式現代化的壯闊征程上,舉國迎來了全面
    的頭像 發表于 08-01 10:00 ?396次閱讀
    中企通信“信息<b class='flag-5'>安全</b><b class='flag-5'>威脅</b><b class='flag-5'>識別</b>平臺”閃耀BPAA大賽勇奪榜眼

    工業控制系統面臨的網絡安全威脅有哪些

    ,隨著技術的發展,工業控制系統也面臨著越來越多的網絡安全威脅。本文將詳細介紹工業控制系統面臨的網絡安全威脅,并提出相應的防護措施。 惡意軟件攻擊 惡意軟件攻擊是工業控制系統面臨的最常見
    的頭像 發表于 06-16 11:43 ?2197次閱讀