人工智能有可能欺騙神經(jīng)網(wǎng)絡(luò) 導致其產(chǎn)生錯誤輸出
當前，人工智能技術(shù)已經(jīng)被應(yīng)用于監(jiān)控攝像頭中，出現(xiàn)在交通、安防、零售、社區(qū)等多個場景。而對抗性樣本有可能欺騙神經(jīng)網(wǎng)絡(luò)，導致其產(chǎn)生錯誤的輸出。
近日，來自比利時魯汶大學的研究人員，在預印本平臺(arXiv.org)上分享的一篇論文中，研究人員展示了簡單的印刷圖案如何能夠欺騙一個用來識別圖像中人物的人工智能系統(tǒng)。
研究人員打印出特別設(shè)計的彩色圖片并掛在脖子上，從人工智能的角度來看，這可能相當于“隱形斗篷”，也就是說，人工智能檢測不出右邊的人。
正如研究人員寫道：“我們相信，如果我們將這項技術(shù)與復雜的服裝模擬技術(shù)相結(jié)合，就可以設(shè)計出一種T恤印花，它可以讓一個人在自動監(jiān)控攝像頭下幾乎隱形。”
這可能看起來很奇怪，但實際上是人工智能世界中一個眾所周知的現(xiàn)象。這些類型的模式被稱為對抗性樣本，它們利用計算機視覺系統(tǒng)的缺陷來誘騙它們看到不存在的東西。
在過去，對抗性樣本被用來欺騙面部識別系統(tǒng)。許多研究人員警告說，對抗性的例子具有潛在的危險性。例如，它們可以用來欺騙自動駕駛汽車，將停車標志當成路燈柱，或者它們可以欺騙旨在識別疾病的醫(yī)學人工智能視覺系統(tǒng)，這可能是為了醫(yī)療欺詐，甚至是故意造成傷害。
如何對對抗性樣本進行有效的防御是很多學者的重要研究課題。不過，到目前為止，研究人員尚未找到針對對抗樣本的最佳防御策略，希望在不久之后，該研究領(lǐng)域會出現(xiàn)突破性的進展。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1804文章
48783瀏覽量
246861
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
開售RK3576 高性能人工智能主板
ZYSJ-2476B 高性能智能主板，采用瑞芯微 RK3576 高性能 AI 處理器、神經(jīng)網(wǎng)絡(luò)處理器 NPU，
Android 14.0/debian11/ubuntu20.04 操作系統(tǒng)
發(fā)表于 04-23 10:55
BP神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)的區(qū)別
BP神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks，簡稱ANNs）之間的關(guān)系與區(qū)別，是神經(jīng)網(wǎng)絡(luò)領(lǐng)域中一個基礎(chǔ)且重要的話題。本文將從定義、結(jié)構(gòu)、算法、應(yīng)用及
人工神經(jīng)網(wǎng)絡(luò)的案例分析
人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network, ANN）作為深度學習領(lǐng)域的重要分支，自20世紀80年代以來一直是人工智能領(lǐng)域的研究熱點。其靈感來源于生物
前饋神經(jīng)網(wǎng)絡(luò)的工作原理和應(yīng)用
前饋神經(jīng)網(wǎng)絡(luò)（Feedforward Neural Network, FNN），作為最基本且應(yīng)用廣泛的一種人工神經(jīng)網(wǎng)絡(luò)模型，其工作原理和結(jié)構(gòu)對于理解深度學習及
人工神經(jīng)網(wǎng)絡(luò)模型包含哪些層次
、多層感知機、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、長短期記憶網(wǎng)絡(luò)等。 感知機（Perceptron） 感知機是人工神經(jīng)網(wǎng)絡(luò)的基本單元，由輸入層、
人工神經(jīng)網(wǎng)絡(luò)模型的分類有哪些
詳細介紹人工神經(jīng)網(wǎng)絡(luò)的分類，包括前饋神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、深度神經(jīng)網(wǎng)絡(luò)、生成對抗
人工智能神經(jīng)網(wǎng)絡(luò)系統(tǒng)的特點
人工智能神經(jīng)網(wǎng)絡(luò)系統(tǒng)是一種模擬人腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能的計算模型，具有高度的自適應(yīng)性、學習能力和泛化能力。本文將介紹人工智能神經(jīng)網(wǎng)絡(luò)系統(tǒng)的特點
人工智能神經(jīng)網(wǎng)絡(luò)模型有哪些
人工智能神經(jīng)網(wǎng)絡(luò)模型是一類受人腦啟發(fā)的計算模型，它們在許多領(lǐng)域都取得了顯著的成功。以下是一些常見的神經(jīng)網(wǎng)絡(luò)模型： 感知機（Perceptron） ： 感知機是最簡單的神經(jīng)網(wǎng)絡(luò)模型之一，
人工智能和人工神經(jīng)網(wǎng)絡(luò)有什么區(qū)別
人工智能（Artificial Intelligence，簡稱AI）和人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，簡稱ANN）是兩個密切相關(guān)但又有所區(qū)別的概念。 定義和起源
人工智能神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是什么
人工智能神經(jīng)網(wǎng)絡(luò)是一種模擬人腦神經(jīng)網(wǎng)絡(luò)的計算模型，其結(jié)構(gòu)和功能非常復雜。 引言 人工智能神經(jīng)網(wǎng)絡(luò)
人工智能神經(jīng)網(wǎng)絡(luò)的工作原理是什么
人工智能神經(jīng)網(wǎng)絡(luò)的工作原理是一個復雜且深入的話題，涉及到多個領(lǐng)域的知識，包括數(shù)學、計算機科學、生物學等。 神經(jīng)網(wǎng)絡(luò)的基本概念 神經(jīng)網(wǎng)絡(luò)是一種受人腦結(jié)構(gòu)啟發(fā)的計算模型，它通過模擬人腦
人工智能神經(jīng)網(wǎng)絡(luò)芯片的介紹
人工智能神經(jīng)網(wǎng)絡(luò)芯片是一類專門為深度學習和神經(jīng)網(wǎng)絡(luò)算法設(shè)計的處理器。它們具有高性能、低功耗、可擴展等特點，廣泛應(yīng)用于圖像識別、語音識別、自然語言處理等領(lǐng)域。以下是關(guān)于人工智能
神經(jīng)網(wǎng)絡(luò)和人工智能的關(guān)系是什么
神經(jīng)網(wǎng)絡(luò)和人工智能的關(guān)系是密不可分的。神經(jīng)網(wǎng)絡(luò)是人工智能的一種重要實現(xiàn)方式，而人工智能則是神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)的工作原理是什么
和學習。本文將詳細介紹人工神經(jīng)網(wǎng)絡(luò)的工作原理，包括其基本概念、結(jié)構(gòu)、學習算法和應(yīng)用領(lǐng)域。 基本概念 1.1 神經(jīng)元 神經(jīng)元是
神經(jīng)網(wǎng)絡(luò)和人工智能的關(guān)系
在快速發(fā)展的科技領(lǐng)域，人工智能（Artificial Intelligence, AI）和神經(jīng)網(wǎng)絡(luò)（Neural Networks）是兩個備受矚目的概念。它們之間的聯(lián)系緊密而復雜，共同推動了智能
工商網(wǎng)監(jiān)
評論