人工智能機器可以從他們行動的結果中進行學習來提高自己的能力，但專家說這種特性可能會導致 AI “不能被阻止”。 現在, 一組人工智能研究人員已經開發出了一個系統，他們將這個系統比作《黑衣人》(Men in Black)電影中的“記憶消除器”(neuralyzer)，通過刪除部分記憶來阻斷人工智能，同時又不影響它的學習方式。

具有人工智能的機器可以從自己的行為結果中學習，以提高自己的能力。但專家表示，這個特點可能會導致人工智能“無法被終止”。現在，一組人工智能研究人員已經開發了一個系統，他們把這個系統比作電影《黑衣人》中具有擦除記憶功能的“記憶消除器”，通過刪除部分記憶來從實質上終止人工智能，但卻不會中斷其學習進程。

人類必須找到方法來防止AI繞過人的命令。相關研究人員、EPFL分布式程序設計實驗室的教授Rachid Guerraoui說：“人工智能總是試圖避免人為的干預，并創造一個不能被終止的情況。最大的挑戰不是讓機器人停止運行，而是通過編程讓外部干預不會改變其學習進程-并且不會導致機器人調整它的行為，以避免被終止。”

以前的努力試圖在較小規模上解決這個問題，聚焦于單個機器人。但是，隨著自動駕駛汽車和其他互聯設備的興起，研究人員認為這個問題已經變得復雜得多。例如，對于自動駕駛汽車來說，人類需要能夠接管駕駛權-但這種中斷可能會影響汽車和其它學習者的行為。如果一個駕駛員經常剎車，那么另一輛自動駕駛汽車就會調整自己的行為，并對何時進行剎車產生“困惑”。這將使人類能夠在必要時中斷AI的學習過程。而且，這種干預可以在不影響學習過程的情況下完成。

El Mhamdi說：“簡而言之，我們在學習算法中增加了“遺忘”機制，從本質上刪除了機器內存中的某些數據。這有點像電影《黑衣人》中的記憶消除器。”研究人員表示，這種方法改變了機器的學習和獎勵系統，使過程不受中斷的影響。

到目前為止，該研究團隊表示，如果“犯錯的后果很輕微”，該系統運行良好。El Mhamdi稱，在系統進行學習時，通過運行一個加分和減分算法，可以用它來模擬AI公交車。根據這個團隊的說法，這可能會使自動駕駛車輛和無人駕駛飛機變得更加安全。El Mhamdi表示：“特斯拉正在進行此類模擬。”

一旦系統經歷了足夠的這種學習，我們可以將這種預先訓練好的算法安裝在具有較低探測率的自動駕駛汽車中，因為這樣可以擴大其應用范圍。