機器學習是一種強大的技術,它通過開發算法從其經驗中學習和改進。算法是計算、訪問和處理輸入數據并預測結果的程序。機器學習模型旨在計算復雜的計算和學習模式,并在此基礎上提供相關的輸出。該模型適用于數字、二元、多變量、分類和相關數據集等普通數據集。
然而,截至今天,由于理解輸入數據的上下文的局限性,大多數機器學習模型都面臨著預測時間序列數據的挑戰。這就是遞歸神經網絡,其中長短期記憶網絡(LSTM)——一種人工神經網絡。LSTM 可以識別數據序列中的模式,例如來自傳感器、文本、基因組、手寫和口語的數字時間序列數據。
什么是 LSTM 網絡?
LSTM – 長期短期記憶網絡,是一種特殊類型的RNN(遞歸神經網絡)。RNN是一個神經網絡,它將前一個狀態的輸出作為下一階段的輸入,這樣它就可以記住前一個狀態的數據。它將借助先前的數據精確預測最終輸出。
然而,RNN存在梯度消失問題,即信息在較長的序列中褪色,因此在較長時間內持久化數據時面臨困難。此問題可以通過 LSTM 解決。LSTM已經表現出擺脫了長期依賴問題并消除了RNN的缺點。
LSTM的重要性
在這個現代時代,機器正在使用機器學習智能地執行任務。現在,每個行業都有大量的設備歷史數據,這些數據必須以機器學習模型能夠有效預測數據的方式使用。
作為人類,我們總是非常規地選擇一些重要的關鍵字,而忽略其他有助于我們理解任何句子或段落上下文的單詞。例如,在閱讀電影評論時,大腦只試圖記住或專注于一些關鍵詞,如“動感十足”、“令人嘆為觀止”、“無聊”和“驚人”。每次我們不必思考,記住并重新開始。LSTM的行為也類似。此外,LSTM 專為傳統神經網絡失敗的順序數據集而設計。LSTM 允許數據持久化。
在每個行業中,當局都會根據過去的重要數據做出任何決定,這將提供更好的結果。與機器學習模型相同,與其他模型相比,LSTM 展示了準確的結果,因為它在整個模型學習過程中只記住相關數據。它可以輕松保留重要信息以進行預測。
LSTM 如何工作?
LSTM 使用一系列不同的邏輯門。借助這一點,它可以調節信息流并解決RNN中的消失梯度問題。梯度消失問題發生在訓練機器學習模型的反向傳播期間。梯度是可用于更新神經網絡權重的值。在反向傳播時,梯度將變得如此之小,以至于在更新權重方面可以忽略不計。
這最終將停止學習該層,以便這些層不會學習。因此,RNN 會在更長的時間內忘記數據,因為 RNN 只有短期記憶。
LSTM和RNN在控制流方面是相似的。兩者都在傳遞和向前傳播時處理信息。唯一的區別是每個單元格內的操作。LSTM的主要概念是在整個網絡中傳遞相關信息。根據輸入,它會將該數據添加到內存中,如果不需要數據,則忘記或刪除數據,如果信息不相關,則忽略信息。這就是 LSTM 不僅將信息傳遞到下一個狀態,而且還為以后的狀態保留數據的方式。
LSTM的工作分為三個部分,每個部分執行以下單獨的功能:
第一部分確定來自前一個時間戳的信息是相關的,然后記住它,如果它不相關,它可以被遺忘。這部分稱為遺忘門。
在第二部分中,單元格嘗試從單元格的當前輸入中學習新數據,這稱為輸入門。
最后,在第三部分中,單元格將更新的信息從當前時間戳傳遞到下一個時間戳。這部分稱為輸出門。
這就是 LSTM 在訓練過程中有選擇地忘記和記住信息的方式。
LSTM的應用
工業物聯網:每個行業的深刻本質是始終如一地提高產品質量。在制造單位中,有許多設備、傳感器和機器,每個設備、傳感器和機器都有大量的數據。這些受到的關注非常少,這可能導致該行業陷入磨損情況。
LSTM將在上述情況下發揮至關重要的作用。基于執行器、振動、溫度、噪聲、用電量等不同參數的歷史數據,該模型可以提前預測機器的早期維護和異常檢測。這將有助于制造單元進行及時維護。最終,它將提高效率并減少機器的停機時間。提高設備的利用率很有用。因此,生產產品的時間更少,數量更多。對于大型電力行業,它可以使用過去的電力供應數據預測特定州、城市或街道即將到來的電力需求。電力負荷預測將有助于減輕能源損失,并根據預測管理和傳輸電力。
家庭自動化:在家庭自動化中,有兩個最重要的事情:
準確性
處理和執行操作的速度
在智能建筑中,HVAC供暖,通風和空調系統將有助于預測能源消耗以及室內空氣溫度,并根據外部天氣進行控制。基于人類行為,設備應執行預定義的任務,其中可以通過逐個分析視頻幀來識別人類活動。在這里,LSTM將根據早期行動精確預測下一步行動。
任何與音頻分析相關的應用程序,例如預測用于竊賊檢測的玻璃破碎、語音識別和預測語音命令。這些具有基于時間序列的數據,其中每個信息都帶有其頻率和時間。
在語音命令或語音識別中,了解 LSTM 的優勢的實際上下文非常重要。
汽車:每個行業都有關于各自市場的大量數據,借助這些數據,LSTM將分析即將到來的市場趨勢并預測即將到來的產品需求。
這將幫助汽車制造商根據需求預測管理其供應鏈和庫存,并制定計劃以加速需求并減少不必要的成本。它可以幫助組織根據市場需求發現新的機會。它還向零售客戶推薦使用過去訂單的相關產品,從而提供更好的用戶體驗并促進銷售。LSTM 在預測時間序列數據方面令人滿意。
醫療保健:在醫療保健行業中,心跳、神經模式、血壓和氧氣水平對于嚴重入院的患者至關重要。如果這些參數中的任何一個發生變化,那么患者可能會死亡。這些參數應在早期階段準確預測,這有助于相應地治療患者。
最重要的是,所有參數都具有LSTM優于其他模型的時間序列數據。它還可以使用健康報告提前診斷任何健康問題,例如檢測癌癥或任何重大疾病。在智能可穿戴設備的幫助下,它可以提前預測心臟病發作,并向相關人員發送其健康狀況的信息。它會建議根據他們的健康狀況咨詢醫生,并提醒他們定期檢查。
審核編輯:郭婷
-
神經網絡
+關注
關注
42文章
4808瀏覽量
102818 -
機器學習
+關注
關注
66文章
8492瀏覽量
134117
發布評論請先 登錄
CMOS開關和多路復用器中的Ron調制;它是什么及如何預測它對信號失真的影響

記憶示波器的原理和應用
ADC121S101給的fSLKC小于10MHz會怎么樣?它是不能產生正確的輸出嗎?
為什么MOS管內會有體二極管,它是怎么來的有什么作用

LSTM神經網絡的結構與工作機制
LSTM神經網絡的優缺點分析
LSTM神經網絡在時間序列預測中的應用
LSTM神經網絡的基本原理 如何實現LSTM神經網絡

什么是Modbus協議以及它是如何在工業中運作的?
什么是飛輪儲能 – 它是如何工作的?


紅外輻射是什么?它是如何發現的?

評論