神經(jīng)網(wǎng)絡(luò)分類(lèi)

1、BP神經(jīng)網(wǎng)絡(luò)

BP（BackPropagation）神經(jīng)網(wǎng)絡(luò)是一種神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。其由輸入層、中間層、輸出層組成的階層型神經(jīng)網(wǎng)絡(luò)，中間層可擴(kuò)展為多層。相鄰層之間各神經(jīng)元進(jìn)行全連接，而每層各神經(jīng)元之間無(wú)連接，網(wǎng)絡(luò)按有教師示教的方式進(jìn)行學(xué)習(xí)，當(dāng)一對(duì)學(xué)習(xí)模式提供給網(wǎng)絡(luò)后，各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)產(chǎn)生連接權(quán)值（Weight）。然后按減小希望輸出與實(shí)際輸出誤差的方向，從輸出層經(jīng)各中間層逐層修正各連接權(quán)，回到輸入層。此過(guò)程反復(fù)交替進(jìn)行，直至網(wǎng)絡(luò)的全局誤差趨向給定的極小值，即完成學(xué)習(xí)的過(guò)程。

2、RBF（徑向基）神經(jīng)網(wǎng)絡(luò)

徑向基函數(shù)（RBF-RadialBasisFunction）神經(jīng)網(wǎng)絡(luò)是由J.Moody和C.Darken在80年代末提出的一種神經(jīng)網(wǎng)絡(luò)，它是具有單隱層的三層前饋網(wǎng)絡(luò)。由于它模擬了人腦中局部調(diào)整、相互覆蓋接收域（或稱(chēng)感受野-ReceptiveField）的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，因此，RBF網(wǎng)絡(luò)是一種局部逼近網(wǎng)絡(luò)，它能夠以任意精度逼近任意連續(xù)函數(shù)，特別適合于解決分類(lèi)問(wèn)題。

3、感知器神經(jīng)網(wǎng)絡(luò)

是一個(gè)具有單層計(jì)算神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)的傳遞函數(shù)是線性閾值單元。原始的感知器神經(jīng)網(wǎng)絡(luò)只有一個(gè)神經(jīng)元。主要用來(lái)模擬人腦的感知特征，由于采取閾值單元作為傳遞函數(shù)，所以只能輸出兩個(gè)值，適合簡(jiǎn)單的模式分類(lèi)問(wèn)題。當(dāng)感知器用于兩類(lèi)模式分類(lèi)時(shí)，相當(dāng)于在高維樣本空間用一個(gè)超平面將兩類(lèi)樣本分開(kāi)，但是單層感知器只能處理線性問(wèn)題，對(duì)于非線性或者線性不可分問(wèn)題無(wú)能為力。假設(shè)p是輸入向量，w是權(quán)值矩陣向量，b為閾值向量，由于其傳遞函數(shù)是閾值單元，也就是所謂的硬限幅函數(shù)，那么感知器的決策邊界就是wp+b，當(dāng)wp+b〉=0時(shí)，判定類(lèi)別1，否則判定為類(lèi)別2。

4、線性神經(jīng)網(wǎng)絡(luò)

線性神經(jīng)網(wǎng)絡(luò)是比較簡(jiǎn)單的一種神經(jīng)網(wǎng)絡(luò)，由一個(gè)或者多個(gè)線性神經(jīng)元構(gòu)成。采用線性函數(shù)作為傳遞函數(shù)，所以輸出可以是任意值。線性神經(jīng)網(wǎng)絡(luò)可以采用基于最小二乘LMS的Widrow－Hoff學(xué)習(xí)規(guī)則調(diào)節(jié)網(wǎng)絡(luò)的權(quán)值和閾值，和感知器一樣，線性神經(jīng)網(wǎng)絡(luò)只能處理反應(yīng)輸入輸出樣本向量空間的線性映射關(guān)系，也只能處理線性可分問(wèn)題。目前線性神經(jīng)網(wǎng)絡(luò)在函數(shù)擬合、信號(hào)濾波、預(yù)測(cè)、控制等方面有廣泛的應(yīng)用。線性神經(jīng)網(wǎng)絡(luò)和感知器網(wǎng)絡(luò)不同，它的傳遞函數(shù)是線性函數(shù)，輸入和輸出之間是簡(jiǎn)單的純比例關(guān)系，而且神經(jīng)元的個(gè)數(shù)可以是多個(gè)。只有一個(gè)神經(jīng)元的線性神經(jīng)網(wǎng)絡(luò)僅僅在傳遞函數(shù)上和感知器不同，前者是線性函數(shù)的傳遞函數(shù)，后者是閾值單元的傳遞函數(shù)，僅此而已。

5、自組織神經(jīng)網(wǎng)絡(luò)

在生物神經(jīng)細(xì)胞中存在一種特征敏感細(xì)胞，這種細(xì)胞只對(duì)外界信號(hào)刺激的某一特征敏感，并且這種特征是通過(guò)自學(xué)習(xí)形成的。在人腦的腦皮層中，對(duì)于外界信號(hào)刺激的感知和處理是分區(qū)進(jìn)行的，有學(xué)者認(rèn)為，腦皮層通過(guò)鄰近神經(jīng)細(xì)胞的相互競(jìng)爭(zhēng)學(xué)習(xí)，自適應(yīng)的發(fā)展稱(chēng)為對(duì)不同性質(zhì)的信號(hào)敏感的區(qū)域。根據(jù)這一特征現(xiàn)象，芬蘭學(xué)者Kohonen提出了自組織特征映射神經(jīng)網(wǎng)絡(luò)模型。他認(rèn)為一個(gè)神經(jīng)網(wǎng)絡(luò)在接受外界輸入模式時(shí)，會(huì)自適應(yīng)的對(duì)輸入信號(hào)的特征進(jìn)行學(xué)習(xí)，進(jìn)而自組織成不同的區(qū)域，并且在各個(gè)區(qū)域?qū)斎肽Ｊ骄哂胁煌捻憫?yīng)特征。在輸出空間中，這些神經(jīng)元將形成一張映射圖，映射圖中功能相同的神經(jīng)元靠的比較近，功能不同的神經(jīng)元分的比較開(kāi)，自組織特征映射網(wǎng)絡(luò)也是因此得名。

自組織映射過(guò)程是通過(guò)競(jìng)爭(zhēng)學(xué)習(xí)完成的。所謂競(jìng)爭(zhēng)學(xué)習(xí)是指同一層神經(jīng)元之間相互競(jìng)爭(zhēng)，競(jìng)爭(zhēng)勝利的神經(jīng)元修改與其連接的連接權(quán)值的過(guò)程。競(jìng)爭(zhēng)學(xué)習(xí)是一種無(wú)監(jiān)督學(xué)習(xí)方法，在學(xué)習(xí)過(guò)程中，只需要向網(wǎng)絡(luò)提供一些學(xué)習(xí)樣本，而無(wú)需提供理想的目標(biāo)輸出，網(wǎng)絡(luò)根據(jù)輸入樣本的特性進(jìn)行自組織映射，從而對(duì)樣本進(jìn)行自動(dòng)排序和分類(lèi)。

自組織神經(jīng)網(wǎng)絡(luò)包括自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)、自組織特征映射網(wǎng)絡(luò)、學(xué)習(xí)向量量化等網(wǎng)絡(luò)結(jié)構(gòu)形式。

6、反饋神經(jīng)網(wǎng)絡(luò)

前面介紹的網(wǎng)絡(luò)都是前向網(wǎng)絡(luò)，實(shí)際應(yīng)用中還有另外一種網(wǎng)絡(luò)——反饋網(wǎng)絡(luò)。在反饋網(wǎng)絡(luò)中，信息在前向傳遞的同時(shí)還要進(jìn)行反向傳遞，這種信息的反饋可以發(fā)生在不同網(wǎng)絡(luò)層的神經(jīng)元之間，也可以只局限于某一層神經(jīng)元上。由于反饋網(wǎng)絡(luò)屬于動(dòng)態(tài)網(wǎng)絡(luò)，只有滿(mǎn)足了穩(wěn)定條件，網(wǎng)絡(luò)才能在工作了一段時(shí)間之后達(dá)到穩(wěn)定狀態(tài)。反饋網(wǎng)絡(luò)的典型代表是Elman網(wǎng)絡(luò)和Hopfield網(wǎng)絡(luò)。