神經(jīng)網(wǎng)絡(luò)沒有一個(gè)嚴(yán)格的正式定義。它的基本特點(diǎn)，是試圖模仿大腦的神經(jīng)元之間傳遞，處理信息的模式。

　　一個(gè)計(jì)算模型，要?jiǎng)澐譃樯窠?jīng)網(wǎng)絡(luò)，通常需要大量彼此連接的節(jié)點(diǎn) （也稱 ‘神經(jīng)元’），并且具備兩個(gè)特性：

　　每個(gè)神經(jīng)元，通過(guò)某種特定的輸出函數(shù) （也叫激勵(lì)函數(shù) activation function），計(jì)算處理來(lái)自其它相鄰神經(jīng)元的加權(quán)輸入值。

　　神經(jīng)元之間的信息傳遞的強(qiáng)度，用所謂加權(quán)值來(lái)定義，算法會(huì)不斷自我學(xué)習(xí)，調(diào)整這個(gè)加權(quán)值。

　　在此基礎(chǔ)上，神經(jīng)網(wǎng)絡(luò)的計(jì)算模型，依靠大量的數(shù)據(jù)來(lái)訓(xùn)練，還需要：

　　成本函數(shù) （cost function）：用來(lái)定量評(píng)估根據(jù)特定輸入值， 計(jì)算出來(lái)的輸出結(jié)果，離正確值有多遠(yuǎn)，結(jié)果有多靠譜。

　　學(xué)習(xí)的算法 （ learning algorithm ）：這是根據(jù)成本函數(shù)的結(jié)果， 自學(xué)， 糾錯(cuò)， 最快地找到神經(jīng)元之間最優(yōu)化的加權(quán)值。

　　深度學(xué)習(xí)的概念由Hinton等人于2006年提出?；谏疃戎眯?a href='http://www.asorrir.com/v/tag/1722/' target='_blank' class='arckwlink_none'>網(wǎng)絡(luò)（DBN）提出非監(jiān)督貪心逐層訓(xùn)練算法，為解決深層結(jié)構(gòu)相關(guān)的優(yōu)化難題帶來(lái)希望，隨后提出多層自動(dòng)編碼器深層結(jié)構(gòu)。此外Lecun等人提出的卷積神經(jīng)網(wǎng)絡(luò)是第一個(gè)真正多層結(jié)構(gòu)學(xué)習(xí)算法，它利用空間相對(duì)關(guān)系減少參數(shù)數(shù)目以提高訓(xùn)練性能。

　　深度學(xué)習(xí)是機(jī)器學(xué)習(xí)中一種基于對(duì)數(shù)據(jù)進(jìn)行表征學(xué)習(xí)的方法。觀測(cè)值（例如一幅圖像）可以使用多種方式來(lái)表示，如每個(gè)像素強(qiáng)度值的向量，或者更抽象地表示成一系列邊、特定形狀的區(qū)域等。而使用某些特定的表示方法更容易從實(shí)例中學(xué)習(xí)任務(wù)（例如，人臉識(shí)別或面部表情識(shí)別）。深度學(xué)習(xí)的好處是用非監(jiān)督式或半監(jiān)督式的特征學(xué)習(xí)和分層特征提取高效算法來(lái)替代手工獲取特征。

　　邊緣檢測(cè)是圖像處理和計(jì)算機(jī)視覺中的基本問題，邊緣檢測(cè)的目的是標(biāo)識(shí)數(shù)字圖像中亮度變化明顯的點(diǎn)。圖像屬性中的顯著變化通常反映了屬性的重要事件和變化。 這些包括（i）深度上的不連續(xù)、（ii）表面方向不連續(xù)、（iii）物質(zhì)屬性變化和（iv）場(chǎng)景照明變化。 邊緣檢測(cè)是圖像處理和計(jì)算機(jī)視覺中，尤其是特征提取中的一個(gè)研究領(lǐng)域。