構(gòu)造機器學習算法之前：觀察數(shù)據(jù)，總結(jié)規(guī)律

隨著大數(shù)據(jù)和深度學習的發(fā)展，互聯(lián)網(wǎng)中已具有開源機器學習算法模型。如果通過收集大量數(shù)據(jù)，并將數(shù)據(jù)輸入至某種機器學習的開源算法中訓練，則大概率無法得到較好的結(jié)果。開發(fā)人員如果沒有對數(shù)據(jù)感性的認識，難以設(shè)計出性能較好的算法，同時，開發(fā)人員也難以估計算法的性能極限。

因此，開發(fā)人員在構(gòu)造機器學習算法之前需觀察數(shù)據(jù)，總結(jié)規(guī)律。 ?

第一步、特征提取（Feature Extraction）

特征提取是指通過樣本獲得對機器學習任務有幫助的多維度特征數(shù)據(jù)。特征提取對于機器學習系統(tǒng)的構(gòu)件是重要的，實踐表明，如果開發(fā)人員提取了特征較好，那么即使采用較差的機器學習算法，也可獲得較好的性能，但如果開發(fā)人員提取的特征較差，無法反應樣本的內(nèi)在規(guī)律，那么即使采用較好的機器學習算法，也無法獲得較好的性能。 ? 不同任務提取特征的方式不同。圖像、語音、三維點云（根據(jù)百度百科：三維點云是按照規(guī)則格網(wǎng)排列的三維坐標點的數(shù)據(jù)集）等媒質(zhì)的物理屬性各不相同，各種媒質(zhì)對應機器學習的任務也不同，因此，機器學習算法的特征提取的方式較多，開發(fā)人員欲想將各種機器算法特征提取最優(yōu)方式完全掌握需要較長時間。 ? ?

第二步、特征選擇（Feature Selection）

? 特征選擇需要選擇區(qū)分度高的特征。如圖一所示，圖一中上方兩張圖的紅線與藍線重合較少，可被視為區(qū)分度高的特征，圖一下方兩張圖的紅線與藍線重合較高，相比于圖一上方兩張圖的區(qū)分度較低。因此，經(jīng)過特征選擇步驟，圖一中上方兩張圖將被選擇。 ?

圖一，圖片來源：根據(jù)中國慕課大學《機器學習概論》資料制作 ?

? 第三步，選擇機器學習算法

開發(fā)人員選擇適合其選擇特征的算法。機器學習算法包括：支持向量機（Support Vector Machine）、人工神經(jīng)網(wǎng)絡(luò) （Neural Networks）、深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks），每種機器學習算法中包含多種內(nèi)核（可將多種內(nèi)核理解為多個機器學習算法）。 ?
? 第四步，得到特征空間（Feature Space），完成機器學習

如圖二所示，圖二中的三張二維平面圖均為特征空間圖形，三張?zhí)卣骺臻g圖形內(nèi)的直線或曲線（紅色橢圓框內(nèi)）是計算機完成不同機器學習后得出的不同分類依據(jù)，計算機可依照其所得到的分類依據(jù)對新數(shù)據(jù)進行分類。 ?

圖二，圖片來源：根據(jù)中國慕課大學《機器學習概論》資料制作 ? 在更復雜的機器學習中，特征空間的維度處于幾百至幾萬數(shù)量級的維度，深度學習的特征空間維度可處于幾十萬量級的維度，機器學習適合在高維度特征空間中的預測。

? 同時，不同機器學習所得出的分類標準不同（即三張?zhí)卣骺臻g圖形內(nèi)的直線或曲線的形狀不同）。因此，針對某一數(shù)據(jù)，不同機器學習算法將得出不同的預測結(jié)果。但因為開發(fā)人員難以窮盡所有數(shù)據(jù)，所以無法簡單確定哪種機器學習算法更優(yōu)。 ? ?

編輯：黃飛

?