CPU (Central Processing Unit，中央處理器)就是機器的“大腦”，是完成布局謀略、發號施令、控制行動的“總司令官”。CPU的結構主要包括運算器(ALU，Arithmetic and Logic Unit)、控制單元(CU，Control Unit)、寄存器(Register)、高速緩存器(Cache)和它們之間通訊的數據、控制及狀態的總線。

GPU(Graphics Processing Unit，中文為圖形處理器)，就如其名字一樣，GPU最初是用在個人電腦、工作站、游戲機和一些移動設備(如平板電腦、智能手機等)上運行繪圖運算工作的微處理器。

CPU和GPU之所以大不相同，是由于其設計目標的不同，它們分別針對了兩種不同的應用場景。

CPU需要很強的通用性來處理各種不同的數據類型，同時又要邏輯判斷又會引入大量的分支跳轉和中斷的處理。這些都使得CPU的內部結構異常復雜。

而GPU面對的則是類型高度統一的、相互無依賴的大規模數據和不需要被打斷的純凈的計算環境。于是CPU和GPU就呈現出非常不同的架構(示意圖)：

從架構圖我們就能很明顯的看出，GPU的構成相對簡單，有數量眾多的計算單元和超長的流水線，特別適合處理量大且統一的數據(如圖像數據)。

GPU的主要工作就是3D圖像處理和特效處理，通俗地說就是一種圖像呈現的工作。對于2D圖形，CPU可以輕松處理，但是對于復雜的3D圖像，CPU就要花費很多的資源去處理，這顯然會降低其他方面的工作效率，于是就將這類工作交給GPU去處理。

一些高幀率的游戲畫面和高質量的特效也交給GPU去處理，分擔CPU的工作。除此以外，GPU服務器憑借并行處理處理的能力，在密碼破譯、大數據處理、金融分析等領域應用廣泛。

為什么GPU特別擅長處理圖像數據呢?這是因為圖像上的每一個像素點都有被處理的需要，而且每個像素點處理的過程和方式都十分相似，此類場景也就成了GPU的天然溫床。

但GPU無法單獨工作，必須由CPU進行控制調用才能工作。CPU可單獨作用，處理復雜的邏輯運算和不同的數據類型，但當需要大量的處理類型統一的數據時，則可調用GPU進行并行計算。

GPU采用了數量眾多的計算單元和超長的流水線，但只有非常簡單的控制邏輯并省去了Cache。而CPU不僅被Cache占據了大量空間，而且還有有復雜的控制邏輯和諸多優化電路，相比之下GPU計算能力只是CPU很小的一部分。

CPU 基于低延時的設計，CPU有強大的ALU(算術運算單元)，它可以在很少的時鐘周期內完成算術計算。

相比之下，GPU是基于大的吞吐量設計，Cache比較小、控制單元簡單，但GPU的核數很多，適合于并行高吞吐量運算。

GPU中有很多的運算器ALU和很少的緩存Cache，緩存的目的不是保存后面需要訪問的數據(這點和CPU不同)，而是為線程Thread提供服務的。如果有很多線程需要訪問同一個相同的數據，緩存會合并這些訪問后再去訪問內存DRAM。

總而言之，CPU和GPU因為最初用來處理的任務就不同，所以設計上有較大的區別。而某些任務和GPU最初用來解決的問題的方式比較相似，所以采用GPU來計算。

打個比方，GPU的運算速度取決于雇了多少小學生，CPU的運算速度取決于請了多么厲害的教授。教授處理復雜任務的能力是碾壓小學生的，但是對于沒那么復雜的任務，還是頂不住人多。當然現在的GPU也能做一些稍微復雜的工作了，相當于升級成初中生高中生的水平。

GPU就是用很多簡單的計算單元去完成大量的計算任務，純粹的人海戰術。這種策略基于一個前提，就是小學生之間的工作沒有什么依賴性，是互相獨立的。

這就回答了GPU能做什么的問題。圖形運算和大型矩陣運算，如機器學習算法等領域，GPU就能大顯身手。簡而言之，CPU擅長統領全局等復雜操作，GPU擅長對大數據進行簡單重復操作。CPU是從事復雜腦力勞動的教援，而GPU是進行大量并行計算的體力勞動者(小學生)。

GPU的工作的特點是計算量大，沒什么技術含量，需要重復很多很多次，還需要CPU來把數據喂到嘴邊才能開始干活，最終還是靠CPU來管理的。

為什么在人工智能領域GPU十分盛行?深度學習是模擬人腦神經系統而建立的數學網絡模型，這個模型的最大特點是需要大數據來訓練。

因此，人工智能領域對計算能力的要求就是需要大量的并行的重復計算，GPU正好有這個專長，時勢造英雄，因此GPU就出山擔此重任。在人工智能領域(深度學習)，GPU具有如下主要特點：

1 、提供了多核并行計算的基礎結構，且核心數非常多，可以支撐大量數據的并行計算。并行計算是一種一次可執行多個指令的算法，目的是提高計算速度，通過擴大問題求解規模，解決大型而復雜的計算問題。

2、 擁有更高的訪存帶寬和速度。

3、具備更高的浮點運算能力。浮點運算能力是關系到處理器的多媒體、3D圖形處理的一個重要指標。現在的計算機技術中，由于大量多媒體技術的應用，浮點數的計算大大增加了，比如3D圖形的渲染等工作，因此浮點運算的能力是考察處理器計算能力的重要指標。

需要強調一點，雖然GPU是為了圖像處理而生，但是我們通過前面的介紹可以發現，GPU在結構上并沒有專門為圖像服務的部件，只是對CPU的結構的優化與調整，所以現在GPU不僅可以在圖像處理領域大顯身手，它還被用做科學計算、密碼破解、數值分析，海量數據處理(排序、Map-Reduce等)，金融分析等需要大規模并行計算的領域。因此，GPU也可以認為是一種較通用的芯片。

簡單總結：CPU和GPU是兩種不同的處理器，CPU是程序控制、順序執行等操作的最高級通用處理器，而GPU是用來做圖像處理、特定領域分析的專用型處理器，GPU受CPU的控制。在很多終端設備中，CPU和GPU往往集成在一個芯片內，同時具備CPU或GPU處理能力。

審核編輯：湯梓紅