如果你曾經用過，或是打算在訓練機器學習任務時使用AWS/Azure/GCloud，你就知道昂貴的GPU價格有多高。如果經常開關機器，會對正在進行的任務有很大的干擾。原文作者Jeff Chen有一種更好的方法：搭建自己的深度學習計算機。它比上述方法便宜10倍，而且使用方便。下面就讓我們仔細分析一下。

這是深度學習計算機系列的第一篇（共有三篇）。第二部分將講述“如何搭建自己的計算機”，第三部分是“如何評估性能”。

自制深度學習計算機的內部

只要3千（美元），頂級GPU可擴展的深度學習計算機抱回家

我自己花3千美元搭建的機器配置如下所示，其中有一個1080 Ti GPU、一個12核的CPU，一個64G的RAM和1 TB M.2 SSD。除此之外你還可以再加三個GPU。

價格對比

假設這臺只有一個GPU的機器在未來三年不會折舊，下表顯示，如果你至少用了一年后，它會便宜10倍，其中包括電費。亞馬遜的AWS會給予長期使用者優惠，如果你買了好幾年的AWS服務，也許能便宜4—6倍，但仍然是一筆不小的費用。計算之后我們發現，有四個GPU的機器版本能在一年內便宜21倍！

自己打造的計算機和AWS的費用對比。根據不同的使用需求，一個GPU的版本可以便宜4—10倍，而四個GPU的版本可以便宜9—21倍。AWS全年訂閱可享受65折優惠，三年可享受4折優惠。假設電費為0.2美元/千瓦時，一個GPU一小時消耗1kw的電，四個GPU一小時消耗2kw。額外加入的GPU按700美元算，不加折舊率。

但是這樣也有一些缺點，例如下載速度會變慢，因為這并不在主干網上，靜態IP需要遠程接入，可能幾年之后你想更新GPU，即使這樣，省下的花費也很值得。

如果你想在深度學習計算機上運用2080Ti，它會貴一點，但仍然是劃算的。

云GPU每小時3美元，不用的時候也得交錢

亞馬遜的AWS EC2的GPU費用為每小時3美元，或者一個月大約2100美元。在斯坦福，我用它研究我的語義分割項目，最終賬單為1000美元。我還在另一個項目上試過谷歌云，最終花了1800美元，這還是我非常節約地在用，每次結束時都會關掉機器。但還是肉疼?。?/p>

即使關上了機器，你仍需要每月為機器支付0.1美元/GB的存儲費用，所以我每月在里面充100美元，防止數據丟失。

幾個月就回本

如果自己搭建了3千美元、含有一個GPU機器，如果經常使用，兩個月后就會收支平衡。更不用提兩個月后它還沒有折損。所以權衡下來，還是四個GPU的版本更實惠，它不到一個月就能收回成本。

你的GPU性能和AWS不分上下

700美元的英偉達1080 Ti的速度就比英偉達的V100 云GPU（使用新一代Volta技術）少了10%，這是因為云GPU在實例和GPU之間的IO很慢，所以即使是這樣，V100在理論上也會比現實中快1.5—2倍。由于你用的是M.2 SSD，IO在自己的電腦上就會非?？臁?/p>

V100的顯存為16GB，而1080 Ti是11GB。但是如果能把batch的尺寸調小一些，模型就更高效，11GB也是可以的。

與在線租上一代英偉達K80相比，1080 Ti的訓練速度比它快了4倍。我在基準測試中驗證了它的速度快了3—4倍。K80的顯存只有12GB，相對于1080Ti的11GB，優勢并不大。

AWS之所以這么貴是因為亞馬遜強制使用更貴的GPU

數據中心之所以這么貴的原因：他們并不使用GeForce 1080 Ti。英偉達禁止在數據中心使用GeForce和Titan卡，所以亞馬遜和其他供應商只能用8500美元的GPU，所以收取的租金就很貴。

自己搭建比購買要好

同樣，你還要考慮在哪里購買計算機或搭建自己的機器，搭建機器最難的部分就是找到適合機器學習的部分，確保能正常工作。而組裝過程就更容易了，幾個小時就能搞定。

在價格下跌時出手

每年有新產品發布時，上一代硬件總會降價。例如，當AMD推出Threadripper 2 CPU時，1920X處理器的價格從800美元直接腰斬到400美元。所以，可以選擇這個時候購買需要的硬件。

搭建能提供更多選擇，可以擴展

我看了一些現成的機器，其中一些無法用四個GPU，或者不能進行優化。還有一些CPU沒有36+的PCle線程，或者主板不能插四個GPU，或者功率不夠1400W、CPU低于八核等等問題。在下一篇文章中，我會討論不同部分的選擇有哪些細微差別。

設計時還可考慮一些搭配美感，我個人覺得有些機箱很丑……不僅要降低噪音，還要支持機器學習。SATA3 SSD的讀寫速度為每秒600MB，而M.2 PCIe SSD快了5倍，并達到了每秒3.4GB。

結語

在下一篇文章中，我會討論如何為搭建機器選擇組件，請繼續關注！

FAQ

為什么深度學習計算機的可擴展性很重要？

如果你不知道需要多少計算力，最好的方法就是搭建一個只有一個GPU的機器，然后逐漸增加。

為什么選擇有四個GPU的機器？

如果你能承擔所需費用，可以根據需要隨意增減GPU。我只是找到了合適的主板，可以支持四個GPU。

網友討論

自己動手豐衣足食，還能省下一大筆錢，聽上去不錯，不過這種方法有無劣勢呢？

網友_untom_表示：

“目前來說，自己買機器確實便宜，這是毋庸置疑的。但是AWS解決的問題是大規模的。如果你所在的領域需要數十個、甚至上百個機器，而不是四臺機器，那么你只能選擇AWS或其他云服務，除非你能自己買400個GPU?！?/p>

另外網友Spaturno說：

“如果你現在每六個月就要用到100倍的計算力，持續一周，哪種更劃算？”

網友currentaccount123：

“兩種方法我都買不起。”（手動再見）