伴隨著人工智能技術(shù)飛躍式的進步,對于計算機運算能力的需求同樣大幅提升。目前,英偉達公司的H100芯片銷售火爆。值得關(guān)注的是,單片H100芯片的峰值功率高達700瓦。隨著此類芯片的廣泛使用,預(yù)計到2024年末,其總體功耗將相當于甚至超越某些歐洲小型國家。
根據(jù)預(yù)測,若H100的年利用率保持在61%,那么單臺設(shè)備每年將耗電3740千瓦小時左右。如果英偉達在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達130.91億千瓦小時(13091.82GWh)。相對而言,一些國家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個數(shù)量級。
盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌,但我們可以看到,AI以及高性能計算GPU的能效正逐步改善。英偉達下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過H100的功耗,而且還能實現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務(wù)。
很明顯,隨著AI技術(shù)的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。
-
芯片
+關(guān)注
關(guān)注
459文章
52172瀏覽量
436130 -
人工智能
+關(guān)注
關(guān)注
1804文章
48704瀏覽量
246470 -
英偉達
+關(guān)注
關(guān)注
22文章
3921瀏覽量
93109
發(fā)布評論請先 登錄
GPU 維修干貨 | 英偉達 GPU H100 常見故障有哪些?

評論