女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AIGC需求大爆發,英偉達算力芯片已漲價近四成

Felix分析 ? 來源:電子發燒友網 ? 作者:吳子鵬 ? 2023-05-16 01:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/吳子鵬)日前,有代理商透露,英偉達的A100價格從2022年12月份開始上漲,截至2023年4月上半月,5個月價格累計漲幅達到37.5%;在中國市場,A800價格從2022年12月份開始上漲,截至2023年4月上半月,5個月價格累計漲幅達20.0%。

目前,對于所有AI大模型而言,無論是推理還是訓練,基本都是依賴英偉達的GPU芯片。其中,英偉達A100芯片是目前的主流,在大模型訓練市場的市占比接近100%。

英偉達算力芯片量價齊升

根據此前的公開報道,OpenAI的GPT-3大模型參數規模已經達到1750億,因此在訓練過程中需要做大量的數據并行計算,這就是為什么AI 大模型都要哄搶GPGPU。

所謂的GPGPU又名通用算力GPU,能夠幫助CPU進行非圖形相關程序的運算——復雜的數值計算、物理模擬和數據分析等任務。GPGPU在進行相關運算時有幾大突出的優勢,高效并行性、高密集運算、超長流水線等。

那么,為什么只有英偉達有AI淘金浪潮“賣鏟人”的稱號呢?

主要原因有兩點,其一是英偉達芯片的算力更高,比如英偉達的A100,這顆采用Ampere架構和7nm制程的芯片里晶體管數量達542億顆,單芯片可提供的FP32峰值算力為19.5TFLOPS。如果是英偉達的H100 SXM,FP32峰值算力為67TFLOPS,提升明顯。并且,無論是A100還是H100都能夠提供包括FP64、TF32、FP32、FP16 和INT8在內的所有算力精度。

在高算力方面,我們都知道,先進芯片和先進算力之間并不是畫等號的,在算力集群里,傳輸也是極為重要的。為了保障傳輸,英偉達給H100配備了可提供 900 GB/s GPU 間互連的第四代NVlink、可跨節點加速每個GPU通信的NVLINK Switch系統、PCIe 5.0,以保障高效的算力集群。即便是目前主流的A100,英偉達也是為其配備了2TB/s的內存帶寬,以及NVIDIA NVLink、NVIDIA NVSwitch、PCIe 4.0,用以保障傳出。

其二是生態的優勢。英偉達長期占據GPGPU的頭把交椅,并在此過程中持續完善自己的生態。在算力利用的過程中,無論是學習、運算還是開發,往往都需要一個統一的開發架構,優秀的架構才能盡可能釋放GPGPU的算力。在這方面,公開數據顯示,英偉達的CUDA占據了全球大概80%以上的市場。其他公司做的基本都是對標CUDA,比如OpenAI的開發架構Triton,業界往往認為其是簡化版的CUDA。目前,市場上很多芯片只能從理論算力上去對標英偉達,宣稱能夠達到英偉達某款芯片的幾成,然而在實際應用中由于軟件生態的缺失,是要進一步打折扣的。

算力和生態的優勢讓行業界對英偉達的A100和A800趨之若鶩。有代理商爆料稱,目前英偉達主流算力芯片不僅價格走高,同時交貨周期也被拉長,之前拿貨周期大約為一個月,現在基本都需要三個月或更長。甚至,部分新訂單“可能要到12月才能交付”。

產業苦英偉達久矣

目前,英偉達的GPGPU可以說就是AI大模型部署算力的標準。有專家曾表示,做好AI大模型的算力最低門檻是1萬枚英偉達A100芯片。TrendForce研究則顯示,以A100的算力為基礎,GPT-3.5大模型需要高達2萬枚GPU,未來商業化后可能需要超過3萬枚。

業界還預估,國內大概只有3萬塊的英偉達A100芯片存量,其余用于AI大模型的都是新購進的A800特供版。因此,目前國內部分公司已經開始在內部做出限制,除AI大模型相關業務外,其余業務不允許使用A100或者A800提供的算力。

業界一邊在盡力去追求英偉達的高端算力芯片,同時對于價格不斷走高,且供貨周期持續延長的英偉達芯片也是怨聲載道。

因此,目前行業內不斷有聲音出現,要替代英偉達的相關芯片。

比如谷歌第二代TPU,在一些數據吞吐測試中,這款芯片已經能夠和英偉達GPGPU相當。另外有分析師指出,由于一些公司買不到英偉達的高端GPGPU,因此選擇將模型做小,然后選擇AMD公司的CPU或者Cerebras的WSE來進行部署,進而促進了垂直領域和AI大模型的結合。

在國內,也已經有一些公司在推出方案,嘗試在AI大模型領域取代英偉達的芯片。

后記

根據相關統計數據,英偉達A100芯片已經貢獻目前全球數據中心和算力中心業務的50%,成為該公司的搖錢樹。在國內市場,幾天前的報道指出,A800芯片在國內售價被炒到超過10萬元/顆,而且是低配的版本。然而,AIGC時代里,算力就是王道,因此算力芯片便物以稀為貴。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英偉達
    +關注

    關注

    22

    文章

    3948

    瀏覽量

    93698
  • AIGC
    +關注

    關注

    1

    文章

    387

    瀏覽量

    2454
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    合一”平臺,芯片國產化率超九,兼容8種國產AI芯片

    調度平臺可支持每天上億次的調用,能調度全國1/6的規模,網一體化效率提升20%。 ? 為什么要搭建這個“
    的頭像 發表于 04-13 00:03 ?2673次閱讀

    租賃市場爆發,H20遭瘋搶!小心掉坑

    服務器租賃需求也在爆發式的增長,更出現了“一機難求”的盛況。 ? AI 服務器告急,H20 芯片
    的頭像 發表于 04-04 00:13 ?2730次閱讀

    擺脫依賴英偉!OpenAI首次轉向使用谷歌芯片

    地使用非英偉芯片,更顯示出其正在逐步擺脫對英偉芯片的深度依賴,在
    的頭像 發表于 07-02 00:59 ?7045次閱讀

    AIGC基礎設施技術架構與行業實踐

    代提升1.5倍,內存容量288GB,適配千億參數模型訓練需求。 國產突破?:國內首款6nm高性能GPU芯片于2025年5月功點亮,性能對標國際中端產品,已獲億元級訂單;國產
    的頭像 發表于 05-29 07:44 ?146次閱讀
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基礎設施技術架構與行業實踐

    芯片的生態突圍與革命

    據的爆發式增長,大芯片已成為科技競爭的核心領域之一。 ? 大
    的頭像 發表于 04-13 00:02 ?1717次閱讀

    英偉市值一夜蒸發2萬億 英偉股價下跌超8%

    財年第財季和全財年業績數據上看,2025財年第財季及全年的營收和利潤都實現了大幅增長,大家特別關注的數據中心業務也是業績增長的核心動力,展現出英偉在AI領域的強大實力。而且
    的頭像 發表于 03-04 10:19 ?613次閱讀

    實智能助力打造綠色智慧中心

    隨著人工智能、大數據、云計算等新興技術的飛速發展,全球對需求正呈現爆發式增長。作為承載這些技術運行的重要基礎設施,
    的頭像 發表于 02-24 15:52 ?591次閱讀

    超萬個英偉芯片已交付 13000個Blackwell芯片樣品發送給客戶

    就在英偉發布最新的財報數據后,盡管在AI需求強勁推動下英偉營收幾乎翻倍;但是資本市場似乎依然不買賬,
    的頭像 發表于 11-21 19:03 ?1274次閱讀

    英偉第三季度營收幾乎翻倍 但英偉美股盤后一度跌5%

    英偉一直備受關注,在人工智能大浪潮下,英偉股價在2024年上漲200%。
    的頭像 發表于 11-21 16:33 ?1027次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>第三季度營收幾乎翻倍 但<b class='flag-5'>英偉</b><b class='flag-5'>達</b>美股盤后一度跌<b class='flag-5'>近</b>5%

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為
    的頭像 發表于 10-31 10:31 ?665次閱讀

    大模型時代的需求

    現在AI進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04

    成都匯陽投資關于華為新版芯片或挑戰英偉,國產值得關注?

    【華為將推出新款AI 芯片,瞄準英偉中國市場份額】 近年來AI 產業蓬勃發展,資本市場也出現了狂歡,英偉(NVDA.US)、AMD等科技
    的頭像 發表于 08-19 11:44 ?1464次閱讀

    英偉:Hopper芯片需求強勁 英偉發言人談生產增長

    據外媒報道,英偉發言人透露Hopper芯片需求強勁,而且Blackwell 芯片的廣泛采樣也已經開啟。而對于產量問題;則表示有望在下半年實
    的頭像 發表于 08-03 17:25 ?2955次閱讀

    英偉帶領芯片股飆升 英偉大漲4.76%

    1.08%,道指漲0.32%。 AI浪潮之下,業界預期正不斷加強,在AI需求的邊際拉動下、疊加消費電子復蘇,新一輪終端AI上新,相關行業正迎來具備較強持續性的上行周期;英偉
    的頭像 發表于 07-23 16:26 ?624次閱讀