隨著DeepSeek等大模型規(guī)模化部署,數(shù)據(jù)中心承載了越來越龐大的數(shù)據(jù)規(guī)模及計(jì)算任務(wù),需要強(qiáng)大的基礎(chǔ)設(shè)施來支持?jǐn)?shù)據(jù)傳輸和通信,對(duì)底層存儲(chǔ)系統(tǒng)也提出了更大挑戰(zhàn):存儲(chǔ)設(shè)備不僅要滿足海量數(shù)據(jù)的高吞吐、低時(shí)延需求,同時(shí)還需兼顧成本,以實(shí)現(xiàn)最佳TCO(總體擁有成本)。
數(shù)據(jù)中心TCO包含哪些方面?作為存儲(chǔ)廠商又該如何進(jìn)行優(yōu)化?正如DeepSeek深度思考提供的答案,數(shù)據(jù)中心TCO 的核心由:硬軟件采購成本、能源及散熱管理成本、運(yùn)維與人力成本、故障與風(fēng)險(xiǎn)成本、擴(kuò)展與升級(jí)成本構(gòu)成。而存儲(chǔ)廠商的TCO優(yōu)化策略應(yīng)通過“硬件創(chuàng)新(高密度、低功耗)、智能化運(yùn)維(遠(yuǎn)程管理、預(yù)測(cè)性維護(hù))和可靠性設(shè)計(jì)(數(shù)據(jù)保護(hù),冗余機(jī)制)”三大方向,系統(tǒng)性降低TCO,將“被動(dòng)運(yùn)維”轉(zhuǎn)化為“主動(dòng)優(yōu)化”,提高資源利用率,從數(shù)據(jù)存儲(chǔ)的全生命周期視角持續(xù)優(yōu)化 TCO。
作為面向超大規(guī)模數(shù)據(jù)中心設(shè)計(jì)的存儲(chǔ)產(chǎn)品,憶聯(lián)PCIe5.0 SSD UH812a/UH832a基于硬件創(chuàng)新及多重算法加持,展現(xiàn)出超高的能效比及場(chǎng)景適配能力,可幫助數(shù)據(jù)中心優(yōu)化TCO,實(shí)現(xiàn)降本增效。
洞察大模型需求
UH812a/UH832a展現(xiàn)超高能效比
大模型訓(xùn)練與推理對(duì)存儲(chǔ)系統(tǒng)的性能要求極為嚴(yán)苛:一方面,需要存儲(chǔ)設(shè)備支持高并發(fā)、低時(shí)延的隨機(jī)讀寫操作,以滿足模型參數(shù)頻繁調(diào)用的需求;另一方面,隨著數(shù)據(jù)規(guī)模指數(shù)級(jí)增長(zhǎng),存儲(chǔ)設(shè)備的能耗與冷卻成本也成為企業(yè)不可忽視的負(fù)擔(dān)。憶聯(lián)UH812a/UH832a通過高性能、低功耗優(yōu)化設(shè)計(jì),實(shí)現(xiàn)了能效比的全面提升。
存力飛躍:
順序讀性能直逼15GB/s,滿足大模型計(jì)算需求
憶聯(lián)UH812a/UH832a基于PCIe 5.0接口標(biāo)準(zhǔn),性能較上一代Gen4產(chǎn)品(UH811a/UH831a)實(shí)現(xiàn)翻倍。其中,順序讀寫性能高達(dá)14900/10500 MB/s,隨機(jī)讀寫性能高達(dá)3500K/1000K IOPS。這一性能優(yōu)勢(shì)不僅能夠輕松應(yīng)對(duì)大模型訓(xùn)練中動(dòng)輒PB級(jí)的數(shù)據(jù)加載需求,更為金融交易、電商平臺(tái)及社交互動(dòng)等實(shí)時(shí)業(yè)務(wù)場(chǎng)景提供了極低的時(shí)延響應(yīng),確保數(shù)據(jù)快速讀寫,業(yè)務(wù)體驗(yàn)流暢絲滑。
功耗調(diào)優(yōu):
從芯片到系統(tǒng)的全鏈路節(jié)能
公開數(shù)據(jù)顯示,電力成本在數(shù)據(jù)中心運(yùn)營(yíng)成本中占比高達(dá)60%,因此能源消耗是數(shù)據(jù)中心主要運(yùn)營(yíng)成本之一。憶聯(lián)通過控制器芯片與固件算法的深度協(xié)同,將UH812a/UH832a的順序讀峰值功耗控制在18W以內(nèi),并實(shí)現(xiàn)了低于5W超低待機(jī)功耗。同時(shí),UH812a/UH832a內(nèi)置的多種功耗模式及動(dòng)態(tài)調(diào)節(jié)功能,可以根據(jù)不同業(yè)務(wù)負(fù)載自動(dòng)匹配芯片主頻及內(nèi)部資源,實(shí)現(xiàn)全場(chǎng)景業(yè)務(wù)負(fù)載下的用電效率最優(yōu)解,做到盤級(jí)綠色節(jié)能,有效降低數(shù)據(jù)中心運(yùn)營(yíng)成本。
◎憶聯(lián)自適應(yīng)功能調(diào)節(jié)技術(shù)
超高能效比:
較前代產(chǎn)品最高提升220%
能效比(每瓦IOPS)是衡量存儲(chǔ)效率的重要指標(biāo)。憶聯(lián)UH812a/UH832a通過全面的性能、功耗調(diào)優(yōu),可為數(shù)據(jù)中心業(yè)務(wù)場(chǎng)景提供更優(yōu)的SSD能效比。以大模型訓(xùn)練及推理中使用較多的順序讀為例,對(duì)比上一代Gen4產(chǎn)品(UH811a),UH812a 7.68T的順序讀寫能效均實(shí)現(xiàn)翻倍提升,最高達(dá)到1.4倍;各個(gè)容量點(diǎn)隨機(jī)混合讀寫能效提升1倍-2.2倍,這意味著SSD可以在消耗更少功率的同時(shí)提供更高性能,從而顯著節(jié)省能源費(fèi)用和冷卻成本。
適配AI場(chǎng)景
多項(xiàng)技術(shù)特性助力企業(yè)降本增效
大模型的應(yīng)用場(chǎng)景復(fù)雜多樣,從云端訓(xùn)練到邊緣推理,從高并發(fā)數(shù)據(jù)庫到混合負(fù)載業(yè)務(wù),存儲(chǔ)系統(tǒng)需具備高度的場(chǎng)景適配能力。憶聯(lián)通過硬件創(chuàng)新及算法優(yōu)化,為企業(yè)提供靈活、高效的適配方案。
SR-IOV:
釋放算力資源,提升資源利用率
針對(duì)云計(jì)算場(chǎng)景中虛擬機(jī)(VM)與容器化部署的普遍需求,憶聯(lián)UH812a/UH832a支持SR-IOV(單根I/O虛擬化)特性,可將SSD資源直接映射至多個(gè)虛擬實(shí)例,減少傳統(tǒng)虛擬化方案中Hypervisor層的CPU開銷,使更多資源聚焦于模型計(jì)算本身。
順序?qū)憟?chǎng)景下,SR-IOV優(yōu)化各VF的性能隔離調(diào)度邏輯,使各VF間的性能隔離度更好,對(duì)比上一代Gen4產(chǎn)品(UH811a/UH831a),UH812a/UH832a性能波動(dòng)性由原來的5%降低到1%,能效比提高32%(實(shí)測(cè)性能/平均功耗),通過高效精確的VF Qos 調(diào)優(yōu)技術(shù),平均時(shí)延降低20%。
智能多流:
降低寫放大,延長(zhǎng)SSD使用壽命
寫放大是SSD壽命受限的主要原因之一,大模型場(chǎng)景下的頻繁寫入操作極易導(dǎo)致SSD寫放大,進(jìn)而影響設(shè)備壽命。憶聯(lián)企業(yè)級(jí)SSD的智能多流特性,采用Multi-Stream技術(shù)和智能冷熱數(shù)據(jù)分類算法,優(yōu)化后端數(shù)據(jù)排布,減少不必要的重復(fù)擦寫和數(shù)據(jù)搬遷,使SSD在處理多樣化數(shù)據(jù)時(shí)能高效利用存儲(chǔ)空間,在云數(shù)據(jù)中心典型業(yè)務(wù)場(chǎng)景下,SSD使用壽命可提升約12%。
QoS及TRIM優(yōu)化:
保障SSD穩(wěn)態(tài)性能,提升用戶體驗(yàn)
面向數(shù)據(jù)中心多樣化業(yè)務(wù)場(chǎng)景,憶聯(lián)QoS優(yōu)化策略可根據(jù)客戶業(yè)務(wù)需求進(jìn)行存儲(chǔ)資源的優(yōu)先級(jí)劃分、動(dòng)態(tài)分配和流量管理,確保關(guān)鍵業(yè)務(wù)性能,降低延遲。如針對(duì)互聯(lián)網(wǎng)電商節(jié)日促銷等突發(fā)IO場(chǎng)景,QoS優(yōu)化能夠優(yōu)先保障交易系統(tǒng)的性能,確保訂單處理及時(shí)性,保障業(yè)務(wù)體驗(yàn)。
與此同時(shí),憶聯(lián)SSD內(nèi)置的TRIM指令也能通過加速無效數(shù)據(jù)回收,有效降低AI場(chǎng)景中的性能衰減問題,實(shí)現(xiàn)業(yè)務(wù)加速。基于4K randtrim場(chǎng)景,UH812a/UH832a較上一代Gen4產(chǎn)品(UH811a/UH831a)能力提升3.6倍,輕松適配AI訓(xùn)練和推理、OLAP和大數(shù)據(jù) 、HPC、BI等多場(chǎng)景,為客戶提供全生命周期穩(wěn)態(tài)性能,助力業(yè)務(wù)高效運(yùn)行。
響應(yīng)高效及時(shí)
智能化管理重塑運(yùn)維效率
存儲(chǔ)系統(tǒng)的TCO不僅取決于硬件的能源效率及運(yùn)營(yíng)成本,更與設(shè)備運(yùn)維、故障率、人力投入等長(zhǎng)期因素密切相關(guān)。憶聯(lián)通過智能化運(yùn)維設(shè)計(jì),有效提升了管理效率、縮短響應(yīng)時(shí)間,降低數(shù)據(jù)中心的整體運(yùn)維成本。
憶聯(lián)SSD支持完善的NVMe-MI(帶外管理)功能,配合服務(wù)器BMC系統(tǒng),運(yùn)維人員能夠遠(yuǎn)程對(duì)設(shè)備的健康狀態(tài)進(jìn)行實(shí)時(shí)監(jiān)控和預(yù)警,通過對(duì)關(guān)鍵指標(biāo)的持續(xù)跟蹤,提前發(fā)現(xiàn)潛在問題并采取預(yù)防性措施,避免故障發(fā)生。
例如,通過SSD動(dòng)態(tài)溫度監(jiān)控和調(diào)節(jié)功能,可以實(shí)時(shí)監(jiān)測(cè)存儲(chǔ)設(shè)備的運(yùn)行溫度,并根據(jù)負(fù)載情況自動(dòng)調(diào)節(jié)功耗和散熱策略,當(dāng)溫度超過閾值時(shí),可自動(dòng)進(jìn)入低功耗模式以避免過熱宕機(jī),這種智能化設(shè)計(jì)不僅降低了能耗,還提升了運(yùn)維管理效率,讓SSD故障率大幅降低,避免因突發(fā)問題導(dǎo)致的業(yè)務(wù)中斷及停機(jī)風(fēng)險(xiǎn)。
以最佳TCO存儲(chǔ)解決方案
共筑大模型新生態(tài)
在DeepSeek等大模型加速落地的今天,存儲(chǔ)系統(tǒng)的價(jià)值已從單純的“數(shù)據(jù)容器”升級(jí)為“智能化基礎(chǔ)設(shè)施的核心組件”。憶聯(lián)基于產(chǎn)品的高能效比設(shè)計(jì)、場(chǎng)景化技術(shù)特性構(gòu)建及智能化運(yùn)維能力,為數(shù)據(jù)中心客戶提供最佳TCO存儲(chǔ)解決方案。以UH812a為例,其單位成本下的性能(IOPS per $)指標(biāo)比上一代Gen4產(chǎn)品(UH811a/UH831a)提升了1.62-2.2倍。這不僅能為客戶節(jié)省數(shù)據(jù)中心整體使用成本,同時(shí)存儲(chǔ)效率、可靠性的提升也將為用戶提供更好的業(yè)務(wù)體驗(yàn),助力企業(yè)長(zhǎng)期業(yè)務(wù)增長(zhǎng),實(shí)現(xiàn)經(jīng)濟(jì)效益與社會(huì)效益的協(xié)同與共贏,增強(qiáng)企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力。
未來,隨著AI與云計(jì)算的深度融合,憶聯(lián)將持續(xù)以技術(shù)創(chuàng)新突破存儲(chǔ)邊界,為千行百業(yè)的智能化轉(zhuǎn)型夯實(shí)存力底座,攜手伙伴共筑大模型新生態(tài)。
-
SSD
+關(guān)注
關(guān)注
21文章
2949瀏覽量
119102 -
數(shù)據(jù)中心
+關(guān)注
關(guān)注
16文章
5138瀏覽量
73192 -
pcle
+關(guān)注
關(guān)注
0文章
30瀏覽量
5896 -
DeepSeek
+關(guān)注
關(guān)注
1文章
773瀏覽量
1328
原文標(biāo)題:追求最佳TCO,憶聯(lián)PCle 5.0 SSD為大模型加速
文章出處:【微信號(hào):UnionMemory憶聯(lián),微信公眾號(hào):UnionMemory憶聯(lián)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
誰說高性能必須高能耗?揭秘企業(yè)級(jí)SSD功耗管理“黑科技”

適用于數(shù)據(jù)中心和AI時(shí)代的800G網(wǎng)絡(luò)
優(yōu)化800G數(shù)據(jù)中心:高速線纜、有源光纜和光纖跳線解決方案
憶聯(lián)PCIe 5.0 SSD支撐大模型全流程訓(xùn)練

美光科技推出業(yè)界首款PCIe 5.0 60TB數(shù)據(jù)中心SSD
開放協(xié)同 憶聯(lián)新一代PCIe Gen5企業(yè)級(jí)SSD攜手新華三智算新品持續(xù)進(jìn)化

Kioxia發(fā)布PCIe 5.0 EDSFF E1.S SSD
SK海力士推出高性能數(shù)據(jù)中心SSD PEB110
憶聯(lián)PCle Gen5 SSD榮獲“閃存產(chǎn)品創(chuàng)新獎(jiǎng)”
Solidigm發(fā)布高性能PCIe 5.0 SSD,引領(lǐng)數(shù)據(jù)中心存儲(chǔ)新紀(jì)元
Solidigm推出兩款數(shù)據(jù)中心固態(tài)存儲(chǔ)硬盤(SSD)
美光推出全新數(shù)據(jù)中心 SSD,性能業(yè)界領(lǐng)先
美光推出9550系列數(shù)據(jù)中心PCIe 5.0 SSD
憶聯(lián)全場(chǎng)景存儲(chǔ)解決方案助力金融數(shù)據(jù)中心存力飛躍

憶聯(lián)SSD存儲(chǔ)解決方案亮相2024中國國際金融展

評(píng)論