女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

一起來看看RDMA讓網絡實現低時延的絕招

鮮棗課堂 ? 來源:中興文檔 ? 作者:中興文檔 ? 2022-11-24 09:50 ? 次閱讀

眾所周知,互聯網數據的爆炸式增長,給數據中心的處理能力帶來了很大的挑戰。

計算、存儲和網絡,是推動數據中心發展的三駕馬車。

計算隨著CPUGPUFPGA的發展,算力得到了極大的提升。存儲隨著閃存盤(SSD)的引入,數據存取時延已大幅降低。

但是,網絡的發展明顯滯后,傳輸時延高,逐漸成為了數據中心高性能的瓶頸。

fb502ce2-6b27-11ed-8abf-dac502259ad0.png

在數據中心內,70%的流量為東西向流量(服務器之間的流量)。這些流量,一般為數據中心進行高性能分布式并行計算時的過程數據流,通過TCP/IP網絡傳輸。

如果服務器之間的TCP/IP傳輸速率提升了,數據中心的性能自然也會跟著提升。

fb63bde8-6b27-11ed-8abf-dac502259ad0.png

下面,我們就來看看服務器之間數據TCP/IP傳輸的過程,了解一下“時間都去哪了”,才好“對癥下藥”。

服務器間的TCP/IP傳輸

在數據中心,服務器A向服務器B發送數據的過程如下: fb9f5d1c-6b27-11ed-8abf-dac502259ad0.png

1、CPU控制數據由A的APP Buffer拷貝到操作系統Buffer。

2、CPU控制數據在操作系統(OS)Buffer中添加TCP、IP報文頭。

3、添加TCP、IP報文頭后的數據傳送到網卡(NIC),添加以太網報文頭。

4、報文由網卡發送,通過以太網絡傳輸到服務器B網卡。

5、服務器B網卡卸載報文的以太網報文頭后,將其傳輸到操作系統Buffer。

6、CPU控制操作系統Buffer中的報文卸載TCP、IP報文頭。

7、CPU控制卸載后的數據傳輸到APP Buffer中。

從數據傳輸的過程可以看出,數據在服務器的Buffer內多次拷貝,在操作系統中需要添加/卸載TCP、IP報文頭,這些操作既增加了數據傳輸時延,又消耗了大量的CPU資源,無法很好得滿足高性能計算的需求。

那么,如何構造高吞吐量、超低時延和低CPU開銷的高性能數據中心網絡呢?

RDMA技術可以做到。

什么是RDMA

RDMA( Remote Direct Memory Access,遠程直接地址訪問技術 )是一種新的內存訪問技術,可以讓服務器直接高速讀寫其他服務器的內存數據,而不需要經過操作系統/CPU耗時的處理。

RDMA不算是一項新技術,已經廣泛應用于高性能(HPC)科學計算中。隨著數據中心高帶寬、低時延的發展需求,RDMA也開始逐漸應用于某些要求數據中心具備高性能的場景中。

舉個例子,2021年某大型網上商城的雙十一交易額再創新高,達到5000多億,比2020年又增長了近10%。如此巨大的交易額背后是海量的數據處理,該網上商城采用了RDMA技術來支撐高性能網絡,保障了雙十一的順暢購物。

下面我們一起來看看RDMA讓網絡實現低時延的絕招吧。

RDMA將服務器應用數據直接由內存傳輸到智能網卡(固化RDMA協議),由智能網卡硬件完成RDMA傳輸報文封裝,解放了操作系統和CPU。

fbe20df6-6b27-11ed-8abf-dac502259ad0.png

這使得RDMA具有兩大優勢:

Zero Copy(零拷貝):無需將數據拷貝到操作系統內核態并處理數據包頭部的過程,傳輸延遲會顯著減小。

Kernel Bypass(內核旁路)和Protocol Offload(協議卸載):不需要操作系統內核參與,數據通路中沒有繁瑣的處理報頭邏輯,不僅會使延遲降低,而且也大大節省了CPU的資源。

fc0fb8dc-6b27-11ed-8abf-dac502259ad0.png

三大RDMA網絡

目前,大致有三類RDMA網絡,分別是InfiniBand、RoCE(RDMA over Converged Ethernet,RDMA過融合以太網)和iWARP(RDMAover TCP,互聯網廣域RDMA協議)。

RDMA最早專屬于Infiniband網絡架構,從硬件級別保證可靠傳輸,而RoCE和iWARP都是基于以太網的RDMA技術。

InfiniBand

InfiniBand是一種專為RDMA設計的網絡。

采用Cut-Through轉發模式(直通轉發模式),減少轉發時延。

基于Credit的流控機制(基于信用的流控機制),保證無丟包。

要求InfiniBand專用的網卡、交換機和路由器,建網成本最高。

RoCE

傳輸層為InfiniBand協議。

RoCE有兩個版本:RoCEv1基于以太網鏈路層實現,只能在L2層傳輸;RoCEv2基于UDP承載RDMA,可部署于三層網絡。

需要支持RDMA專用智能網卡,不需要專用交換機和路由器(支持ECN/PFC等技術,降低丟包率),建網成本最低。

iWARP

傳輸層為iWARP協議。

iWARP是以太網TCP/IP協議中TCP層實現,支持L2/L3層傳輸,大型組網TCP連接會消耗大量CPU,所以應用很少。

iWARP只要求網卡支持RDMA,不需要專用交換機和路由器,建網成本介于InfiniBand和RoCE之間。

Infiniband技術先進,但是價格高昂,應用局限在HPC高性能計算領域,隨著RoCE和iWARPC的出現,降低了RDMA的使用成本,推動了RDMA技術普及。

在高性能存儲、計算數據中心中采用這三類RDMA網絡,都可以大幅度降低數據傳輸時延,并為應用程序提供更高的CPU資源可用性。

其中,InfiniBand網絡為數據中心帶來極致的性能,傳輸時延低至百納秒,比以太網設備延時要低一個量級。

RoCE和iWARP網絡為數據中心帶來超高性價比,基于以太網承載RDMA,充分利用了RDMA的高性能和低CPU使用率等優勢,同時網絡建設成本也不高。

基于UDP協議的RoCE比基于TCP協議的iWARP性能更好,結合無損以太網的流控技術,解決了丟包敏感的問題。RoCE網絡,已廣泛應用于各行業高性能數據中心中。

結語

隨著5G人工智能、工業互聯網等新型領域的發展,RDMA技術的應用會越來越普及,RDMA將成為助力數據中心高性能的一大功臣。







審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    12

    文章

    9673

    瀏覽量

    87211
  • SSD
    SSD
    +關注

    關注

    21

    文章

    2945

    瀏覽量

    119072
  • HPC
    HPC
    +關注

    關注

    0

    文章

    332

    瀏覽量

    24184
  • TCP協議
    +關注

    關注

    1

    文章

    101

    瀏覽量

    12326
  • RDMA
    +關注

    關注

    0

    文章

    82

    瀏覽量

    9194

原文標題:到底什么是RDMA?為什么數據中心需要它?

文章出處:【微信號:鮮棗課堂,微信公眾號:鮮棗課堂】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    創建列表 (List) 介紹,一起來看看是做什么的

    開始到距離結束端10vp的位置,畫條粗細為1vp的分割線,可以實現圖9設置列表分隔線的樣式。 說明: 分隔線的寬度會使ListItem之間存在定間隔,當List設置的內容間距小于分隔線
    發表于 04-30 07:06

    80張傳感器工作原理圖的資料合集

    、記錄和控制等要求,是實現自動檢測和自動控制的首要環節。傳感器的存在和發展,物體有了觸覺、味覺和嗅覺等感官,物體慢慢變得活了起來。 下面,讓我們
    發表于 04-27 16:53

    文詳解以太網RDMA技術

    在現代計算機網絡中,傳輸效率和是高性能計算、云計算、分布式存儲等應用的關鍵需求。而遠程直接內存訪問(RDMA,Remote Direct Memory Access)技術因其高效
    的頭像 發表于 03-10 11:09 ?1795次閱讀
    <b class='flag-5'>一</b>文詳解以太網<b class='flag-5'>RDMA</b>技術

    如何實現開源開放生態下的RDMA網絡監控?

    在當今AI、大模型飛速發展的時代,RDMA(Remote Direct Memory Access,遠程直接內存訪問)網絡技術憑借其延遲、高吞吐量的特性,在數據中心、高性能計算等領域得到了廣泛應用
    的頭像 發表于 03-03 13:42 ?360次閱讀
    如何<b class='flag-5'>實現</b>開源開放生態下的<b class='flag-5'>RDMA</b><b class='flag-5'>網絡</b>監控?

    加速網絡性能:融合以太網 RDMA (RoCE) 的影響

    直接內存訪問 (RDMA) (RoCE)。這項突破性技術促進了系統之間的直接數據傳輸,無需 CPU 干預,從而顯著減少延遲并提高整體系統性能。[愛波]家著名的 FPGA 設計公司處于這進步的最前沿,通過將 AMD 的 ERN
    的頭像 發表于 01-25 11:50 ?664次閱讀
    加速<b class='flag-5'>網絡</b>性能:融合以太網 <b class='flag-5'>RDMA</b> (RoCE) 的影響

    AN-166:與Linduino一起飛行中更新

    電子發燒友網站提供《AN-166:與Linduino一起飛行中更新.pdf》資料免費下載
    發表于 01-12 10:09 ?0次下載
    AN-166:與Linduino<b class='flag-5'>一起</b>飛行中更新

    磁致伸縮位移傳感器的品牌有哪些?一起來看看吧!

    磁致伸縮位移傳感器的品牌有哪些?MTS 在全球磁致伸縮位移傳感器市場中處于領先地位。其產品廣泛應用于石油、化工、電力、冶金、機械設備、汽車、船舶、制藥、食品、木材加工、水利、環保、航空航天等眾多行業。MTS 憑借其卓越的性能和品質,在該領域具有較高的知名度和市場影響力。CARLEN德國卡倫在工業自動化領域具有較高的知名度,其磁致伸縮位移傳感器廣泛應用于石油、
    的頭像 發表于 12-30 16:28 ?820次閱讀
    磁致伸縮位移傳感器的品牌有哪些?<b class='flag-5'>一起來看看</b>吧!

    測速電機的工作原理和種類與性能 目前見過最全的 一起來看看

    測速電機的工作原理和種類與性能:測速電機是種特殊的電機,主要由電機和測速器兩部分組成。其中測速器通常采用霍爾元件、磁敏感元件或光電傳感器等。其作用主要是測量和控制電機轉速,通過感應電機轉子的位置
    的頭像 發表于 11-20 15:57 ?1088次閱讀
    測速電機的工作原理和種類與性能 目前見過最全的 <b class='flag-5'>一起來看看</b>吧

    RoCE與IB對比分析():協議棧層級篇

    在 AI 算力建設中, RDMA 技術是支持高吞吐、延遲網絡通信的關鍵。目前,RDMA技術主要通過兩種方案實現:Infiniband和Ro
    的頭像 發表于 11-15 13:58 ?1929次閱讀
    RoCE與IB對比分析(<b class='flag-5'>一</b>):協議棧層級篇

    以太網RDMA RoCE的技術局限

    上期我們講到了RDMA的WHY,WHAT & HOW(AI網絡背景下RDMA的Why,What & How),這期我們來談
    的頭像 發表于 10-22 10:02 ?1151次閱讀
    以太網<b class='flag-5'>RDMA</b> RoCE的技術局限

    請問tas5731m PBTL模式,單聲道輸出(AB連一起,CD連一起)如何實現左右聲道的混音輸出?

    請問tas5731m PBTL模式,單聲道輸出(AB連一起,CD連一起)如何實現左右聲道的混音輸出 還有開發軟件里能直接拉線么
    發表于 10-17 06:23

    模擬地和電源地能接在一起

    模擬地和電源地是否能接在一起,取決于電子系統的具體要求和設計。在電子系統中,地(Ground)是個共同的參考點,用于構建電位參考平面。電源地是所有電源網絡的參考點,用于確保電源的穩定性和系統的正常工作。模擬地則與模擬電路相關,
    的頭像 發表于 09-15 11:43 ?2757次閱讀

    選2088還是3051?一起來說說TA們的不同~

    作為工業實踐中最常用的現場儀表,變送器被廣泛應用于各種工業自控環境,涉及水利水電、鐵路交通、智能建筑、生產自控、航空航天、石化、油井、電力、船舶、機床、管道等眾多行業。今天我們一起來看看「2088壓力變送器」、「3051差壓變送器」這兩款變送器有啥區別?
    的頭像 發表于 09-02 10:40 ?1176次閱讀
    選2088還是3051?<b class='flag-5'>一起來</b>說說TA們的不同~

    鋇錸技術BL102 PLC轉MQTT網關:三菱PLC數據高效上傳至華為云平臺

    鋇錸技術推出了PLC轉MQTT網關來實現三菱PLC數據的高效采集與上傳至華為云平臺,一起來看看
    的頭像 發表于 07-31 14:48 ?893次閱讀
    鋇錸技術BL102 PLC轉MQTT網關:三菱PLC數據高效上傳至華為云平臺

    物聯網在智慧校園中的應用有哪些?一起來看

    隨著物聯網技術的快速發展,其在智慧校園中的應用正逐漸改變傳統的教育方式和校園管理模式。本文將深入探討物聯網在智慧校園中的多種應用。物聯網在智慧校園中的應用涵蓋了多個方面:、智能化管理校園設施物聯網
    的頭像 發表于 07-23 09:06 ?2785次閱讀
    物聯網在智慧校園中的應用有哪些?<b class='flag-5'>一起來看</b>!