NVIDIA ConnectX 網(wǎng)卡助力社交網(wǎng)絡關鍵任務的分布式應用實現(xiàn)精確計時功能。
Facebook 正在開放其開源計算項目 —— 時間設備項目(OCP TAP)的源代碼,該項目以經(jīng)濟高效的方式提供高度精確的計時功能,以及跨數(shù)據(jù)中心時間同步功能。在 NVIDIA ConnectX-6 Dx 網(wǎng)卡(NIC)的支持下,這項解決方案中的 Time Card 通過精確計時協(xié)議,可以將幾乎所有商用現(xiàn)成的(COTS)服務器變成精確的計時設備,與整個數(shù)據(jù)中心內的其他服務器共享精確計時。
Facebook Time Card 和 NVIDIA 網(wǎng)卡這對組合為數(shù)據(jù)中心運營商提供了一個先進和低成本的時間同步解決方案,并且該解決方案具有開源、安全、可靠和可擴展等特點。
精確的時間為什么對于數(shù)據(jù)中心至關重要
隨著應用的擴展并且 IT 運營遍布全球,保持數(shù)據(jù)中心內不同服務器,或位于各大洲不同數(shù)據(jù)中心的數(shù)據(jù)同步,變得更加重要和困難。
分布式數(shù)據(jù)庫必須追蹤事件的確切順序以保持一致性并顯示因果關系。如果有兩個人試圖購買同一只股票,那么根據(jù)公平性(和合規(guī)性)原則,就必須知道買單的先后順序。同樣,當每小時有上千萬人發(fā)布內容,數(shù)百萬用戶喜歡/稱贊/喜愛這些帖子時,F(xiàn)acebook 必須知道每個帖子、每次點贊、每條回復或每個表情符號的實際發(fā)生順序。
保持數(shù)據(jù)同步的方法之一是讓每個數(shù)據(jù)中心在每件事務操作完成后向其他中心發(fā)送更新,但由于數(shù)據(jù)中心之間的延遲太高,以至于無法支持每小時數(shù)百萬個事件,這種做法很快就變得無法維持。
更好的方法是讓每個服務器和數(shù)據(jù)中心同步到精確的時間,使彼此之間的時間誤差不超過一微秒。這樣每個站點都能追蹤時間,并且當它們與其他數(shù)據(jù)中心共享事件時,能夠正確排序每個事件。
時間同步越精確,應用性能就越快。最近的一項測試表明,將計時精度提高 80 倍(將任何時間差異減小 80 倍)能夠使分布式數(shù)據(jù)庫的運行速度提高 3 倍。在相同的服務器硬件上僅僅通過提高更精確和更可靠的時間就能實現(xiàn)顯著的性能提升。
網(wǎng)卡和網(wǎng)絡在時間同步中的作用
OCP TAP 項目(以及 Facebook 關于開源時間設備的博客文章)確切地定義了 Time Card 如何接收和處理來自 GPS 衛(wèi)星網(wǎng)絡的時間信號,即使在衛(wèi)星信號暫時不可用時,也能保持精確的時間并與時間服務器共享這一精確的時間。同時,網(wǎng)絡以及所使用的網(wǎng)卡也發(fā)揮著至關重要的作用。
時間設備中的網(wǎng)卡必須有一個用于連接 Time Card 的每秒時間脈沖(PPS)端口。這能確保每個時間服務器中 Time Card 和網(wǎng)卡之間的精確時間同步(精確到幾納秒之內)。ConnectX-6 Dx 是首批支持此功能的現(xiàn)代 25/50/100/200Gb/s網(wǎng)卡之一。它還能過濾和檢查傳入的 PPS 信號,并使用其 ASIC 中的硬件在內部維護時間,從而確保精確性和一致性。
計時精度達到次微秒級的時間裝置可以與數(shù)百個使用網(wǎng)絡時間協(xié)議(NTP)的普通服務器或數(shù)萬個使用精確時間協(xié)議(PTP)的服務器共享該計時。由于網(wǎng)絡會增加時間信號的延遲,因此 NTP 和 PTP 通過為數(shù)據(jù)包添加時間戳來測量兩個方向的傳輸時間、將抖動和延遲考慮在內并計算出每個服務器上的正確時間(PTP 的精度更高,因此它開始取代 NTP 協(xié)議)。
另一種方法是使用軟件解決方案來添加時間戳,但在由于擁堵或 CPU 的干擾,用軟件添加時間戳的誤差可能達到幾毫秒,因此以今天的軟件方案添加時間戳是過于難預測、不精確、甚至是不可行的。
相反,ConnectX-6 Dx 網(wǎng)卡和 BlueField-2 DPU 可以在高達 100Gb/s的速度下,在接收的數(shù)據(jù)包到達后和發(fā)送的數(shù)據(jù)包進入網(wǎng)絡前,立即為它們添加硬件時間戳。ConnectX-6 Dx 可以為每一個數(shù)據(jù)包添加時間戳,即使在網(wǎng)絡負載極大的情況下,時間戳的精度誤差也小于 4 納秒(4ns)。
其他大多數(shù)具有時間功能的網(wǎng)卡只對部分數(shù)據(jù)包進行標記并且精度抖動很大,因此在網(wǎng)絡流量大的情況下,它們的時間精確性就會下降。
NVIDIA 網(wǎng)絡解決方案為商用網(wǎng)卡提供最精確的延遲測量,從而在所有服務器上實現(xiàn)最精確的時間,應用層面的時間誤差通常低于一微秒(<1us)。
網(wǎng)絡計時精度的提升意味著每臺服務器上的時間變得更加精確,這將為分布式應用帶來更快的性能(并且為每個人帶來更多的 Facebook “點贊數(shù)”)。
精確時間同步,人人皆可受益
OCP 時間設備項目使任何組織都能獲得精準的計時功能。來自 Facebook、NVIDIA 和 OCP 的開源時間服務器和開源管理工具提供了一個讓每個人都可以像超大規(guī)模用戶一樣輕松使用這項功能的方法。
NVIDIA 所提供的精確時間功能網(wǎng)卡和 DPU(數(shù)據(jù)處理器)具有精確計時設備所需的超精確時間戳和網(wǎng)絡同步功能。當使用 BlueField DPU 時,就可以在其 Arm 核上運行 PTP 棧,從而將時間棧與其他服務器軟件隔離、持續(xù)驗證該服務器內的時間精確性并持續(xù)計算整個數(shù)據(jù)中心的最大時間誤差范圍。
為了發(fā)揮經(jīng)過優(yōu)化的時間服務器和時間同步所帶來的優(yōu)勢,云服務和數(shù)據(jù)庫已經(jīng)增加了基于時間的新命令和 API。這些解決方案一同開啟了精確計時的新時代,提高了分布式應用的性能并為云和企業(yè)帶來新型解決方案。
責任編輯:haq
-
NVIDIA
+關注
關注
14文章
5246瀏覽量
105774 -
服務器
+關注
關注
13文章
9693瀏覽量
87292 -
網(wǎng)卡
+關注
關注
4文章
323瀏覽量
27849 -
云服務
+關注
關注
0文章
850瀏覽量
39559
原文標題:NVIDIA 助力 Facebook 新一代計時系統(tǒng)實現(xiàn)精確計時
文章出處:【微信號:murata-eetrend,微信公眾號:murata-eetrend】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
分布式光伏發(fā)運維系統(tǒng)實際應用案例分享

分布式 IO 模塊:助力實現(xiàn)智慧倉儲

分布式云化數(shù)據(jù)庫有哪些類型
基于ptp的分布式系統(tǒng)設計
HarmonyOS Next 應用元服務開發(fā)-分布式數(shù)據(jù)對象遷移數(shù)據(jù)權限與基礎數(shù)據(jù)
分布式光伏運維云平臺助力光伏電站運營

輸電線路分布式故障定位系統(tǒng)的智能化發(fā)展與創(chuàng)新實踐

分布式通信的原理和實現(xiàn)高效分布式通信背后的技術NVLink的演進

分布式光纖聲波傳感技術的工作原理

分布式輸電線路故障定位中的分布式是指什么

分布式功能安全的創(chuàng)新與突破

分布式故障診斷裝置

評論