IT 世界正在向云轉(zhuǎn)移，云是建立在 Kubernetes 管理的容器上的。我們認(rèn)為，下一個(gè)合乎邏輯的步驟是使用數(shù)據(jù)處理器（ DPU ）加速這一基礎(chǔ)設(shè)施，以提高性能、效率和安全性。

Red Hat 和 NVIDIA 正在構(gòu)建一個(gè)集成的云就緒基礎(chǔ)設(shè)施解決方案， Red Hat OpenShift 的管理和自動化，以及 NVIDIA BlueField DPU 。

紅帽 OpenShift 的好處

許多流行的云基礎(chǔ)設(shè)施項(xiàng)目使用 Kubernetes 管理的容器。然而，實(shí)施 Kubernetes 可能是一項(xiàng)艱巨的任務(wù)，尤其是對于那些無法投入專職人員成為 Kubernetes 專家的組織來說。

Red Hat OpenShift 為管理 Kubernetes 容器以及應(yīng)用程序部署、更新和生命周期管理提供了一套強(qiáng)大的功能。 OpenShift 包括自動化和安全工具，以及受支持的開源模型，以使云基礎(chǔ)設(shè)施更經(jīng)濟(jì)、可靠和可擴(kuò)展。

根據(jù) 2021 的數(shù)據(jù)， 85% 以上的容器編排項(xiàng)目都使用了 Red Hat 調(diào)查， Kubernetes ，而 Red Hat OpenShift 是混合和多云 Kubernetes 部署的最流行選擇。 OpenShift 是業(yè)界領(lǐng)先的企業(yè) Kubernetes 平臺，財(cái)富 500 強(qiáng)中超過 50% 的商業(yè)銀行、電信公司和航空公司都使用該平臺。

顯然，大多數(shù)企業(yè)都想要一個(gè)受支持的 Kubernetes 模型， Red Hat OpenShift 是最受歡迎的選擇之一。

DPU 的工作原理

DPU 卸載、加速基礎(chǔ)設(shè)施工作負(fù)載，并將其與服務(wù)器的 CPU 隔離。例如， BlueField DPU 可以從 CPU 上卸載網(wǎng)絡(luò)、網(wǎng)絡(luò)虛擬化、數(shù)據(jù)加密和時(shí)間同步任務(wù)，并在特制的硅上運(yùn)行。

其他基礎(chǔ)設(shè)施軟件，如遠(yuǎn)程管理、防火墻代理、網(wǎng)絡(luò)控制平面和存儲虛擬化，可以在 BlueField 的 Arm 處理器內(nèi)核上運(yùn)行。這樣做可以釋放服務(wù)器的 CPU 內(nèi)核，而這些內(nèi)核可以運(yùn)行應(yīng)用程序和租戶工作負(fù)載。

該功能還將基礎(chǔ)設(shè)施和安全工作負(fù)載隔離在單獨(dú)的域中。結(jié)果是一組服務(wù)器以更快的網(wǎng)絡(luò)運(yùn)行更多的應(yīng)用程序，提高了數(shù)據(jù)中心的效率和安全性。

在一個(gè)典型的云基礎(chǔ)設(shè)施中，網(wǎng)絡(luò)流量會穿越物理服務(wù)器和在這些服務(wù)器上運(yùn)行的容器。這需要在每臺服務(wù)器中都有一個(gè)分組交換解決方案，為了獲得最大的效率，應(yīng)用程序容器需要一種與 DPU 的加速網(wǎng)絡(luò)卸載進(jìn)行通信的方式。

傳統(tǒng)的方法是通過 Kubernetes 和開放虛擬網(wǎng)絡(luò)（ OVN ）訪問開放虛擬交換機(jī)（開放虛擬交換機(jī)或 OVS ）。 OVN 提供網(wǎng)絡(luò)抽象，默認(rèn)部署策略是在主機(jī)服務(wù)器的 CPU 上同時(shí)運(yùn)行 OVN 和 OVS 。

然而，當(dāng)網(wǎng)絡(luò)速度超過 10 Gbps 時(shí)，這種方法會消耗大量 CPU 核。 Kubernetes 需要一個(gè)解決方案來在 DPU 上運(yùn)行 OVN 和 OVS 功能，這樣所有的數(shù)據(jù)包交換、報(bào)頭重寫、封裝/去封裝和數(shù)據(jù)包過濾都可以在網(wǎng)絡(luò)硬件上完成，而不是在 CPU 上的軟件中完成。

增加紅帽和 NVIDIA 之間的網(wǎng)絡(luò)集成

紅帽和 NVIDIA 已經(jīng)合作，將 OpenShift 的管理能力與 DPU 的加速能力相結(jié)合。

帶有 Red Hat Enterprise Linux 的 整合的第一階段始于 2018 年 將網(wǎng)絡(luò)流量卸載到 NVIDIA ConnectX SmartNIC 。網(wǎng)絡(luò)數(shù)據(jù)平面（使用 OVS 或 DPDK ）在 SmartNIC ASIC 上運(yùn)行，但網(wǎng)絡(luò)控制平面仍完全在 X86 CPU 上的軟件中運(yùn)行。

圖 1 。運(yùn)行在 Red Hat Enterprise Linux 上的 OpenStack SDN 控制器通過 OVS 將網(wǎng)絡(luò)數(shù)據(jù)平面卸載到 NVIDIA ConnectX SmartNIC ，而控制平面在 X86 CPU 上運(yùn)行 。

2021 ，兩家公司采取了下一步行動，將 Red Hat OpenShift 與 NVIDIA BlueField DPU 一起部署，并進(jìn)行了性能基準(zhǔn)測試。在 NVIDIA GTC 2021 年，我們 demonstrated 討論了將網(wǎng)絡(luò)轉(zhuǎn)移到 DPU 的優(yōu)勢，并發(fā)表了一篇文章 通過將網(wǎng)絡(luò)功能轉(zhuǎn)移到 NVIDIA BlueField-2 DPU ，優(yōu)化數(shù)據(jù)中心的服務(wù)器利用率 。

在這個(gè)解決方案中，帶有覆蓋卸載（ OVS 和 Geneve 卸載）的網(wǎng)絡(luò)數(shù)據(jù)平面和網(wǎng)絡(luò)控制平面（在 OVN Kubernetes 吊艙中）在 DPU 上運(yùn)行，并帶有 Red Hat Enterprise Linux 。 OpenShift 的主要組件，包括 Red Hat Enterprise Linux CoreOS ，仍保留在 x86 CPU 上。

圖 2 。運(yùn)行在 Red Hat Enterprise Linux CoreOS 上的 Red Hat OpenShift 通過 OVN 和 OVS 將網(wǎng)絡(luò)數(shù)據(jù)平面和控制平面卸載到 BlueField-2 DPU 。 DPU 在其 Arm 內(nèi)核上運(yùn)行 Red Hat Enterprise Linux 。

在圖 2 中的部署場景中， BlueField-2 在以下方面起著重要作用：

Geneve （虛擬覆蓋網(wǎng)絡(luò)）封裝/去封裝

IPsec 封裝/去封裝

加密/解密路由

網(wǎng)絡(luò)地址轉(zhuǎn)換（ NAT ）

主機(jī) CPU 和容器只看到簡單的未封裝、未加密的數(shù)據(jù)包， CPU 不需要執(zhí)行任何這些任務(wù)，因?yàn)樗鼈儽恍遁d到 DPU 。這種負(fù)載水平將 CPU 利用率降低了 70% ，釋放了每臺服務(wù)器上的大量 CPU 電源，以運(yùn)行額外的業(yè)務(wù)/租戶工作負(fù)載。

在 DPU 上運(yùn)行 OpenShift

如 2022 年 GTC 所述 ， Red Hat 和 NVIDIA 已經(jīng)邁出了下一步，將 OpenShift （包括 Red Hat Enterprise Linux CoreOS ）遷移到 BlueField DPU 的 Arm 內(nèi)核上運(yùn)行 Red Hat OpenShift 雙集群設(shè)計(jì) 這包括獨(dú)立的租戶和基礎(chǔ)設(shè)施集群。

Red Hat Enterprise Linux CoreOS 是 OpenShift 控制平面或主節(jié)點(diǎn)和工作節(jié)點(diǎn)支持的操作系統(tǒng)。這是 OpenShift 中執(zhí)行調(diào)度、維護(hù)、升級和群集自動化的部分。它包括容器管理工具和安全加固，使其更能抵御黑客攻擊，現(xiàn)在它可以在主機(jī) x86 CPU 和 DPU Arm 內(nèi)核上運(yùn)行。

BlueField DPU 在各種主機(jī)服務(wù)器上運(yùn)行 OpenShift OVS 和 OVN 容器以及 Red Hat Enterprise Linux CoreOS ，形成了一個(gè)基礎(chǔ)架構(gòu)工作集群。同時(shí)，在 x86 CPU 上運(yùn)行的 OpenShift 管理租戶吊艙和集群。

將 OpenShift 基礎(chǔ)架構(gòu)群集軟件卸載到 BlueField Arm 內(nèi)核上而不是主機(jī) x86 內(nèi)核上運(yùn)行，可以節(jié)省額外的 x86 CPU 開銷、更高的性能和更強(qiáng)的安全隔離。

圖 3 。從 Red Hat OpenShift 4.10 開始，您可以在 x86 CPU 上運(yùn)行 OpenShift 來管理租戶，也可以在 BlueField DPU Arm 內(nèi)核上運(yùn)行 OpenShift 來管理集群基礎(chǔ)架構(gòu)。

云本機(jī)、軟件定義的網(wǎng)絡(luò)是 BlueField DPU 用例的一個(gè)很好的例子，在 BlueField DPU 環(huán)境中，OVN和OVS在 BlueField DPU 上運(yùn)行并由其卸載。許多其他基礎(chǔ)設(shè)施服務(wù)，如網(wǎng)絡(luò)加密、防火墻代理、虛擬路由器、遙測代理等，也可以在 DPU 上運(yùn)行，以獲得更大的好處。

OpenShift 在 DPU 上卸載帶來了顯著的成本節(jié)約效益

為了了解 DPU 卸載對降低數(shù)據(jù)中心成本的影響， NVIDIA 和 Red Hat 為一個(gè)配備 51K 服務(wù)器的中型數(shù)據(jù)中心構(gòu)建了一個(gè) TCO 模型。我們認(rèn)為該數(shù)據(jù)中心支持 100 萬個(gè)應(yīng)用程序，每個(gè)應(yīng)用程序需要每秒 10 萬個(gè)數(shù)據(jù)包（ PPS ）的交換性能。

我們考慮了 兩種服務(wù)器部署方案 ：有無 DPU ：

沒有 DPU 完全在軟件中運(yùn)行虛擬交換的服務(wù)器僅實(shí)現(xiàn) 350k PPS 。

使用 DPU 將 OVN 和 OVS 卸載到 DPU 的服務(wù)器的性能提高了 54 倍，達(dá)到每臺服務(wù)器 1870 萬個(gè) PPS 。

將虛擬交換機(jī)卸載到 DPU 上也為每臺服務(wù)器節(jié)省了八個(gè) CPU 內(nèi)核。基于此測試， TCO 模型產(chǎn)生了 6850 萬美元的驚人資本支出節(jié)約 。 這些節(jié)約是通過減少 10K DPU 增強(qiáng)型服務(wù)器而實(shí)現(xiàn)的，這是因?yàn)槊颗_服務(wù)器具有更高的網(wǎng)絡(luò)性能和 CPU 核心節(jié)約。

我們看到，由于服務(wù)器占地面積較小而節(jié)省了電力，這最終導(dǎo)致基于 DPU 的服務(wù)器具有更好的 TCO 模型。隨著我們將負(fù)載平衡器、防火墻、加密、 web 服務(wù)器等附加功能卸載到 DPU ，這些 TCO 節(jié)約將變得更好，最終為支持云計(jì)算的數(shù)據(jù)中心實(shí)現(xiàn)驚人的效率。

解決方案路線圖和在 BlueField 上部署 OpenShift

在 BlueField 上運(yùn)行 OpenShift 的雙集群 OpenShift 體系結(jié)構(gòu)現(xiàn)已在 OpenShift 4.10 中作為開發(fā)者預(yù)覽版或早期試用版提供，預(yù)計(jì)將于 2022 年正式提供。

但 NVIDIA 和紅帽隊(duì)并沒有就此止步。我們計(jì)劃測試網(wǎng)絡(luò)流量加密/解密的卸載，因?yàn)檫@是一項(xiàng) CPU 密集型任務(wù)。

BlueField-2 DPU 可以以高達(dá) 100 Gbps 的速度卸載 IPsec 加密/解密，以高達(dá) 200 Gbps 的速度卸載 TLS 加密/解密。

BlueField-3 預(yù)計(jì)將以更高的速度支持 IPSec 、 TLS 和 MACsec 。

從 OpenShift 到 DPU 的線速加密卸載的實(shí)施將提高租戶的數(shù)據(jù)安全性，并幫助您更接近零信任安全狀態(tài)。

與 DPU 的其他潛在集成包括更復(fù)雜的軟件定義的網(wǎng)絡(luò)卸載、在 BlueField 上運(yùn)行防火墻代理、精確時(shí)間同步、帶數(shù)據(jù)包速度的視頻流，以及使用 DPU 收集遙測數(shù)據(jù)。

藍(lán)田 -2 DPU 現(xiàn)在可從 NVIDIA 獲得，藍(lán)田 -3 DPU 將于 2022 年晚些時(shí)候開始采樣。此外， BlueField DPU 不久將在 NVIDIA LaunchPad 云服務(wù)中進(jìn)行測試。

如果您想在運(yùn)行 NVIDIA BlueField DPU 的 Red Hat OpenShift 上進(jìn)行測試或開發(fā)，請使用 表明你的興趣 。

總結(jié)

如果您的公司希望在數(shù)據(jù)中心采用云原生計(jì)算， NVIDIA BlueField DPU 、 Red Hat Enterprise Linux 和 Red Hat OpenShift 的組合將提供一個(gè)高效、創(chuàng)新的開放式混合云平臺，具有新的安全功能。這個(gè)強(qiáng)大的平臺提供硬件加速功能，以運(yùn)行關(guān)鍵的軟件定義的網(wǎng)絡(luò)、存儲和安全功能。

現(xiàn)在，可以分配更多的服務(wù)器資源來運(yùn)行云本地工作負(fù)載，以及傳統(tǒng)的業(yè)務(wù)應(yīng)用程序。

關(guān)于作者

Ash Bhalgat 是 NVIDIA 網(wǎng)絡(luò)業(yè)務(wù)部門的云和電信市場開發(fā)高級總監(jiān)。他領(lǐng)導(dǎo)云和電信解決方案、技術(shù)營銷和合作伙伴生態(tài)系統(tǒng)業(yè)務(wù)開發(fā)，以推動網(wǎng)絡(luò)投資組合收入和市場份額增長。

John Kim 是 NVIDIA 網(wǎng)絡(luò)事業(yè)部的存儲市場總監(jiān)，致力于幫助客戶和供應(yīng)商從高性能網(wǎng)絡(luò)連接、智能網(wǎng)卡卸載和遠(yuǎn)程直接數(shù)據(jù)存取 （RDMA） 中獲益，尤其是在存儲、大數(shù)據(jù)和人工智能領(lǐng)域。John 是非常活躍的博主、會議演講嘉賓和網(wǎng)絡(luò)直播節(jié)目主持人，也是存儲網(wǎng)絡(luò)行業(yè)協(xié)會網(wǎng)絡(luò)存儲論壇 （SNIA NSF） 的主席。John的高科技生涯從 IT 支持人員和網(wǎng)絡(luò)管理員開始，先后在NetApp 和 EMC等企業(yè)級軟件公司以及存儲供應(yīng)商從事解決方案市場、產(chǎn)品管理和生態(tài)聯(lián)盟工作。他于 2013 年加入 Mellanox，之后于 2020 年加入 NVIDIA。

審核編輯：郭婷