女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

高算力AI模組前沿應用:基于ARM架構的SoC陣列式服務器

美格智能 ? 2023-07-27 17:48 ? 次閱讀

本期我們帶來高算力AI模組前沿應用,基于ARM架構的SoC陣列式服務器相關內容。澎湃算力、創新架構、異構計算,有望成為未來信息化社會的智能算力底座。

▌性能優勢+AI驅動,ARM架構服務器加速滲透

一直以來,基于ARM架構的各類處理器芯片,以其低功耗、高效能、高可靠性、成本優勢等綜合特性,廣泛應用于手機、平板電腦物聯網終端設備等各類通信及電子產品領域,極大推動了人類社會的信息化和智能化進程。

而在服務器領域,之前一直是基于X86架構的產品占據主導,近年來,隨著下游對于異構算力、智能算力需求的不斷增長,以及類似于云游戲等安卓原生態應用的大規模興起,越來越多的廠商開始將ARM架構應用于服務器領域,并推出了一系列相關產品。

去年以來,在智能算力需求的不斷增長,以及生成式AI對于異構算力的龐大需求,ARM架構服務器在云游戲、數字人等新興應用市場展現出獨特優勢,而對于傳統服務器領域的滲透,也有加速的跡象。

ARM架構服務器的特點:

一、低功耗:ARM架構具有低功耗優勢,其采用的處理器芯片,與傳統X86架構芯片相比功耗更低,且具有更高的能效比,在IDC架構中集成ARM服務器,可以降低電費支出、節約能源消耗。

二、高效能:ARM架構具有更好的多核線程驅動性能,能夠實現更好的并行處理和任務處理能力。

三、成本低:ARM架構處理器芯片,較X86架構芯片的制造成本更低,ARM架構服務器價格具有極高性價比,且開發成本更低。

四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和穩定性。

017cb75b17914ea801202e602932e1.webp.jpg

據了解,亞馬遜、浪潮、騰訊、百度、阿里等頭部企業,都推出了基于ARM架構的服務器產品,因其低功耗、高性價比、高效能等優勢、在云計算、物聯網、智能交通、醫療健康等領域有廣泛應用。

據TrendForce集邦咨詢研究顯示,近年企業對于人工智能、高效能運算等數字轉型需求加速,帶動云端采用比例增加,全球主要云端服務業者為提升服務彈性,陸續導入ARM架構服務器,預期至2025年ARM架構在數據中心服務器滲透率將達22%

▌基于ARM架構的SoC陣列式服務器,智能算力領域的新興力量

以ARM架構為基礎,創新性的采用SoC芯片作為算力來源,以靈活的陣列式架構打造的SoC陣列式服務器,也逐步進入企業級IDC以及各類邊緣計算場景。這是一種專門針對企業級數據中心和邊緣場景面臨的空間制約和節能要求而優化設計的高密服務器,以高能效比、高性價比、高密度為設計原則,在一個機架式機箱內集成多達40路、60路、80路等針對服務器場景專門定制的高算力模組或者算力板,可為各類行業客戶構建適低成本、高密度、高并發、高性能的算力集群。

服務器內布置的每個算力模組或者算力板都是一個可以獨立運行的最小系統,包含CPUGPU、NPU、存儲、網絡等。相關SoC陣列式服務器可根據客戶需求、定制多種算力節點、其內部采用模塊化及熱插拔設計,可以實現不停機維護。在通信方面配置了10G/25G交換節點,支持SDN自動化網絡部署,并且內置了多維智能管理節點,可以進行全方位遠程運維工作,有效減低運維成本。

以云游戲場景為例,隨著《原神》、《崩壞》等爆款游戲的全球風靡,除了游戲運行向移動端轉移外,也極大帶動了云游戲市場的迅速擴展。而傳統的通用型服務器,在支撐云游戲運行上,存在兼容性差、成本高昂等問題,而ARM架構的陣列式服務器,基于對安卓生態天然的兼容性,避免了服務器端到應用端的軟件架構轉換以及轉換過程中的性能損耗,近年來在云游戲場景,幾乎占據主導地位,目前正逐步向數字人、工業視覺、邊緣AI、云XR渲染等領域拓展。

▌美格高算力AI模組,為SoC陣列式服務器提供澎湃算力

美格智能作為行業內最早推出高算力AI模組產品的企業,也不斷推動AI模組產品在服務器、機器人、AI零售、無人機、云游戲、數字人、云桌面、云教育、工業AI檢測、云XR等各領域的深度應用,從而真正讓產品的AI能力能夠助力行業。

美格智能助力客戶定制推出SoC陣列服務器產品,集成了CPU+GPU+NPU+TPU復合異構算力集群,可以構建大規模智能算力矩陣;每個算力節點采用刀片+陣列式設計,支持熱插拔,輕松維護;整機80GB帶寬,每個板卡滿負載1GB帶寬;內置BMC多功能綜合監控可視化管理系統,可輕松遠程管理。

13.jpg

▲內置美格智能高算力AI模組SNM970的陣列式服務器終端

該SoC陣列式服務器,采用美格智能為其專門定制的高算力AI模組SNM970,基于高通 QCS8550(8 Gen2)研發,支持16GB LPDDR5X + 256GB UFS 4.0內存,服務器中最高可配置80路高算力AI模組,單顆模組內部支持Android虛擬化,可虛擬出多路計算單元(如80路模組服務器,單顆模組根據下游算力需求,可以虛擬出多路虛擬機,比如虛擬出4路的情況下則可同時支撐320臺諸如手機等終端同時運行云游戲),更好的進行算力配置,充分發揮了高算力、高性價比、高能效比的優勢,為實時互動云計算、邊緣AI云計算、云渲染等業務場景提供最佳算力底座。

隨著各行各業對于算力需求的爆發式增長,以及新興應用場景對于創新型服務器的迫切需求,美格智能也將加大力度推動高算力AI模組在服務器領域的深度應用。

目前,美格智能團隊已經與行業領先的SoC陣列式服務器客戶密切協作,陸續打造出了針對SoC陣列式服務器場景,基于高通驍龍865/SM8475/QCS8550三代SoC芯片的深度定制的算力模組,同時做到封裝兼容,更好助力客戶產品的算力提升和產品迭代,為相關產品后續在AIGC領域的應用推廣,以及向傳統服務器市場的滲透,提供更好助力。

中國電信終端產業協會于2023年4月26日發布了《基于ARM架構的SoC陣列服務器技術規范》,以團體標準的形式明確了ARM架構SoC陣列式服務器的通用技術要求,國內相關廠商也在為下一代服務器的產品標準在開始探討,相關產品將逐步進入發展快車道。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    13

    文章

    9683

    瀏覽量

    87273
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    SoC陣列服務器

    SoC陣列服務器是基于通系統級芯片(SoC)構建的高密度計算解決方案,核心特點為低功耗、
    的頭像 發表于 06-03 07:37 ?53次閱讀

    RAKsmart服務器如何賦能AI開發與部署

    AI開發與部署的復雜性不僅體現在算法設計層面,更依賴于底層基礎設施的支撐能力。RAKsmart服務器憑借其高性能硬件架構、靈活的資源調度能力以及面向AI場景的深度優化,正在成為企業突破
    的頭像 發表于 04-30 09:22 ?168次閱讀

    AI原生架構升級:RAKsmart服務器在超大規模模型訓練中的突破

    近年來,隨著千億級參數模型的崛起,AI訓練對的需求呈現指數級增長。傳統服務器架構在應對分布式訓練、
    的頭像 發表于 04-24 09:27 ?180次閱讀

    SoC集群服務器ARM架構陣列服務器 關系

    。 核心特征?:芯片級集成、高密度、低功耗設計。 ARM架構陣列服務器? 基于
    的頭像 發表于 04-24 07:49 ?236次閱讀
    <b class='flag-5'>SoC</b>集群<b class='flag-5'>服務器</b> 與 <b class='flag-5'>ARM</b><b class='flag-5'>架構</b><b class='flag-5'>陣列</b><b class='flag-5'>服務器</b> 關系

    RAKsmart服務器如何重構企業AI轉型的成本邏輯

    傳統服務器架構的“堆硬件”模式,讓許多企業在GPU采購、跨國部署和混合負載管理上陷入“投入、低效能”的惡性循環。RAKsmart通過技術創新與架構重構,正在為企業提供一種全新的
    的頭像 發表于 04-22 09:58 ?145次閱讀

    智能服務器應用領域

    智能服務器應用領域 一、?金融行業? 智能風控與投顧?:通過集群支撐AI模型訓練,實現風
    的頭像 發表于 04-21 09:09 ?206次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>應用領域

    RAKsmart服務器如何重塑AI并發格局

    AI大模型參數量突破萬億級、實時推理需求激增的當下,傳統服務器架構的并發處理能力已逼近物理極限。RAKsmart通過“硬件重構+軟件定義”的雙引擎創新,推出新一代AI
    的頭像 發表于 04-03 10:37 ?238次閱讀

    雙倍能效陣列云,重新定義服務器性價比

    高達48TOPS*72,滿足并發AI訓練需求?。 ARM架構通過多核并行計算與動態電源管理技術,實現“按需供電”,單位機架
    的頭像 發表于 03-26 08:35 ?197次閱讀
    雙倍能效<b class='flag-5'>陣列</b>云,重新定義<b class='flag-5'>服務器</b>性價比

    Firefly 服務器系列:覆蓋多個領域的解決方案

    ?服務器覆蓋60~1570TOPS強勁,支持Transformer架構下大語言模型的私有
    的頭像 發表于 02-19 16:34 ?510次閱讀
    Firefly <b class='flag-5'>服務器</b>系列:覆蓋多個領域的<b class='flag-5'>高</b><b class='flag-5'>算</b><b class='flag-5'>力</b>解決方案

    再躍升!億萬克發布新一代AI服務器——G882N7+!

    的特質,但告急。想要打破數智時代的瓶頸,異構智成為有效方案。 近期,億萬克面向激增的AI
    的頭像 發表于 10-25 17:02 ?464次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理的講解,理論聯系實際,使讀者能更好理解
    發表于 10-15 22:08

    什么是AI服務器AI服務器的優勢是什么?

    AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足
    的頭像 發表于 09-21 11:43 ?1815次閱讀

    基于通主板的ARM架構服務器

    一、ARM架構服務器的崛起 (一)市場需求推動 消費市場寒冬,全球消費電子需求下行,服務器成半導體核心動力之一。Arm 加速布局
    的頭像 發表于 09-11 10:53 ?1000次閱讀

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規模數據處理和計算的核心設備,其性能優化顯得尤為關鍵。而GPU服務器
    的頭像 發表于 07-25 08:28 ?1212次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>為什么選擇GPU

    ai服務器是什么架構類型

    AI服務器,即人工智能服務器,是專門為人工智能應用設計的高性能計算服務器AI服務器
    的頭像 發表于 07-02 09:51 ?1734次閱讀