近日，浪潮信息與智源研究院達成戰(zhàn)略合作協(xié)議，雙方將緊密協(xié)作共建大模型多元算力開源創(chuàng)新生態(tài)，提升大模型創(chuàng)新研發(fā)的算力效率，降低大模型應(yīng)用開發(fā)的算力門檻。目前，智源Triton算子庫FlagGems已正式接入浪潮信息的元腦企智EPAI企業(yè)大模型開發(fā)平臺，助力企業(yè)實現(xiàn)更快速、更廣泛、更高效的多元算力適配與使用。

面向應(yīng)用，攜手共建多元算力系統(tǒng)生態(tài)

人工智能的持續(xù)進步推動了算力多元化與模型多樣化，在為產(chǎn)業(yè)注入創(chuàng)新活力的同時，也帶來了較高的大模型應(yīng)用開發(fā)技術(shù)門檻。元腦企智EPAI(Enterprise Platform of AI) 是浪潮信息為企業(yè)AI大模型落地應(yīng)用打造的高效、易用、安全的端到端開發(fā)平臺，支持主流開源與閉源大模型的應(yīng)用快速開發(fā)，可實現(xiàn)大模型應(yīng)用在跨算力平臺上的無感遷移，降低多元、多模的適配與試錯成本。

FlagGems是由智源研究院于2024年6月推出的面向多元算力的開源大模型通用算子庫，在Triton生態(tài)開源開放的基礎(chǔ)上，面向多元算力，遵循統(tǒng)一的中間語言、統(tǒng)一的算子接口和統(tǒng)一的開源算子庫實現(xiàn)路徑，以大模型需求為導(dǎo)向，為多元算力提供開源、統(tǒng)一、高效的算子層生態(tài)接入方案。截止12月，F(xiàn)lagGems已提供超過130個大模型算子，是目前提供算子數(shù)量最多、覆蓋廣度最大的開源算子庫。

此次，智源研究院攜手浪潮信息，將FlagGems算子庫與元腦企智EPAI內(nèi)置的核心計算框架進行深度融合，旨在確保大模型應(yīng)用開發(fā)能夠使用高性能、跨硬件、多框架兼容的算子集合，順利跨越各類硬件架構(gòu)，滿足多種開發(fā)框架的需求。現(xiàn)在，基于元腦企智EPAI大模型開發(fā)平臺，企業(yè)可以利用針對大模型應(yīng)用開發(fā)場景優(yōu)化的先進算子集合，在多種算力平臺上高效構(gòu)建、優(yōu)化和執(zhí)行復(fù)雜的行業(yè)應(yīng)用算法。在復(fù)雜的訓(xùn)練任務(wù)及實時性要求嚴苛的推理場景中，均能實現(xiàn)穩(wěn)定且高效的運算性能。此外，企業(yè)也無需關(guān)心多元異構(gòu)加速卡之間的軟硬件差異，真正實現(xiàn)大模型應(yīng)用在跨算力平臺上的無縫開發(fā)與遷移。

浪潮信息 × 智源研究院：開源開放，產(chǎn)業(yè)協(xié)作破解多元多模挑戰(zhàn)

算力產(chǎn)業(yè)在大模型技術(shù)趨勢的推動下飛速發(fā)展，但硬件架構(gòu)、指令集的差異及算子庫的獨立實現(xiàn)卻形成了生態(tài)藩籬，顯著提高了企業(yè)應(yīng)用大模型的算力門檻，構(gòu)建一個開源、統(tǒng)一、高效的多元算力系統(tǒng)生態(tài)顯得尤為迫切。

智源研究院副院長兼總工程師林詠華表示：“元腦企智EPAI為企業(yè)提供從底層算力到上層應(yīng)用的一站式支撐，而智源FlagGems提供了高性能、跨硬件、多框架兼容的大模型算子，二者如同精密的‘齒輪組’，確保模型在各類硬件架構(gòu)中順滑運轉(zhuǎn)，適配多種開發(fā)框架需求，讓主流大模型跨越硬件藩籬，無論是復(fù)雜的訓(xùn)練任務(wù)，還是實時性要求嚴苛的推理場景，均能穩(wěn)定、高效運行，性能表現(xiàn)媲美原生模型。”

浪潮信息高級副總裁劉軍表示：“在多元多模的產(chǎn)業(yè)格局下，AI的產(chǎn)業(yè)化落地本質(zhì)上是推動人工智能與百行千業(yè)的深度融合，浪潮信息元腦企智EPAI企業(yè)大模型開發(fā)平臺與智源通用算子庫FlagGems的全面對接，是雙方解決生態(tài)離散，化解大模型產(chǎn)業(yè)化落地的算力轉(zhuǎn)化和開發(fā)復(fù)雜等高門檻難題的重要舉措，將為AI應(yīng)用創(chuàng)新注入更強大、多元的算力支持，助力構(gòu)建協(xié)同共生、開放共贏的多元算力系統(tǒng)生態(tài)，充分釋放智能生產(chǎn)力。”

未來，浪潮信息將與智源研究院攜手并進，持續(xù)推進硬件開放與軟件開源，以開源開放、多元多模激發(fā)創(chuàng)新活力，以多元算力系統(tǒng)生態(tài)加速創(chuàng)新落地，協(xié)力共建一個更加高效、靈活、開放的人工智能應(yīng)用生態(tài)。