隨著DeepSeek在大模型領(lǐng)域的快速發(fā)展,AI推理算力需求呈現(xiàn)爆發(fā)式增長。伴隨AI應(yīng)用加速滲透企業(yè)級場景,企業(yè)級智算資源管理新需求應(yīng)運(yùn)而生。
近日,登臨科技與元石智算達(dá)成重要戰(zhàn)略合作,成功實(shí)現(xiàn)元石智算平臺在登臨Goldwasser推理集群的部署,并完成多款主流大模型的全功能適配,即將正式對外開放服務(wù)。雙方聚焦企業(yè)級AI私有化部署場景,致力于構(gòu)建高性能AI推理基礎(chǔ)設(shè)施體系,深度釋放國產(chǎn)GPU算力潛能,加速技術(shù)優(yōu)勢向產(chǎn)品競爭力的轉(zhuǎn)化,為企業(yè)智能化轉(zhuǎn)型提供強(qiáng)勁動力,助力業(yè)務(wù)實(shí)現(xiàn)跨越式發(fā)展。
元石智算平臺通過創(chuàng)新性整合算力資源調(diào)度與推理加速技術(shù),解決了客戶在大模型推理場景下的算力成本與調(diào)度管理難題,助力合作伙伴實(shí)現(xiàn)算力成本優(yōu)化與使用效率提升的雙重突破。此次合作,旨在協(xié)力構(gòu)建一個以AI Infra平臺深度優(yōu)化國產(chǎn)自研GPU芯片的大模型服務(wù)體系,加速國產(chǎn)GPU在商業(yè)場景的規(guī)模化應(yīng)用,為我國人工智能產(chǎn)業(yè)生態(tài)建設(shè)注入新動能。
作為國內(nèi)GPU領(lǐng)先企業(yè),登臨科技堅(jiān)持核心IP完全自主研發(fā),堅(jiān)持以客戶需求為導(dǎo)向,助力客戶打造更高能效比、更具有市場競爭力的產(chǎn)品。登臨科技創(chuàng)新通用GPU系列產(chǎn)品Goldwasser(高凜)支持多種精度數(shù)據(jù)類型,已驗(yàn)證落地包括DeepSeek, Qwen, GLM, Vicuna, Llama, BLOOM, GPT2, OPT等各類大模型。兼容國內(nèi)外主流AI生態(tài),顯著提升AI計(jì)算的密度與效率,在實(shí)現(xiàn)硬件性能和能效最大化的同時,解決通用性和高效率的雙重難題,全面滿足各行業(yè)全場景的綜合需求。
在本次合作中,經(jīng)過雙方嚴(yán)格的功能和性能測試,完成了登臨科技Goldwasser(高凜)通用GPU系列產(chǎn)品與元石智算平臺的全面接入。該集群可靈活支持文本生成、文生圖/視頻、語音識別、智能問答、AI翻譯、代碼輔助編程等智能應(yīng)用體,滿足各類客戶在多場景高并發(fā)下的實(shí)時推理需求。平臺用戶通過簡易操作即可調(diào)用各類模型的API接口,實(shí)現(xiàn)快速部署。同時,平臺還能提供更具高性價比的算力服務(wù)。
此次合作將顯著降低AI應(yīng)用的技術(shù)門檻和使用成本,為國產(chǎn)GPU芯片在AI領(lǐng)域的規(guī)模化應(yīng)用開辟新空間。登臨科技與元石智算將深化戰(zhàn)略協(xié)同,聚焦國產(chǎn)智算中心建設(shè)、智能制造升級及新質(zhì)生產(chǎn)力領(lǐng)域,面向大型國央企及上市公司等等行業(yè)各類場景,聯(lián)合打造新一代AI基礎(chǔ)設(shè)施,賦能千行百業(yè)智能化轉(zhuǎn)型。
元石智算:
武漢元石智算科技有限公司(MetaStone,簡稱“元石智算”)以成為“值得信賴的新一代服務(wù)器與解決方案提供商”為愿景,為客戶提供安全可靠的產(chǎn)品服務(wù)。元石智算以“MetaStone”自主品牌構(gòu)建計(jì)算新范式,推出全球首個RISC-V跨架構(gòu)產(chǎn)品RISMA跨架構(gòu)云原生POD,產(chǎn)品矩陣覆蓋AI一體機(jī)、RISC-V計(jì)算服務(wù)器、高性能并行文件系統(tǒng)、多元算力智算平臺等創(chuàng)新產(chǎn)品,已在多個智算中心及AI推理、邊緣技術(shù)等場景實(shí)現(xiàn)規(guī)模化部署。
登臨科技:
作為國內(nèi)通用GPU領(lǐng)先企業(yè),登臨科技堅(jiān)持核心技術(shù)完全自主研發(fā)。其自主創(chuàng)新的GPU+(基于GPGPU的軟件定義的片內(nèi)異構(gòu)計(jì)算架構(gòu))硬件兼容CUDA生態(tài),并通過架構(gòu)創(chuàng)新使其兼具通用性和高效率。目前,登臨首款Goldwasser(高凜)創(chuàng)新通用GPU產(chǎn)品已規(guī)模化運(yùn)用在云至邊緣多家行業(yè)知名企業(yè)的主營業(yè)務(wù)中,覆蓋互聯(lián)網(wǎng)、泛安防、電信、能源、金融和教育等多個領(lǐng)域。登臨的新一代Goldwasser(高凜)系列產(chǎn)品針對基于Transformer的網(wǎng)絡(luò)和生成式AI類大模型的應(yīng)用在性能有大幅提升,對標(biāo)國際大廠的產(chǎn)品有明顯的能效比和性價比優(yōu)勢。
-
gpu
+關(guān)注
關(guān)注
28文章
4944瀏覽量
131220 -
AI
+關(guān)注
關(guān)注
88文章
35109瀏覽量
279623 -
算力
+關(guān)注
關(guān)注
2文章
1197瀏覽量
15647 -
登臨科技
+關(guān)注
關(guān)注
0文章
14瀏覽量
551
原文標(biāo)題:釋放AI芯算力,登臨科技聯(lián)合元石智算平臺完成全面適配
文章出處:【微信號:gh_313558c425fe,微信公眾號:登臨科技 DenglinAI】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
評論