ChatGPT在全球范圍內(nèi)掀起了一場(chǎng)技術(shù)革命與商業(yè)浪潮,AI 市場(chǎng)也迎來了前所未有的機(jī)遇。伴隨著大模型的快速崛起及廣泛應(yīng)用,底層算力的支撐作用愈發(fā)凸顯。順應(yīng)技術(shù)發(fā)展潮流,天數(shù)智芯從硬件、軟件兩個(gè)角度推動(dòng)戰(zhàn)略升級(jí),打造高性價(jià)比、廣通用性的全棧式集群解決方案,為大模型時(shí)代提供強(qiáng)大算力底座。
天數(shù)智芯的通用GPU產(chǎn)品天垓、智鎧系列具有自主可控、高性能、通用性、靈活性等特點(diǎn),廣泛支持PyTorch、TensorFlow、PaddlePaddle 等各種原生框架,支撐了200余種人工智能算法模型穩(wěn)定運(yùn)行。在此基礎(chǔ)上,天數(shù)智芯自主研發(fā)了IXCCL分布式通信技術(shù),顯著提升多機(jī)多卡高速互聯(lián)性能,打造基于自主通用GPU的算力集群方案,持續(xù)優(yōu)化自動(dòng)混精訓(xùn)練、流水線并行、張量并行、數(shù)據(jù)并行以及模型并行等并行加速策略,讓大模型訓(xùn)練、推理變得更加高效。
天數(shù)智芯通用GPU產(chǎn)品天垓、智鎧系列
在合作伙伴的大力支持和共同努力下,天數(shù)智芯自主算力集群方案不僅能夠有效支持OPT、LLaMa、GPT-2、CPM、GLM等主流AIGC大模型的Pretrain和Finetune,還適配支持了清華、智源、復(fù)旦等在內(nèi)的國內(nèi)多個(gè)研究機(jī)構(gòu)的開源大模型,取得了大模型適配支持階段性成果。如,由清華技術(shù)成果轉(zhuǎn)化的智譜AI公司推出了基于千億基座模型的ChatGLM,采用天數(shù)智芯算力集群方案無需修改代碼即可跑通GLM 6B開源版,節(jié)省了大量時(shí)間成本和運(yùn)營成本,讓客戶無痛使用。結(jié)果顯示,在問答環(huán)節(jié),基于天數(shù)智芯算力集群的ChatGLM能夠快速響應(yīng)用戶問題,并較精準(zhǔn)給出回答。
天數(shù)智芯自主算力集群方案
全新的人工智能時(shí)代正呼嘯而來,海量數(shù)據(jù)洪流和大模型應(yīng)用需求爆發(fā)將繼續(xù)拉動(dòng)算力規(guī)模成倍增長(zhǎng)。天數(shù)智芯將始終堅(jiān)持開發(fā)自主可控、國際領(lǐng)先的高性能通用GPU產(chǎn)品,不斷升級(jí)算力解決方案,適配支持更多參數(shù)量、更大數(shù)據(jù)集、更復(fù)雜算法的大模型,為我國大模型創(chuàng)新發(fā)展、應(yīng)用落地提供更加堅(jiān)實(shí)的算力支撐。
關(guān)于天數(shù)智芯
上海天數(shù)智芯半導(dǎo)體有限公司(簡(jiǎn)稱“天數(shù)智芯”)于2018年正式啟動(dòng)通用GPU芯片設(shè)計(jì),是中國第一家通用GPU高端芯片及超級(jí)算力系統(tǒng)提供商。公司以“成為智能社會(huì)的賦能者”為使命,立足客戶、市場(chǎng)的需求,致力于開發(fā)自主可控、國際領(lǐng)先的高性能通用GPU產(chǎn)品,探索通用GPU趕超發(fā)展道路,加快建設(shè)自主產(chǎn)業(yè)生態(tài),打造世界一流的算力引擎,以更可信、更高效、更綠色的算力賦能各行各業(yè)智能化轉(zhuǎn)型,促進(jìn)我國數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展,開啟中國引領(lǐng)世界走向元宇宙、數(shù)字孿生的嶄新一頁。
審核編輯 :李倩
-
人工智能
+關(guān)注
關(guān)注
1804文章
48660瀏覽量
246178 -
天數(shù)智芯
+關(guān)注
關(guān)注
0文章
99瀏覽量
6046 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1586瀏覽量
8779
原文標(biāo)題:天數(shù)智芯取得大模型適配支持階段性成果
文章出處:【微信號(hào):IluvatarCoreX,微信公眾號(hào):天數(shù)智芯】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
壁仞科技完成Qwen3旗艦模型適配
摩爾線程GPU率先支持Qwen3全系列模型
愛芯通元NPU適配Qwen2.5-VL-3B視覺多模態(tài)大模型

安徽省水利科學(xué)研究院攜手中科曙光完成DeepSeek大模型部署
兆芯CPU近期適配認(rèn)證成果
階躍星辰開源多模態(tài)模型,天數(shù)智芯迅速適配
無問芯穹實(shí)現(xiàn)七家國產(chǎn)芯片DeepSeek適配
天數(shù)智芯加速DeepSeek全系列模型適配
龍芯中科與DeepSeek大模型協(xié)同適配成功
海光信息技術(shù)團(tuán)隊(duì)成功適配DeepSeek大模型
天數(shù)智芯與無問芯穹合作突破千卡集群訓(xùn)練優(yōu)化
兆芯CPU近期產(chǎn)品適配成果匯總
天數(shù)智芯亮相2024世界人工智能大會(huì)
天數(shù)智芯參與建設(shè)的中國移動(dòng)智算中心(呼和浩特)項(xiàng)目圓滿完成
天數(shù)智芯主導(dǎo)的DeepSpark開源社區(qū)發(fā)布百大應(yīng)用開放平臺(tái)24.06版本

評(píng)論