7月13-14日,第三屆中國集成電路設計創新大會暨無錫IC應用博覽會(ICDIA 2023)在無錫舉行。天數智芯副總裁郭為受邀出席“AIoT與ChatGPT”分論壇并發表了題為《國產GPU的大模型實踐》的主題演講,全面介紹了天數智芯通用GPU產品特色以及在大模型上的應用情況。
天數智芯副總裁郭為
郭為指出,算力關乎大模型產品的成敗。作為中國領先的通用GPU 高端芯片及超級算力系統提供商,天數智芯先后發布了訓練產品天垓100、推理產品智鎧100,充分發揮產品自主可控、性能高、通用性強、靈活性高等特點,廣泛支持主流AI生態和國內外開發框架,傾力打造了高性價比、廣通用的全棧式集群解決方案,為大模型提供了強大算力支撐。
郭為介紹,去年以來天數智芯在大模型訓練、推理支持上取得了顯著進展。基于天垓100的自主算力集群已率先完成國內70億參數大模型訓練,200P規模算力集群正在開展650億參數大模型預訓練。此外,天垓100正支持各垂直行業大模型訓練微調,可支持全量參數微調、Lora快速微調、提示詞微調等所有訓練微調方法。智鎧100支持千億級參數大模型推理,基于智鎧100的推理一體機已應用于法律、金融等行業客戶大模型推理業務中,提供較國際主流產品更優的性能、性價比及能耗。
郭為表示,天數智芯將始終以服務國家戰略為主線,持續推進通用GPU核心技術創新突破,打造更可信、更高效、更綠色的世界一流算力引擎,賦能大模型創新發展。
作為國內集成電路領域推動“創新”與“應用”的重要平臺,ICDIA致力于推動IC設計與芯片應用、促進芯片與系統整機供需對接,實現芯片企業和整機企業的互惠發展。科技部重大專項司副司長邱鋼,江蘇省科技廳二級巡視員楊小平,無錫市副市長周文棟,國家01專項技術總師、中國集成電路設計創新聯盟理事長、清華大學教授魏少軍等出席了本屆會議。

原文標題:夯實算力基礎 賦能大模型創新發展
文章出處:【微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
-
天數智芯
+關注
關注
0文章
99瀏覽量
6042
原文標題:夯實算力基礎 賦能大模型創新發展
文章出處:【微信號:IluvatarCoreX,微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
智能算力基建:RAKsmart如何賦能下一代AI開發工具
壁仞科技入選工信部2024年未來產業創新發展優秀典型案例
燧原科技入選工信部2024年未來產業創新發展優秀典型案例
中軟國際亮相第三屆北京人工智能產業創新發展大會
同星智能榮獲2024年嘉定區創新發展50強企業

華為榮獲2024年算力網絡產業十大創新成果獎
黑芝麻智能亮相2024高端芯片產業創新發展大會
中軟國際亮相華為云行業大模型創新發展峰會云南站
西井科技出席AI賦能民營經濟產業創新發展主題論壇
從多核到眾核, 賽昉科技RISC-V+NoC IP子系統為算力芯片賦能

評論