SambaNova推類ChatGPT開源模型BLOOMChat之后再推AI芯片SN40L
SambaNova是硅谷AI芯片初創公司,近期推出了AI芯片SN40L,SN40L芯片基于臺積電5nm工藝打造,每個芯片集成了1020億個晶體管和1040個核,算力高達638TFlops。這款新 SambaNova 芯片由臺積電負責制造,能夠支持 5 萬億參數模型,并包含兩種先進的存儲形式。
SambaNova稱單個SN40L系統節點(8塊SN40L芯片)就能支持到最高5萬億參數的大模型。
此外,SambaNova與其他競爭對手一樣,在AI芯片上引入了64GB HBM用于解決內存墻的問題,這也是SN40L與上一代芯片的差異之一。只不過SambaNova并沒有透露SN40L用的是何種HBM,以及帶寬性能如何。
SambaNova成立于2017年,截至目前已經歷了共計6輪融資,參與融資的公司包括谷歌、英特爾和軟銀等,融資總額高達11億美元。
此前SambaNova還與Together聯合推出了類ChatGPT開源模型——BLOOMChat。
BLOOMChat是基于BigScience在2022年7月開源的大語言模型BLOOM開發而成,并在OpenChatKit、Dolly 2.0和OASST1的數據訓練集上進行微調。
BLOOMChat有1760億參數,支持中文、英文、日文、法文、等46種語言;支持代碼生成,包括Python、java、php、cpp、Ruby、C++等13種編程語言;可用于 Apache 2.0 修改版本下的研究和商業用例;知名開源平臺持續提供技術迭代等。
BLOOMChat與目前市面上大多數類ChatGPT開源模型相比,在預訓練數據、指令調優、功能擴展、AI對齊等方面擁有巨大優勢。
-
AI芯片
+關注
關注
17文章
1968瀏覽量
35688 -
ChatGPT
+關注
關注
29文章
1586瀏覽量
8789 -
大模型
+關注
關注
2文章
3020瀏覽量
3812 -
SambaNova
+關注
關注
0文章
7瀏覽量
271 -
SN40L
+關注
關注
0文章
2瀏覽量
78
發布評論請先 登錄
首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手
內置推掃式高光譜相機:VIX-S315無需外置推掃裝置,1秒內完成一次全譜推掃成像
【幸狐Omni3576邊緣計算套件試用體驗】開發板基礎體驗:大模型和推流測試
云從科技從容大模型訓推一體機成功適配DeepSeek
中興通訊AiCube:破解AI模型部署難題
寧暢AI服務器全面支持DeepSeek大模型
瀚博完成DeepSeek全版本訓推適配
不懂就問AI:AI大模型embeding是什么

評論