據外電報道,美國ai芯片初創企業d-matrix最近宣布,將推出jayhawk ii芯片,用于其獨創的數字memory computing引擎,通過chiplet結構進行生成宏觀推理。
公司方面表示,該引擎的內存帶寬比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix還主張,jayhawk ii對30億至400億大型語言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,與gpu解決方案相比,生成推理的總擁有費用從10倍減少了20倍。
在物理設計方面,該芯片由6納米工程制成,核心之間通過bow接口實現相互連接,支持各種精度的浮點數據型。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
芯片
+關注
關注
459文章
52129瀏覽量
435702 -
NVIDIA
+關注
關注
14文章
5238瀏覽量
105723 -
語言模型
+關注
關注
0文章
558瀏覽量
10657 -
chiplet
+關注
關注
6文章
452瀏覽量
12856
發布評論請先 登錄
相關推薦
熱點推薦
“端到端”智駕芯片,英偉達DRIVE Thor接棒,車企自研芯片對標行業領先
。 ? 在智駕芯片層面,不少廠商采用了英偉達的DRIVE Orin芯片,以及下一代智能駕駛計算平臺Thor進行開發,MDC610、地平線征程5、征程6
今日看點丨英偉達將為中國市場推出新AI芯片 售價大幅低于H20;中科曙光與海光信息宣布戰略重組
1. 英偉達將為中國市場推出新AI 芯片 售價大幅低于H20 ? 近日,外媒報道稱,美國
發表于 05-26 11:06
?1212次閱讀
特朗普要叫停英偉達對華特供版 英偉達H20出口限制 或損失55億美元
是“中國特供版”人工智能芯片;是英偉達公司為符合美國出口規定專門為中國市場開發的定制芯片,H20芯片
UCIe規范引領Chiplet技術革新,新思科技發布40G UCIe IP解決方案
隨著大型SoC(系統級芯片)的設計復雜度和制造難度不斷攀升,芯片行業正面臨前所未有的挑戰。英偉達公司的Blackwell芯片B200,作為業
成都匯陽投資關于華為新版芯片或挑戰英偉達,國產算力值得關注?
【華為將推出新款AI 芯片,瞄準英偉達中國市場份額】 近年來AI 產業蓬勃發展,資本市場也出現了狂歡,英偉達(NVDA.US)、AMD等科技
英偉達或取消B100轉用B200A代替
今年3月份,英偉達在美國加利福尼亞州圣何塞會議中心召開的GTC 2024大會上推出了Blackwell架構GPU。原定于今年底出貨的B100/B200被寄予厚望,將替代現行H100/
英偉達帶領芯片股飆升 英偉達大漲4.76%
1.08%,道指漲0.32%。 AI浪潮之下,業界預期正不斷加強,在AI算力需求的邊際拉動下、疊加消費電子復蘇,新一輪終端AI上新,相關行業正迎來具備較強持續性的上行周期;英偉達在生成
英偉達在AI芯片市場還能領先多久?
7月22日,國際媒體傳來消息,英偉達在近年來興起的生成式人工智能浪潮中脫穎而出,其高性能計算芯片如H100等廣受業界青睞,推動了公司營收與利
英偉達H200芯片將大規模交付
英偉達AI GPU市場迎來新動態,其H200型號上游芯片端已于第二季度下旬正式進入量產階段,預示著該產品將在第三季度后迎來大量交付。然而,英偉
只能跑Transformer的AI芯片,卻號稱全球最快?
跑transformer架構的模型。 Sohu,比H100快上20倍 之所以打算Sohu這一自研ASIC AI芯片,是因為Etched認為GPU在性能升級上的速度太慢了。如果以H100
評論