近日，在權威財經媒體36氪主辦的“WISE顛覆·AIGC”主題產業(yè)峰會上，墨芯人工智能憑借業(yè)界領先的AI計算平臺，獲頒“下一個百億規(guī)模AIGC產品”稱號，被推舉為新一代人工智能領域最具生產力的代表產品。

該獎項由36氪綜合行業(yè)分析師等專家團分析與調研數據，旨在評估AGI時代現象級產品，評出站在熱潮的巔峰定義和捕捉新機會的企業(yè)。

墨芯榮膺此獎，充分體現出在AIGC時代技術優(yōu)勢和巨大潛力，也再度印證了稀疏計算作為趨勢性技術的巨大價值獲得了廣泛關注。

稀疏計算

從根本上解決大模型發(fā)展與算力的矛盾

ChatGPT等AIGC應用的爆發(fā)，加速了新的變革機會的到來，帶動大模型、芯片等相關的產業(yè)鏈各環(huán)節(jié)的躍遷。在AIGC產業(yè)鏈中，算力作為基礎設施，被公認為最具投資價值的賽道。

紅杉資本《生成式AI：一個創(chuàng)造性的新世界》指出，生成式AI可能創(chuàng)造數萬億美元的經濟價值。ChatGPT走紅以后，算力的供不應求已成為焦點，AI芯片頭部企業(yè)創(chuàng)下史上最高單季銷量紀錄，遠超過先前《華爾街日報》估計的銷售額，算力市場的需求仍在持續(xù)攀升。

在算力提升的各種探索方向上，稀疏計算是業(yè)界公認最有前景的的技術：

稀疏模型將取代稠密模型成為主流——已成為業(yè)界權威認同的趨勢，并得到Google,微軟，Meta,英偉達等巨頭的投入。

Google的AI負責人Jeff Dean早已指出：稀疏化是AI模型的發(fā)展趨勢，“今天的模型是稠密而低效的，Pathways（Google提出的統(tǒng)一架構）將使它們變得稀疏和高效。” Google的MoE（稀疏門控的專家混合層）及Pathways架構等，都是稀疏計算理念的成果，并在實踐中取得比稠密模型更高的效率。芯片巨頭英偉達也在其安培架構中首度引入細粒度結構化稀疏，支持2倍稀疏化。

大模型如何實現廣泛應用，答案也早由Google Research與OpenAI的聯合論文揭示：《Sparse is Enough in Scaling Transformers》。

論文地址：https://arxiv.org/pdf/2111.12763.pdf

稀疏計算被眾多巨頭看好的原因，正是由于它能從根本上解決大模型發(fā)展與算力的矛盾：稀疏計算讓大模型既能在參數量上躍升若干個數量級的同時，又不因參數增長而產生過大的計算量，解決了大模型的高算力需求、高功耗、高費用等痛點，帶來“多贏”的效果。

有了稀疏計算的加持，業(yè)界大模型的部署也能迎來更廣闊的施展空間：更多企業(yè)、開發(fā)者能夠基于“用得起”的算力服務，來進行AIGC等應用的開發(fā)與大模型的行業(yè)落地。

墨芯

稀疏計算引領者

此次墨芯登上“下一個百億規(guī)模AIGC產品”榜單，正是基于墨芯長期在稀疏計算領域的深耕。AIGC時代，墨芯率先以稀疏計算技術、產品與實踐的強大實力，成為AIGC算力層的中堅代表：

01

創(chuàng)新技術引領

當業(yè)界對神經網絡高倍稀疏化算法尚停留在研究層面時，墨芯已率先將算法和硬件結合落地，基于軟硬協同設計推出首顆稀疏芯片Antoum?，實現稀疏神經網絡的高模型精度和高硬件利用效率，充分釋放稀疏計算的潛力。

Antoum?打破業(yè)界紀錄，成為首顆支持高稀疏倍率的AI芯片：支持高達32倍稀疏張量計算，此前業(yè)內主流芯片僅支持2倍稀疏化，Antoum?將這一紀錄提升了16倍。

02

產品屢破性能紀錄

在英偉達、英特爾等巨頭云集的國際權威基準測評MLPerf中，墨芯連續(xù)兩屆蟬聯冠軍，并在MLPerf Inference 3.0斬獲雙冠：

在開放分區(qū)Resnet-50賽道中，墨芯S40計算卡以127,375 FPS，斬獲單卡算力全球第一；

墨芯S30計算卡以4卡383,520 FPS算力，獲整機4卡算力全球第一。

墨芯計算卡基于12nm的Antoum?芯片，性能已戰(zhàn)勝4nm工藝產品，站在世界頂尖水平，足以證明稀疏計算的強大優(yōu)勢。

03

產業(yè)實踐推動大模型應用

基于軟硬協同的AI計算平臺，墨芯為行業(yè)帶來高算力、低延時、低功耗的算力解決方案，不僅滿足大模型與AIGC等應用的海量算力需求，同時破解延時難題，實現推理加速，為大模型在眾多行業(yè)場景的落地提供算力基礎設施。墨芯的AI計算卡產品已實現量產，并在多個領域獲得客戶認可。

AI 2.0時代已經來臨，大模型即將與各行業(yè)深度融合，產生更豐富多樣的AIGC等應用。稀疏計算已站在這場變革之巔，引領算力的進化與發(fā)展；墨芯亦將以創(chuàng)新的稀疏計算方案，為大模型應用提供強大動力支撐，為AIGC打開更廣闊的發(fā)展空間，去賦能下一個AIGC現象級產品。

審核編輯 ：李倩