燧原科技加入人工智能開放計算體系-DeepLink，共建AI軟硬件生態
2023年7月7日，燧原科技與上海人工智能實驗室合作，基于人工智能開放計算體系-DeepLink共建AI軟硬件生態，當前雙方的合作主要基于燧原科技已量產的第二代訓練產品云燧T20和第二代推理產品云燧i20。
2022年11月，燧原科技與上海人工智能實驗室就云燧T20、云燧i20和深度學習框架的適配開始進行深入合作，逐步在人工智能開放計算體系（DeepLink）上實現接入T20和i20，共同打造人工智能軟硬件生態。
目前，T20和i20已基于DeepLink實現多個模型的訓練和推理的適配，支持CV、NLP 等核心領域以及開源LLaMA大模型。雙方的合作降低了硬件接入AI 模型訓練和推理的門檻，為大模型的發展提供強勁算力保證。
燧原科技同時參與了DeepLink芯片評測工作，DeepLink評測體系針對送測芯片進行多維度測試并提供季度評測報告，其評測結論為各類加速卡提供優化參考，推動AI芯片技術規范的標準建設。
DeepLink
DeepLink作為連接硬件芯片與深度學習軟件框架間適配的“橋梁”，廠商可基于DeepLink一次適配即接入廣泛的算法生態，根本性實現軟硬件解耦。目前DeepLink已提供200余個標準算子接口，支持超過5000個算子測例，同時支持大語言模型和視覺模型。遵循DeepLink標準可以實現主流框架與AI芯片高效適配，極大降低算力使用門檻，節省適配時間，更容易實現算力對模型的使能。同時通過編譯的優化，系統性提升整體訓練效率。
人工智能開放計算體系 (DeepLink)
云燧T20
云燧T20是面向數據中心的第二代人工智能訓練加速卡，具有模型覆蓋面廣、性能強、軟件生態開放等特點，可支持多種人工智能訓練場景。同時具備靈活的可擴展性，提供業界領先的人工智能算力集群方案。
云燧T20
云燧i20
云燧i20是面向數據中心的第二代人工智能推理加速卡，具有高性能高能效、模型覆蓋面廣、易部署易運維等特點，已廣泛應用于計算機視覺、語音識別與合成、自然語言處理、搜索與推薦等推理場景。
云燧i20
燧原科技相關負責人表示:“ DeepLink可以讓上游芯片和下游框架兩層在適配工程實施時能有效地解耦，并復用到不同的訓練框架適配中去，從而降低芯片和框架的適配成本，同時保障算子實現正確性。燧原科技將與上海人工智能實驗室合作，在算力和算法上進行深度融合，為業界構建軟硬一體、更加優化的計算解決方案，為產業賦能，共建軟硬協同生態，推動中國數字化產業轉型和升級。”
更多DeepLink信息詳見：https://deeplink.org.cn/home
往期推薦
| |||
|
歡迎關注燧原科技公眾號
原文標題：燧原科技加入人工智能開放計算體系-DeepLink，共建AI軟硬件生態
文章出處：【微信公眾號：燧原科技Enflame】歡迎添加關注！文章轉載請注明出處。
-
燧原科技
+關注
關注
0文章
136瀏覽量
8835
發布評論請先 登錄
圖為科技與寶德計算達成戰略合作 共建AI算力新生態
Banana Pi 發布 BPI-AI2N & BPI-AI2N Carrier，助力 AI 計算與嵌入式開發
燧原科技當選人工智能產業工作委員會智算集群工作組組長
工商網監
評論