在“雙碳”目標的指引下,能源行業正經歷從傳統模式向智能化、綠色化的深度轉型。上海達卯科技有限公司(以下簡稱“達卯智能”)是人工智能領域的能源大模型企業,專注于通過通用人工智能(AGI)技術構建能源管理與虛擬電廠解決方案。
深耕能源行業打造專用垂類模型
達卯智能全自主研發了基于 MOE 架構的能源大模型,憑借業界獨創的能量塊數據結構,應用云端大模型+邊端智能體相結合的云邊協同架構,極大優化了預測和策略模型生成的效率與準確性,相較傳統策略算法,得到了大幅度提升。
達卯能源大模型是國內領先的、面向各類能源場景、對各類能源任務具備通用求解能力的垂類大模型體系,該模型體系主要由三個核心部分構成:基于 MOE 架構的能源知識模型、基于 Transformer 架構的能量系統平衡模型以及多模態模型,共同鑄就了達卯智能在能源領域的技術領先地位。
隨著 DeepSeek 的橫空出世,達卯智能也開始接入和適配 DeepSeek-R1 模型,DeepSeek 強大的推理能力,填補了達卯智能此前的空白,達卯智能基于 DeepSeek 進一步升級和完善了其自研產品的核心能力。一方面,基于能源行業獨有的海量垂直語料庫與自研能源大模型體系,“能源小達”AI 智能體實現突破性升級,為發電、輸電、配電、電力交易、政策合規等全產業鏈提供高精度、低延遲、強適配的 AI 決策支持。另一方面,達卯智能進行二次開發,開發了虛擬電廠功能,可對能源資源進行調度、交易和聚合,為能源行業客戶生成相應的資源調度策略報告,實現能源行業降本 15%。
RTX 5880 Ada 賦能達卯能源一體機重構本地化部署范式
任何大模型或深度學習應用的部署,都逃不開算力瓶頸。面對數十億甚至上百億參數規模的模型,一個合適的硬件配置能夠讓推理速度提升一個數量級。
為適應能源行業 AI 的變革,達卯智能基于 DeepSeek R1 與 NVIDIA 架構,推出了 DM-Engine R1 系列能源大模型一體機,通過搭載麗臺科技提供的 NVIDIA RTX 5880 Ada GPU,結合麗臺科技定制化工作站和服務器整機,達卯智能為能源行業打造了安全端到端 AI 推理方案。
此次推出的 DM-Engine R1 一體機系列有三款,其中 DM-Engine R1 14B 標準版和 DM-Engine R1 32B 旗艦版均搭載 NVIDIA RTX 5880 Ada,分別適用于輕量級模型推理以及高精度專業領域任務。
RTX 5880 Ada 具備 48GB GDDR6 顯存以及 14,080 個 CUDA 核心和 440 個第四代 Tensor Core,具有 69.3 TFLOPs 的 FP32 計算能力和 1,108 TFLOPs 的 Tensor 性能,非常適合用于 AI 模型推理任務,單 GPU 即可勝任小規模模型或低并發推理需求,而多 GPU 的靈活擴展則更適用于處理教大的輸入或高并發推理場景。
DM-Engine R1 14B 標準版能夠使 TCO(總體擁有成本)降低 40% 并且支持 365*24 小時無休運行。DM-Engine R1 32B 旗艦版配備 2 塊 RTX 5880 Ada,48GB*2 顯存保障 8,192 步長時序預測零中斷,同時支持 2.4 萬 QPS 高并發,能夠實現結構化剪枝技術能源場景推理提速 300%。
DM-Engine R1 系列一體機特點:
全棧深度適配
預集成能源領域專屬大模型與工具鏈,通過可視化界面與標準化接口,實現從部署到應用的極簡操作流程,企業可以快速構建專屬能源模型,無需復雜的配置和調試,大大縮短了項目上線時間,提高了業務響應速度,使企業能夠更敏捷地應對市場變化和能源管理需求。
算效比全面領先
基于 NVIDIA 新一代架構 GPU 保障千億級模型推理精度,實現單位功耗算力倍增,邊緣場景綜合能效比達業界標桿水平。這意味著在相同的能耗條件下,該系列一體機能夠提供更強大的計算性能,幫助能源企業降低運營成本,提高能源利用效率,符合“雙碳”目標下的可持續發展要求。
靈活部署全域覆蓋
支持從邊端設備監測到云端超大規模集群的多層級算力配置,適配私有化部署與公有云快速接入,滿足能源預測、智能調度、電力交易等全場景需求,兼顧數據安全與業務敏捷性。能源企業可以根據自身的業務特點和需求,選擇最適合的部署方案,確保數據的保密性和完整性,同時實現快速的業務拓展和創新。
DM-Engine R1 系列一體機通過不同的配置,來精準匹配各類能源行業需求。在能效優化方面,幫助用戶年節省百萬級能耗成本,實現了能源的高效利用和成本的大幅降低。其海量秒級響應決策能力,使能源企業在面對市場波動和需求變化時,能夠迅速做出精準的調度和決策,提升企業的市場競爭力。同時,本地化的部署能夠保障核心資產與業務數據安全,防止數據泄露和惡意攻擊,為能源企業的數字化轉型提供了堅實的安全保障。
達卯智能技術人員表示:“達卯智能基于 NVIDIA RTX 5880 Ada 打造的一體機,是面向能源行業的專屬 AI 推理方案,做到算力與模型的高效協同,為能源行業帶來了更高效、更智能的解決方案。”
-
NVIDIA
+關注
關注
14文章
5242瀏覽量
105772 -
能源
+關注
關注
3文章
1949瀏覽量
44304 -
大模型
+關注
關注
2文章
3028瀏覽量
3830 -
DeepSeek
+關注
關注
1文章
773瀏覽量
1344
原文標題:案例分享丨算模協同:RTX 5880 Ada 賦能達卯智能能源大模型
文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
NVIDIA RTX 5880 Ada與Qwen3系列模型實測報告

使用NVIDIA RTX PRO Blackwell系列GPU加速AI開發
NVIDIA RTX 5880 Ada顯卡部署DeepSeek-R1模型實測報告

NVIDIA RTX 4500 Ada與NVIDIA RTX A5000的對比
$1999 的 RTX 5090 來了

NVIDIA推出GeForce RTX 50系列臺式機和筆記本電腦GPU
NVIDIA推出面向RTX AI PC的AI基礎模型
NVIDIA RTX 5880 Ada賦能機器人仿真
《CST Studio Suite 2024 GPU加速計算指南》
AMD與NVIDIA GPU優缺點
Nvidia 再推出特供版顯卡 GeForce RTX 5090D

評論