近日,“昇騰+DeepSeek 智算引擎創(chuàng)新行”江蘇省首站活動在南京成功舉辦,本次活動由南京江北新區(qū)產業(yè)技術研創(chuàng)園指導,江蘇省人工智能學會、江蘇鯤鵬·昇騰生態(tài)創(chuàng)新中心主辦。江蘇潤和軟件股份有限公司(以下簡稱“潤和軟件”)作為昇騰生態(tài)核心伙伴受邀出席,人工智能研究院AI總工朱凱分享了基于“昇騰 + openEuler + OpenHarmony + DeepSeek”的全場景云-邊-端智能生態(tài)體系的技術實踐,并參與圓桌論壇探討DeepSeek大模型行業(yè)落地路徑。
技術突破:全棧自主創(chuàng)新,夯實智能底座
潤和軟件全場景云-邊-端智能生態(tài)體系
1. 昇騰AI算力:覆蓋云-邊-端的全場景性能躍升
云端訓練,昇騰910+openEuler深度優(yōu)化:依托昇騰910芯片的強大算力,潤和軟件深度定制HopeOS AI版操作系統(tǒng),結合NUMA親和調度策略與高效的容器化編排技術,針對千億級參數大模型進行分布式訓練優(yōu)化。通過算子級融合優(yōu)化、CANN框架深度適配、數據流調度優(yōu)化及模型切分策略精細化調整,大幅降低計算節(jié)點間通信開銷,提升算力利用效率。
邊端推理,昇騰310+OpenHarmony實時響應:基于昇騰310芯片的高能效比優(yōu)勢,結合OpenHarmony分布式軟總線的低開銷通信機制、跨設備協(xié)同與統(tǒng)一調度能力,實現(xiàn)了多端高效協(xié)同計算。
2. DeepSeek大模型:覆蓋訓練到推理的端到端性能優(yōu)化
模型優(yōu)化,高效壓縮與行業(yè)適配:針對DeepSeek大模型,結合分層量化與知識蒸餾技術,實現(xiàn)模型輕量化,同時確保核心任務的高精度要求。通過智能量化策略對不同層級進行優(yōu)化,減少計算資源消耗,并融合行業(yè)知識進行模型蒸餾,使其在金融風控、醫(yī)療診斷等專業(yè)領域保持穩(wěn)健的推理性能。
行業(yè)定制,深度融合領域know-how:通過業(yè)務規(guī)則嵌入與場景化數據增強雙路徑驅動,構建可動態(tài)演化的微調框架:將行業(yè)知識圖譜與領域邏輯規(guī)則轉化為模型可識別的語義約束,結合輕量化增量訓練技術,實現(xiàn)預訓練大模型向特定場景的精準對齊,在保障通用能力的同時增強對碎片化、長尾需求的適應性。
行業(yè)賦能:深入場景,讓AI驅動業(yè)務增長
在以“DeepSeek大模型行業(yè)落地路徑”為主題的圓桌論壇中,潤和軟件針對大模型在垂直場景中面臨的碎片化需求適配難、領域知識遷移效率低、部署成本高等挑戰(zhàn),提出了“場景定義架構、知識驅動進化”的落地方法論:
潤和軟件人工智能研究院AI總工朱凱參與圓桌論壇
統(tǒng)一引擎:潤和軟件自研的統(tǒng)一推理引擎通過深度整合軟硬件資源,提供了強大的推理加速能力與優(yōu)化效果,針對不同硬件平臺的專用算子優(yōu)化、內存管理與并行計算的精細調度,通過智能層次調度與融合技術可根據模型的復雜度和硬件性能動態(tài)調節(jié)推理流程。
知識閉環(huán):基于行業(yè)知識庫構建反饋強化機制,利用模型微調框架實現(xiàn)“數據采集-知識提煉-模型迭代”的自進化鏈路,構建具備業(yè)務認知自演進能力的AI系統(tǒng)。
潤和軟件堅持從“堆參數”轉向“解方程”的技術路徑,將行業(yè)關鍵問題轉化為可量化、可迭代的算法命題,再用AI工具精準求解。未來,潤和軟件將持續(xù)深化“昇騰+DeepSeek”技術路線,依托工程化技術解耦能力,將大模型技術重構為企業(yè)級即懂即用的智能業(yè)務賦能系統(tǒng),賦能千行百業(yè)智能化升級。
江蘇潤和軟件股份有限公司(簡稱“潤和軟件”)成立于2006年,2012年在深圳證券交易所創(chuàng)業(yè)板上市(證券代碼:300339),是國家重點規(guī)劃布局內的大型軟件企業(yè)。公司總部位于南京,在北京、上海、深圳、香港等22個國內主要城市設有研發(fā)中心或分子公司,在日本、美國、新加坡等國設有海外分支機構,全球員工約13000人,擁有全球化的技術整合、客戶響應與服務到達能力。
秉承“做民族軟件脊梁,擔世界進步責任”的使命,潤和軟件致力成為“中國數智科技與服務創(chuàng)新的引領者”,通過國產化、數字化、智能化創(chuàng)新技術,軟硬件一體化解決方案能力及全生命周期軟件服務體系,激活行業(yè)新動能、發(fā)展新質生產力,助力廣大客戶數字化轉型和智能化升級。
-
模型
+關注
關注
1文章
3486瀏覽量
49990 -
昇騰
+關注
關注
1文章
155瀏覽量
6884 -
潤和軟件
+關注
關注
1文章
317瀏覽量
1139 -
DeepSeek
+關注
關注
1文章
773瀏覽量
1336
原文標題:潤和軟件全棧AI生態(tài)亮相昇騰DeepSeek沙龍,技術突破與行業(yè)落地雙輪驅動智能化升級
文章出處:【微信號:hoperun300339,微信公眾號:潤和軟件】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
潤和軟件亮相鯤鵬昇騰開發(fā)者大會2025
DeepSeek在昇騰上的模型部署的常見問題及解決方案

(原創(chuàng))昇騰310B(8T/20T)算力主板定制方案
湖南 DeepSeek+昇騰云技術應用沙龍成功舉辦,拓維信息助力 AI 新范式探索

昇騰推理服務器+DeepSeek大模型 技術培訓在圖為科技成功舉辦

研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
云軸科技ZStack智塔攜手昇騰AI實現(xiàn)DeepSeek模型部署

華為推出昇騰DeepSeek大模型一體機
迅龍軟件出席華為昇騰APN伙伴大會,獲昇騰APN鉆石伙伴授牌及兩項大獎

中軟國際科創(chuàng)中心上線DeepSeek模型
潤和軟件AIRUNS智能中樞平臺接入DeepSeek大模型

評論