電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）2022年底，以ChatGPT為標(biāo)志的生成式AI場(chǎng)景引爆市場(chǎng)，引發(fā)了全行業(yè)對(duì)于AI大模型等技術(shù)的關(guān)注，AI發(fā)展跨越拐點(diǎn)，大模型逐漸成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。然而大模型的訓(xùn)練和部署需要大量的計(jì)算資源。

訓(xùn)推一體機(jī)成為算力行業(yè)趨勢(shì)

今年7月，華為攜手伙伴聯(lián)合發(fā)布昇騰AI大模型訓(xùn)推一體化解決方案，加速大模型在各行業(yè)應(yīng)用落地，并有23家昇騰AI伙伴推出AI服務(wù)器、智能邊緣與終端新品，共同為行業(yè)智能化升級(jí)提供豐富的產(chǎn)品與解決方案。

昇騰一體機(jī)主要是為特定的AI應(yīng)用設(shè)計(jì)的集成解決方案。它們整合了昇騰AI處理器、軟件平臺(tái)、開發(fā)工具和其他關(guān)鍵組件，如存儲(chǔ)和網(wǎng)絡(luò)設(shè)施，以提供針對(duì)特定AI任務(wù)（如深度學(xué)習(xí)、圖像處理）的優(yōu)化性能。這類設(shè)備通常更加用戶友好，支持即插即用，特別適合于那些需要快速部署并立即投入使用AI技術(shù)的場(chǎng)景。

業(yè)界認(rèn)為，訓(xùn)推一體機(jī)是適合我國市場(chǎng)的優(yōu)選解決方案。當(dāng)前我國大模型產(chǎn)業(yè)正高速發(fā)展，與此同時(shí)，技術(shù)變革帶來的大模型應(yīng)用研發(fā)周期長、研發(fā)門檻高、業(yè)務(wù)安全隱患等問題一定程度上阻礙里技術(shù)落地，尤其是在中國存在大量的G 端和B 端客戶，而訓(xùn)推一體機(jī)很好地解決了這些痛點(diǎn)：

開箱即用，直接享用新技術(shù)成果。訓(xùn)推一體機(jī)可實(shí)現(xiàn)定制化的大模型應(yīng)用軟硬一體解決方案，一般可集成優(yōu)選的成熟大模型產(chǎn)品，廠家可以協(xié)助大模型預(yù)訓(xùn)練定制、微調(diào)定制、訓(xùn)練標(biāo)注、技術(shù)培訓(xùn)等；

2、簡(jiǎn)化部署，一般一體機(jī)均會(huì)提前做好適配調(diào)優(yōu)，算法遷移，幫助客戶簡(jiǎn)化大模型部署；3、數(shù)據(jù)安全，我國高度重視數(shù)據(jù)安全，尤其是政企客戶，常規(guī)鏈接通用大模型存在數(shù)據(jù)泄露安全隱患，政府等客戶更希望能本地化部署，訓(xùn)推一體機(jī)可完成本地訓(xùn)練和推理，解決大模型應(yīng)用數(shù)據(jù)安全難題，試用于高安全要求場(chǎng)景和客戶。

對(duì)于訓(xùn)推一體機(jī)市場(chǎng)需求情況，云從科技此前對(duì)媒體表示，對(duì)于國產(chǎn)信創(chuàng)需求的增加和對(duì)合規(guī)、私有化部署的重視，對(duì)數(shù)據(jù)要素和基于大模型的應(yīng)用側(cè)變化的重視，預(yù)計(jì)將會(huì)涌現(xiàn)出較大的應(yīng)用場(chǎng)景，市場(chǎng)規(guī)模龐大，尤其在IT部分的升級(jí)和場(chǎng)景需求明確的私有化部署方面，將有巨大的市場(chǎng)機(jī)會(huì)。

訓(xùn)推一體機(jī)已在多個(gè)場(chǎng)景實(shí)現(xiàn)落地

據(jù)介紹，昇騰AI訓(xùn)推一體機(jī)單體價(jià)值量比昇騰服務(wù)器提高了很多，可以將其理解為昇騰服務(wù)器疊加大模型私有化部署遷移。根據(jù)中國招標(biāo)投標(biāo)公共服務(wù)平臺(tái)公告，中貝通信和恒為科技分別中標(biāo)了AI算力一體機(jī)采購項(xiàng)目，該項(xiàng)目采購總價(jià)為21.12億元，單價(jià)為440萬元。

眾多廠商與華為攜手推出大模型訓(xùn)推一體機(jī)。云從科技表示，公司正在與華為合作推出大模型訓(xùn)推一體機(jī)，方式是共同打造產(chǎn)品。華為的代工廠會(huì)將芯片與云從的大模型集成，然后共同推廣給客戶。云從在這個(gè)合作中不僅賣產(chǎn)品，還會(huì)提供其他應(yīng)用開發(fā)相關(guān)的服務(wù)。

整個(gè)市場(chǎng)空間不同于以往的分成模式，而是通過聯(lián)合推廣的方式，與華為各地銷售團(tuán)隊(duì)一起推廣。價(jià)格上訓(xùn)推一體機(jī)大約在三四百萬元的范圍內(nèi)，在中檔旗艦訓(xùn)練部分報(bào)價(jià)大致在一百萬元以下，更低端的一體機(jī)報(bào)價(jià)大約在30萬左右。

云天勵(lì)飛近日表示，公司聯(lián)合華為于今年9月推出了大模型訓(xùn)推一體化產(chǎn)品—云天天書大模型訓(xùn)推一體機(jī)。該產(chǎn)品內(nèi)置了公司自主研發(fā)的天書千億級(jí)大模型。通過與昇騰硬件加速平臺(tái)的聯(lián)合深度優(yōu)化，并集成“開箱即用”系列訓(xùn)推工具，產(chǎn)品可滿足面向多業(yè)務(wù)場(chǎng)景的大模型高并發(fā)高能效處理、業(yè)務(wù)快速上線的需求。同時(shí)，產(chǎn)品具有豐富的接口，支持靈活的二次開發(fā)和敏捷部署。

智譜AI、昇騰、華鯤振宇在今年9月也聯(lián)合預(yù)發(fā)布了三款智譜GLM昇騰大模型一體機(jī)，包括智譜-昇騰ChatGLM訓(xùn)推一體機(jī)、智譜-昇騰CodeGeeX代碼生成一體機(jī)、智譜-昇騰ChatGLM推理一體機(jī)，旨在推動(dòng)千行百業(yè)數(shù)字化轉(zhuǎn)型升級(jí)。

智譜AI CEO張鵬表示，智譜AI專注于大模型的自主創(chuàng)新，一方面通過人工智能助手產(chǎn)品智譜清言將大模型能力開放給公眾，另一方面也踐行“模型即服務(wù)”的理念，讓大模型應(yīng)用落地千行百業(yè)。本次基于昇騰AI打造的大模型一體機(jī)，相信將為各行各業(yè)帶來更便捷、更安全的大模型軟硬件協(xié)同解決方案，推動(dòng)建設(shè)更完善、健全的大模型應(yīng)用生態(tài)。

此外，軟通動(dòng)力、科大訊飛、醫(yī)渡科技、安恒信息、中軟國際此前都陸續(xù)發(fā)布了其昇騰一體機(jī)解決方案，有望賦能千行百業(yè)。并且不少方案已經(jīng)在諸多場(chǎng)景中實(shí)現(xiàn)落地，例如AI訓(xùn)練開發(fā)一體機(jī)解決方案賦能山東大學(xué)科研創(chuàng)新、軟通動(dòng)力AI機(jī)器人昇騰一體機(jī)助力深圳機(jī)場(chǎng)國際快件海關(guān)監(jiān)管EIMS系統(tǒng)智能化升級(jí)等。

總結(jié)

隨著科技的不斷發(fā)展，人工智能已經(jīng)逐漸滲透到我們生活的方方面面，從智能手機(jī)、智能家居到自動(dòng)駕駛汽車、醫(yī)療診斷等，都離不開人工智能技術(shù)的支持。大模型的出現(xiàn)更是為更多領(lǐng)域帶來助力，然而算力也因此面臨挑戰(zhàn)。而訓(xùn)推一體機(jī)讓企業(yè)能夠便捷的構(gòu)建解決方案。