4月18日至19日，由智東西聯(lián)和智猩猩發(fā)起主辦的2024中國生成式AI大會在北京JW萬豪酒店召開。

云天勵飛“云天天書”大模型技術(shù)負(fù)責(zé)人余曉填博士受邀出席18日下午大模型專場論壇，并發(fā)表主題演講《多模態(tài)大模型演進(jìn)與落地應(yīng)用探索》。

會上，余曉填博士從人工智能的演進(jìn)歷程為切入點，介紹國內(nèi)外大模型技術(shù)的發(fā)展概況，以及大模型技術(shù)落地的三個階段和六大挑戰(zhàn)。以算法芯片化平臺為基礎(chǔ)，云天勵飛推出了自主研發(fā)的大模型“云天天書”，以及AI邊緣訓(xùn)推芯片DeepEdge10。上個月，云天勵飛正式推出邊緣訓(xùn)推一體產(chǎn)品“深目”AI模盒，致力于大模型在場景落地最后一公里問題。

“算法芯片化”突破技術(shù)應(yīng)用的“三角約束”

從2022年ChatGPT問世以來，國內(nèi)外大模型項目“井噴式”發(fā)展，創(chuàng)新應(yīng)用層出不窮。伴隨著大模型產(chǎn)業(yè)規(guī)模的快速增長，探索商業(yè)化路徑，成為當(dāng)下重點。

余曉填博士在演講中提到，大模型技術(shù)落地面臨著“三角約束”——精度、成本、效率。

通過“算法芯片化”的核心技術(shù)，云天勵飛突破了“三角約束”。在算法芯片化平臺支撐之下，云天勵飛實現(xiàn)了四大創(chuàng)新：

1. 自研的Space推理引擎，提升了推理速度50%以上。

2. 分布式自適應(yīng)稀疏緩存解碼，減少了GPU需求50%。

3. 可伸縮的大模型訓(xùn)練技術(shù)：通過深度和寬度擴(kuò)展，訓(xùn)練效率翻倍，成本降低50%。

4. 神經(jīng)網(wǎng)絡(luò)處理器與推理芯片：適配多種深度學(xué)習(xí)架構(gòu)，Chiplet技術(shù)解決了工藝對算力掣肘的問題。

通過這四大創(chuàng)新技術(shù)，云天勵飛自研大模型“云天天書”不僅在各類榜單中屢獲第一，并且在應(yīng)用中也取得良好表現(xiàn)。目前，“云天天書”已在政務(wù)民意速辦、公文智寫、警務(wù)視頻語義檢索、城市道路CT巡檢、企業(yè)員工培訓(xùn)等領(lǐng)域落地應(yīng)用。

致力于推動大模型“平民化”

上個月，云天勵飛還推出了邊緣訓(xùn)推一體盒子——“深目”AI模盒，可實現(xiàn)“3個90%”，即覆蓋場景超過90%、算法精度超過90%、使用成本降低90%，解決了大模型在落地場景的最后一公里問題。讓人人都能夠根據(jù)自身場景需求，利用大模型能力，訓(xùn)練出可實戰(zhàn)應(yīng)用的算法，讓大模型唾手可得。

未來，云天勵飛將以更大力度投入到多模態(tài)大模型的技術(shù)和應(yīng)用創(chuàng)新中，為更多行業(yè)帶來更便捷、高效、低成本的大模型體驗。

審核編輯：劉清