Firefly推出大語言模型本地部署的產(chǎn)品:AIBOX-1684X,目前已適配主流的大語言模型,包括ChatGLM3-6B,以下是ChatGLM3在AIBOX-1684X上的實機演示:ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略,在不同角度的數(shù)據(jù)集,采用了全新設(shè)計的Prompt格式,支持工具調(diào)用(Function Call)、代碼執(zhí)行(Code Interpreter)和Agent任務(wù)等復(fù)雜場景
性能實測結(jié)果
更強大的基礎(chǔ)模型
ChatGLM3-6B (Base) 在選取的8個中英文典型數(shù)據(jù)集中進行性能測試:
在語義、數(shù)學(xué)、推理、代碼、知識等不同角度的數(shù)據(jù)集上測評顯示,ChatGLM3-6B-Base具有在10B以下的基礎(chǔ)模型中最強的性能
更全面的開源序列
除了對話模型ChatGLM3-6B外,還開源了基礎(chǔ)模型ChatGLM3-6B-Base、長文本對話模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench評測集上對模型進行測試:
在多個長文本應(yīng)用場景下的估測試中,與二代模型相比,其效果平均提升程度大于50%。在論文閱讀、文檔摘要和財報分析等應(yīng)用中,提升尤為顯著
-
AI
+關(guān)注
關(guān)注
87文章
34274瀏覽量
275451 -
語言模型
+關(guān)注
關(guān)注
0文章
558瀏覽量
10679 -
Firefly
+關(guān)注
關(guān)注
2文章
541瀏覽量
7403
發(fā)布評論請先 登錄
AI大模型智能盒子,語音對話人工智能開發(fā)套件

傳統(tǒng)攝像頭為什么需要升級為AI盒子?多場景痛點解析
AIBOX 新成員,搭載 RK3588S 芯片全新上線

自制1個指紋保險箱,不到100元就能擁有!

【AIBOX 應(yīng)用案例】單目深度估計

ShiMetaOS | 怎樣通過AI主機盒+網(wǎng)絡(luò)攝像頭IPC快速構(gòu)建視頻結(jié)構(gòu)化分析方案

AIBOX 全系產(chǎn)品已適配 DeepSeek-R1

芯盾時代入選ISC.AI 2024創(chuàng)新能力百強
【AIBOX應(yīng)用】通過 NVIDIA TensorRT 實現(xiàn)實時快速的語義分割

【NVIDIA生態(tài)】具有100 TOPS強勁算力的AIBOX!

深蕾半導(dǎo)體HDMI AI分析盒子

AMD助力PlanetSpark公司開發(fā)AI邊緣盒子EdgeAI Box X7
AIBOX旗艦版:內(nèi)置NVIDIA核心模組

邊緣計算AI算法盒子在停放充電區(qū)域AI智慧監(jiān)控的應(yīng)用

評論