Firefly開源團(tuán)隊(duì)文章

• 【AIBOX上手指南】快速部署Llama32024-06-06 08:02

  

  Firefly開源團(tuán)隊(duì)推出了Llama3部署包，提供簡易且完善的部署教程，過程無需聯(lián)網(wǎng)，簡單快捷完成本地化部署。點(diǎn)擊觀看Llama3快速部署教程：Step.1準(zhǔn)備部署包進(jìn)入Firefly下載中心，下載Llama3部署包。在電腦上以管理員身份打開cmd：執(zhí)行scp命令傳輸部署包至AIBOX，并輸入密碼linaro獲取訪問權(quán)限。scpllama3.tarlina

  Firefly 軟件 1130瀏覽量

• 低功耗大模型主板：ROC-RK3576-PC2024-05-30 08:02

  

  采用八核64位AIOT處理器RK3576，采用大小核構(gòu)架（4×A72+4×A53），采用先進(jìn)制程工藝，高性能低功耗，內(nèi)置ARMMaliG52MC3GPU，集成6TOPS算力NPU，支持Transformer架構(gòu)下超大規(guī)模參數(shù)模型的私有化部署，支持多種深度學(xué)習(xí)框架、自定義算子開發(fā)、Docker容器化管理技術(shù)。配置外部看門狗，具備工業(yè)級(jí)穩(wěn)定性，廣泛適用于AI本地

  主板 處理器 大模型 1412瀏覽量

• 【AIBOX快速入門】2步玩轉(zhuǎn)AI對話2024-05-30 08:02

  

  隨著目前AI的高速發(fā)展，大批量AI硬件應(yīng)運(yùn)而生，但使用門檻普遍較高。為了解決這類問題，F(xiàn)irefly開源團(tuán)隊(duì)推出了基于Web的AI對話應(yīng)用：FireflyChat，讓AI的使用變得更加簡單點(diǎn)擊觀看視頻教程：1接線分別接入電源線和網(wǎng)線，其中網(wǎng)線需要接到靠近12V電源接口的網(wǎng)口1（網(wǎng)口1的靜態(tài)IP為192.168.150.1）2設(shè)置電腦IP在電腦上打開cmd（使

  AI Firefly 人工智能 956瀏覽量

• AI算力核心板：Core-1688JD42024-05-15 08:02

  

  采用SOPHON算能八核AI處理器BM1688，INT8算力高達(dá)16TOPS，支持16路解碼+10路編碼+16路AI分析，支持6路sensor輸入視頻，并支持LLaMa2、ChatGLM、Qwen等大模型私有化部署，提供一站式深度學(xué)習(xí)開發(fā)工具包SOPHONSDK，工具鏈完備易用度高，可輕松進(jìn)行AI算法的本地化部署適用于智算服務(wù)器、邊緣智算盒、工控機(jī)、智能網(wǎng)絡(luò)

  AI 處理器 工控機(jī) 2130瀏覽量

• 【AIBOX】裝在小盒子的AI足夠強(qiáng)嗎？2024-05-15 08:02

  

  Firefly推出大語言模型本地部署的產(chǎn)品：AIBOX-1684X，目前已適配主流的大語言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實(shí)機(jī)演示：ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略，在不同角度的數(shù)據(jù)集，采用了全新設(shè)計(jì)的Prompt格式，支持工具調(diào)用(FunctionCall)、代碼執(zhí)行(CodeInterp

  AI Firefly 語言模型 794瀏覽量

• 智算AI主機(jī)：EC-A1688JD42024-05-07 08:02

  

  采用SOPHON算能八核AI處理器BM1688，INT8算力高達(dá)16TOPS，支持16路H.265/H.2641080p@30fps視頻解碼，支持6路sensor輸入視頻，支持主流編程框架，提供一站式深度學(xué)習(xí)開發(fā)工具包SOPHONSDK，工具鏈完備易用度高，算法輕松部署，算法遷移代價(jià)小。適用于智算服務(wù)器、邊緣智算盒、工控機(jī)、智能網(wǎng)絡(luò)攝像機(jī)、AIOT、智能安防

  AI 主機(jī) 1112瀏覽量

• 成都工博會(huì)現(xiàn)場：共睹新一輪技術(shù)潮流2024-05-07 08:02

  

  2024年4月24日-26日，成都工業(yè)博覽會(huì)在中國西部國際博覽城盛大舉辦，F(xiàn)irefly團(tuán)隊(duì)攜多款核心產(chǎn)品如約而至，與展客分享及探討嵌入式工業(yè)級(jí)系統(tǒng)的最新趨勢和科技創(chuàng)新。展會(huì)現(xiàn)場直擊Firefly團(tuán)隊(duì)以“工業(yè)智能一站式平臺(tái)”為主題布展，進(jìn)行了全方位的產(chǎn)品展示，其中涵蓋集群服務(wù)器、工業(yè)主機(jī)、工業(yè)主板、核心板、IPC攝像頭等產(chǎn)品。現(xiàn)場許多展客被吸引前來參與產(chǎn)品體

  嵌入式 嵌入式系統(tǒng) 工業(yè) 450瀏覽量

• AI硬件大爆發(fā)，這個(gè)小魔盒直擊端側(cè)AIGC的痛點(diǎn)2024-05-07 08:02

  

  私有本地化部署：AI硬件的未來隨著當(dāng)下AI的高速發(fā)展，今年將會(huì)迎來“大模型應(yīng)用爆發(fā)元年”。市面上不少大模型產(chǎn)品應(yīng)運(yùn)而生，在大模型普惠應(yīng)用井噴的時(shí)代，這類產(chǎn)品的使用存在許多門檻和風(fēng)險(xiǎn)，比如高昂的服務(wù)器部署成本、在運(yùn)行過程中會(huì)過度依賴網(wǎng)絡(luò)狀態(tài)、以及難以保障數(shù)據(jù)的安全性等問題。為了解決大模型產(chǎn)品使用期間所產(chǎn)生的算力成本高、網(wǎng)絡(luò)波動(dòng)、數(shù)據(jù)隱私等問題，F(xiàn)irefly開

  AI AIGC 硬件 731瀏覽量

• AIBOX-1684X：把大語言模型“裝”進(jìn)小盒子2024-04-20 08:02

  

  AIBOX-1684X支持主流大模型私有化部署，算力高達(dá)32TOPS，同時(shí)也支持CNN、RNN、LSTM等傳統(tǒng)網(wǎng)絡(luò)架構(gòu)，支持TensorFNNX和Darknet等深度學(xué)習(xí)架構(gòu)，并支持自定義算子開發(fā)。支持Docker容器化管理技術(shù)。適用于智能監(jiān)控、AI教學(xué)、算力服務(wù)、邊緣計(jì)算、大模型私有化部署、數(shù)據(jù)安全和隱私保護(hù)等場景。全面的人工智能私有化部署語言大模型支持T

  深度學(xué)習(xí) 語言模型 1796瀏覽量

• Firefly攜眾多明星產(chǎn)品亮相德國國際嵌入式展2024-04-15 08:02

  

  Firefly于上周（2024年4月9日-11日）攜眾多明星產(chǎn)品亮相于在德國紐倫堡舉辦的2024年國際嵌入式展(Embedded World 2024)，在Hall 3A-517號(hào)展位上進(jìn)行了全方位產(chǎn)品展示，向全球用戶展示了集群服務(wù)器，嵌入式主機(jī)，IPC攝像頭，核心板，開源主板等明星產(chǎn)品大量用戶進(jìn)場進(jìn)行產(chǎn)品交流在展會(huì)現(xiàn)場，大量用戶現(xiàn)場體驗(yàn)了各式各樣的產(chǎn)品，并

  Firefly 嵌入式 服務(wù)器 539瀏覽量