女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

使用瑞薩MPU芯片RZ/V2H部署DeepSeek-R1模型

瑞薩MCU小百科 ? 來源:瑞薩MCU小百科 ? 2025-05-15 14:40 ? 次閱讀

1DeepSeek在端側設備的應用場景

DeepSeek大語言模型(LLM)可用于理解人類語言的交互方式,思考,并給出合適的回應。同時,通過結合RAG(Retrieval-Augmented Generation,檢索增強生成)技術,可以從用戶定制知識數據庫檢索信息,將其作為提示輸入給LLM,LLM通過將這些額外的知識與自己的語言技能相結合,可以撰寫更準確、更具時效性且更貼合具體需求的文字,提供面向某個具體領域的專業(yè)應答。在AI概念和端側AI技術火熱的當下,瑞薩半導體推出的面向端側AI應用的高性能MPU,也可以部署DeepSeek-R1模型。在我們預想的應用場景中,我們可以在部署了DeepSeek-R1模型和RAG定制數據庫的瑞薩MPU電路板上,在不聯網的情況下,實現如下應用:

向AI模型投喂高端家電、車輛等復雜電子產品的用戶手冊,對這些模型進行訓練,以創(chuàng)建一個AI助手,能夠自動執(zhí)行某些復雜功能的設置。如此,用戶就不必為了使用某一樣新奇的功能而花費大量時間閱讀手冊。相對于傳統的語音識別應用需要特定的命令或者喚醒詞,引入LLM對口頭語言的表達進行分析,可以讓硬件設備更容易理解用戶的需求。

面向騎行愛好者,讓AI助手在自行車電腦中運行,這樣用戶在騎自行車時就可以獲得個性化的導覽/導航以及其他信息。

AI智能眼鏡&耳機,直接理解用戶口語表達的命令,以日常使用的人類語言與電子系統進行交互。

實時的翻譯機,在不聯網的應用場景中,利用AI做一些簡單的語言轉換,甚至可以作為人與寵物之間的交互。例如,寵物貓和寵物狗的語言表達相對于人類語言更簡單,可以把它們的語言轉換成人類理解和思考的方式表現出來。

為此,我們在瑞薩定位于AI應用的MPU芯片RZ/V2H,適配了DeepSeek-R1:1.5B的LLM模型,以支撐這些潛在的AI應用。

2瑞薩RZ/V2H硬件平臺簡介

在演示用例中,使用瑞薩官方的RZ/V2H-EVK開發(fā)板,如圖1所示。

ddb015be-2ee6-11f0-9310-92fbcf53809c.png

圖1 瑞薩官方RZ/V2H-EVK開發(fā)板

板載豐富的外擴資源,如圖2所示。

dde45c8e-2ee6-11f0-9310-92fbcf53809c.png

圖2 RZ/V2H-EVK開發(fā)板板載資源

其中,RZ/V2H集成了7個處理器核心,分別是4個Cortex-A55@1.8GHz,2個Cortex-R8@800MHz,1個Cortex-M33@200MHz,同時還集成了瑞薩自主研發(fā)的AI計算專用加速引擎DRP-AI3和圖像計算加速引擎DRP,有系統框圖,如圖3所示。

de99c9b6-2ee6-11f0-9310-92fbcf53809c.png

圖3 RZ/V2H處理器系統框圖

3下載、配置和啟動DeepSeek-R1

RZ/V2H-EVK開發(fā)板已經適配了Yocto Linux操作系統,在此基礎上,使用Ollama官方推薦的方式,可以完成部署并運行DeepSeek-R1大模型。

使用可以聯通外部網絡的路由器,用網線將RZ/V2H-EVK電路板和PC連起來,確保RZ/V2H-EVK電路板和電腦可以聯網,并可互相訪問。對RZ-V2H-EVK電路板的配置工作,將通過電腦完成。

在電腦上,通過Tera Term工具(或者其它SSH工具)連接到開發(fā)板。在終端中,使用腳本安裝并啟動Ollama服務:

deafdfe4-2ee6-11f0-9310-92fbcf53809c.png

通過Ollama啟動DeepSeek-R1模型。注意,在第一次運行命令時,會自行下載DeepSeek-R1模型文件。在此過程中,需要確保聯網情況良好。

debffc4e-2ee6-11f0-9310-92fbcf53809c.png

下載完成之后,自行啟動DeepSeek-R1模型。后續(xù)運行這個命令載入模型時,就不需要聯網了。

載入模型成功后,可以看到命令行中有提示信息“Send a message(/? for help)”。此時,可以向運行在RZ/V2H-EVK電路板上的離線版DeepSeek提問了。

decd80ee-2ee6-11f0-9310-92fbcf53809c.png

圖4 在RZ/V2H上啟動DeepSeek-R1

4運行演示

在啟動DeepSeek-R1后,我們問了第一個問題"介紹一下你自己",接下來,請看RZ/V2H-EVK電路板的反應:

視頻中可以看到,DeepSeek-R1大模型已經成功運行在RZ/V2H-EVK電路板上。

接下來,讓我們期待更多基于瑞薩產品和DeepSeek開發(fā)出的有趣應用吧。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • 瑞薩
    +關注

    關注

    36

    文章

    22366

    瀏覽量

    87697
  • AI
    AI
    +關注

    關注

    87

    文章

    34114

    瀏覽量

    275216
  • MPU
    MPU
    +關注

    關注

    0

    文章

    409

    瀏覽量

    49625
  • DeepSeek
    +關注

    關注

    1

    文章

    769

    瀏覽量

    1297

原文標題:瑞薩RZ/V2H平臺支持部署離線版DeepSeek -R1大語言模型

文章出處:【微信號:瑞薩MCU小百科,微信公眾號:瑞薩MCU小百科】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    基于RZ/V2H AI微處理器的解決方案:高性能視覺AI系統

    RZ/V2H嵌入式AI微處理器,采用最新的DRP-AI3技術,可提供高達8TOPS(Dense模型)/80TOPS(sparse
    發(fā)表于 07-02 18:36 ?811次閱讀
    基于<b class='flag-5'>瑞</b><b class='flag-5'>薩</b><b class='flag-5'>RZ</b>/<b class='flag-5'>V2H</b> AI微處理器的解決方案:高性能視覺AI系統

    面向邊緣AI應用的全新RZ/V2H

    一款新的64位 MPU RZ/V2H ,為電子的RZ/V
    的頭像 發(fā)表于 05-07 14:56 ?7749次閱讀
    面向邊緣AI應用的全新<b class='flag-5'>RZ</b>/<b class='flag-5'>V2H</b>

    如何使用OpenVINO運行DeepSeek-R1蒸餾模型

    DeepSeek-R1在春節(jié)期間引發(fā)了全球科技界的熱度,DeepSeek-R1 是由 DeepSeek 開發(fā)的開源推理模型,用于解決需要邏輯推理、數學問題解決和實時決策的任務。
    的頭像 發(fā)表于 03-12 13:45 ?1191次閱讀
    如何使用OpenVINO運行<b class='flag-5'>DeepSeek-R1</b>蒸餾<b class='flag-5'>模型</b>

    AI MPU# RZ/V2H 四核視覺 ,采用 DRP-AI3 加速器和高性能實時處理器

    RZ/V2H 高端 AI MPU 采用電子專有的AI 加速器-動態(tài)可重配置處理器 (DRP-AI3)、四核 Arm^?^ Cortex
    的頭像 發(fā)表于 03-15 11:50 ?1259次閱讀
    AI <b class='flag-5'>MPU</b># <b class='flag-5'>瑞</b><b class='flag-5'>薩</b><b class='flag-5'>RZ</b>/<b class='flag-5'>V2H</b> 四核視覺 ,采用 DRP-AI3 加速器和高性能實時處理器

    在龍芯3a6000上部署DeepSeek 和 Gemma2模型

    serve 2.運行deepseek-r1模型 到以下網站選擇不同參數的大模型 https://ollama.com/library/deep
    發(fā)表于 02-07 19:35

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的兩個不同定位的大模型,其核心差異主要體現在目標場景、能力側重和技術優(yōu)化方向上。以下是二者的實
    發(fā)表于 02-14 02:08

    RK3588開發(fā)板上部署DeepSeek-R1模型的完整指南

    擴展規(guī)劃、嵌入式適配等技術維度的突破。 RK3588作為芯微推出的旗艦級芯片,憑借多核異構計算能力以及強大的CPU、GPU和NPU性能,成為嵌入式AI應用的理想平臺。DeepSeek-R1
    發(fā)表于 02-27 16:45

    R-Car V2H 3D全景可視系統的現場演示

    R-Car V2H SoC融入了專用于進行視點轉換的IMR內核、IMP-X4圖像識別內核和三維圖形內核,這些內核提供的圖像相關技術滿足了對希望達到政府法規(guī)和保險安全評級的車輛上的A
    的頭像 發(fā)表于 06-30 12:19 ?3485次閱讀

    電子推出面向高性能機器人應用的RZ/V2H微處理器

    電子發(fā)布的RZ/V2H新產品,無疑在高性能機器人應用領域掀起了不小的波瀾。作為RZ產品家族微處理器(
    的頭像 發(fā)表于 03-08 10:58 ?1203次閱讀

    電子推出功能強大的單芯片RZ/V2H MPU

    電子針對下一代機器人領域的需求,推出了一款功能強大的單芯片RZ/V2H MPU。這款
    的頭像 發(fā)表于 03-08 11:01 ?1511次閱讀

    電子RZ MPU家族精品RZ/N2L產品介紹

    生態(tài)合作伙伴RT-Thread推出了一款高性能、多功能以太網MPU開發(fā)板EtherKit,搭載電子
    的頭像 發(fā)表于 12-23 14:10 ?561次閱讀
    <b class='flag-5'>瑞</b><b class='flag-5'>薩</b>電子<b class='flag-5'>RZ</b> <b class='flag-5'>MPU</b>家族精品<b class='flag-5'>RZ</b>/N<b class='flag-5'>2</b>L產品介紹

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自發(fā)布以來吸引了眾多用戶關注,為了讓 deepin 用戶更好地體驗這一前沿技術,UOS AI 現已適配接入 DeepSeek-R1 端側模型!無需忍受服務器
    的頭像 發(fā)表于 02-08 09:52 ?828次閱讀

    超星未來驚蟄R1芯片適配DeepSeek-R1模型

    日前,超星未來研發(fā)團隊成功完成了驚蟄R1芯片DeepSeek-R1模型的適配工作,實現了與用戶之間的流暢對話。這一成果標志著超星未來在人工智能芯片
    的頭像 發(fā)表于 02-13 14:05 ?507次閱讀

    行芯完成DeepSeek-R1模型本地化部署

    近日,行芯正式宣布完成 DeepSeek-R1模型本地化部署,實現在多場景、多產品中應用。解鎖“芯”玩法,開啟“芯”未來!
    的頭像 發(fā)表于 02-24 15:17 ?548次閱讀

    新款RZ/V2N視覺AI MPU產品介紹

    電子在2024年推出高達8TOPS(Dense)/80TOPS(Sparse)AI算力的RZ/V2H產品,廣受好評,繼續(xù)擴展RZ/
    的頭像 發(fā)表于 03-27 14:27 ?449次閱讀
    <b class='flag-5'>瑞</b><b class='flag-5'>薩</b>新款<b class='flag-5'>RZ</b>/<b class='flag-5'>V2</b>N視覺AI <b class='flag-5'>MPU</b>產品介紹