還在羨慕那些動輒幾十GB顯存的AI大佬?今天,就讓你體驗到與大語言模型暢聊的快感!誰說嵌入式設備只能閃爍LED?今天我們就要讓它"口吐蓮花"!
從"Hello World"到"Hey, AI"
記得剛入行時,點亮一個LED燈都激動半天。如今,我們的嵌入式設備已經可以直接和AI大模型對話了!這不僅是技術的進步,更是開發思路的革命。今天,我將手把手教大家如何在開發板上接入DeepSeek大模型,讓你的單片機秒變"AI終端"!
本文將詳細介紹如何利用RT-Thread操作系統和完善的網絡協議棧, 讓開發板成功接入DeepSeek大語言模型,實現實時對話功能,以FRDM-MCXN947為例。
準備工作:工欲善其事,必先利其器~
硬件準備
- FRDM-MCXN947開發板:NXP的明星開發板, MCX系列最強王者,搭載150MHz Arm Cortex-M33內核
- 網絡連接:RT-Thread RW007 WIFI模塊
- USB TypeC 線:用于供電和調試

軟件準備
RT-Thread V5.2.0: RT-Thread 5.2.0版本 或者master最新分支
DeepSeek API Key: 用于訪問DeepSeek大模型的API KEY, 見下節
申請 DeepSeek API KEY 首先,我們需要前往DeepSeek官網 :https://platform.deepseek.com/api_keys1. 注冊并登錄DeepSeek賬號 2. 進入開發者控制臺 3. 創建新的API Key 4. 復制并保存API Key(注意:這個Key只顯示一次!)牢記你的API KEY!

環境配置
1. 我們需要確保RT-Thread能夠正常運行在MCXN947上,并且網絡功能正常。這屬于基礎配置部分,已經有完善的教程,參見: NXP FRDM-MCXN947 上手指南. 這里不再贅述。
2. 進入RT-Thread env工具的menuconfig. 在menuconfig中,我們需要啟用以下功能:

開啟RT-Thread 大預言模型包:
RT-Thread online packages → AI packages → Large Language Models(LLM) for RT-Thread 并且在config中輸入自己的API KEY

開啟Webclient組件:
RT-Thread online packages → IoT - internet of things → WebClient: A HTTP/HTTPS Client for RT-Thread,選擇 MbedTLS support

退出保存配置,輸入 pkgs --update 拉取軟件包;
生成Keil工程 scons --target=mdk5
完成所有配置后,我們可以編譯并運行程序,如果一切順利,你應該能在串口終端看到RT-Thread的啟動信息:
首先先輸入你的WiFi 用戶名密碼,先讓板子上網:

看到 Got IP address 說明已經成功通過WIFI模塊連接到了網絡, 下面,輸入llm進入大模型對話框,然后就 可以和DeepSeek聊天啦:

實際應用場景
將LLM功能集成到嵌入式設備中,可以開啟許多有趣的應用場景:
1. 智能家居控制:通過自然語言控制家中設備 2. 工業設備診斷:詢問設備狀態和故障診斷 3. 教育輔助設備:創建交互式學習工具 4. 智能客服終端:部署在公共場所的信息查詢終端
5. 輔助開發工具:在開發過程中提供代碼建議和調試幫助
優化與改進
現在只是串口終端交互,后期如果能改成語音交互,體驗感就能更上一個層次了,可以做成一個超級“天貓精靈” 或者“小愛同學”
- 目前這套代碼并未細致的優化,所以大預言模型的反應速度比較慢,一般需要1-4秒,且RAM占用比較大 (160KB)左右,筆者曾經嘗試移植到FRDM-MCXA156上(1MFlash, 128KB RAM),RAM就不夠用了,目前還在 優化中-_-!
結語與完整代碼下載
通過本文的實踐,我們成功地將FRDM-MCXN947開發板變成了一個能與DeepSeek大模型對話的AI終端。這不僅展示了NXP MCU強大的網絡通信能力,也為嵌入式設備的智能化應用開辟了新的可能性。
未來,隨著邊緣計算技術的發展,我們甚至可以期待在MCU上直接運行輕量級LLM模型,實現真正的本地AI推理。而現在通過API調用云端大模型,我們已經能夠為嵌入式設備賦予"智慧"。
-
AI
+關注
關注
87文章
33789瀏覽量
274615 -
RT-Thread
+關注
關注
32文章
1360瀏覽量
41439 -
大模型
+關注
關注
2文章
2973瀏覽量
3730
發布評論請先 登錄
從安裝到使用,RT-Thread Nano最全教程看完不信你還不會使用

手把手教你基于RT-Thread Studio使用STM32單片機的PWM外設

介紹在STM32cubeIDE上部署AI模型的系列教程
手把手教你學LabVIEW視覺設計
RT-Thread AI kit開源:輕松實現一鍵部署AI模型至 RT-Thread

手把手教你在RT-THREAD bsp上運行pikascript腳本點亮小燈

評論