自從模型廣場上新后,有不少朋友來咨詢小助手如何開啟模型的推理部署,今天,小助手就以Stable Diffusion WebUI為例,教大家如何捷智算平臺開啟模型的推理部署。
Web UI模型詳細部署教程
進入捷智算,在菜單欄找到【模型廣場】就可以看到上新的模型~

一、選擇模型類型
根據自己興趣的模型點擊【推理部署】,我們找到StableDiffusionWebUI點擊【推理部署】。
二、購買容器
選擇需要的GPU卡及分區,然后點擊【啟動實例】
也可以在購買容器頁面點擊【模型鏡像】,選擇需要的模型鏡像,進入部署好模型的容器。

三、打開jupyter文檔
創建實例運行成功后點擊【更多操作】-【查看信息】,獲取并復制jupyter密碼


獲取密碼后點擊jupyter,輸入復制的密碼


就可以進去到模型的jupyter文件頁面啦~例如選的是Stable diffusion模型,則點擊Stable Diffusion文件夾

四、啟動模型
點擊模型啟動ipynb格式文件,按教程點擊點擊上方 ?? 按鍵直接運行
點擊Restart,重啟內核運行
看到顯示URL鏈接就說明模型啟動成功啦~
五、配置外網端口并外網打開
要留意一下哦!模型廣場web的一般是鏈接是0.0.0.0:8801,但是只能在內網打開(也就是不能在您自己的電腦打開模型鏈接的意思),如果想外網分享鏈接,需要申請端口開放。返回控制臺,點擊【更多操作】-【設置端口】

內網端口輸入8801,點擊【確認】,就會生成一個外網端口

再次點擊設置端口,就可以看到生成的外網端口,比如20403

這樣就可以在外網打開
如果看到遠程地址是183.47.51.183,那你就可以在自己的電腦瀏覽器輸入【183.47.51.183:20403】打開Web UI使用界面。

打開后,大家就可以在SD的世界里暢玩啦~記得先去找小助手薅羊毛,再來推理部署
-
AI
+關注
關注
87文章
34236瀏覽量
275395 -
人工智能
+關注
關注
1804文章
48714瀏覽量
246517 -
模型
+關注
關注
1文章
3487瀏覽量
49992
發布評論請先 登錄
基于RK3576開發板的RKLLM大模型部署教程

詳解 LLM 推理模型的現狀

中科馭數高性能網卡產品 成就DeepSeek推理模型網絡底座

DeepSeek在昇騰上的模型部署的常見問題及解決方案

?Diffusion生成式動作引擎技術解析
安裝OpenVINO?工具包穩定擴散后報錯,怎么解決?
添越智創基于 RK3588 開發板部署測試 DeepSeek 模型全攻略
摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務
AI模型部署邊緣設備的奇妙之旅:目標檢測模型
阿里云開源推理大模型QwQ
YOLOv6在LabVIEW中的推理部署(含源碼)

LLM大模型推理加速的關鍵技術
實操: 如何在AirBox上跑Stable Diffusion 3

評論