11 Chatbox 中配置 MaaS 模型服務使用全流程:
1.1 Chatbox 平臺安裝
瀏覽器直接訪問:https://web.chatboxai.app/
官方 Github 代碼倉:https://github.com/Bin-Huang/chatbox
1.2 MaaS 模型 API 接入準備
1)MaaS 控制臺創建 API Key:
-訪問 MaaS 控制臺:點此訪問
-在 MaaS 左側導航欄中,選擇“鑒權管理”。
-在“鑒權管理”頁面,單擊“創建 API Key”,填寫描述信息后,單擊“確認”會返回“您的密鑰”,請復制保存密鑰,單擊“關閉”后將無法再次查看密鑰。(注:最多支持創建 5 個密鑰,密鑰只會在新建后顯示一次,請妥善保存。當密鑰丟失將無法找回,請新建 API Key 獲取新的訪問密鑰。)
2)選擇要接入的模型服務
預置服務接入:
-點擊控制臺左側“模型部署”,找到想要使用的模型服務后點擊“領取”
-領取后找到已領取額度的模型服務,然后點擊 “調用”;
-在右側彈出界面中,可以查看到調用該服務需要的基礎 API 地址和模型名稱信息,后續 Chatbox 中配置要用到
自部署“我的服務”接入:
在“模型部署-我的服務”頁簽,狀態為運行中的模型服務操作一欄點擊“更多”中的“調用”;在右側彈出界面中,可以查看到調用該服務需要的基礎 API 地址和模型名稱信息。后續 cherry studio 配置要用到
1.3 Chatbox 中配置 MaaS API
1.3.1 添加 MaaS 模型供應商
(1)點擊 Chatbox 界面左下角設置 >> 添加自定義提供方:
(2)填入如下信息
API 模式:OpenAI API 兼容 (默認)
名稱:ModelArts Studio(可自定義修改)
API 域名:步驟 1.2-(2) 中 MaaS 服務調用界面的基礎 API 地址,需要去掉地址尾部的“/chat/completions” 后填入
API 路徑:/chat/completions (默認)
API 密鑰:填入步驟 1.2-(1) 中創建的 API Key
模型:步驟 1.2-(2) 中 MaaS 服務調用界面的模型名稱
填寫完后點擊保存
1.4 Chatbox 中使用 MaaS API
(1)Chatbox 中提供豐富的場景化模板可供選擇,可選擇其中一個進行使用
(2) 在新的對話窗口中,點擊左下方的配置按鈕,在對話設置彈窗中,選擇剛完成配置的 ModelArts Studio 提供方,點擊保存
(3)然后即可使用 MaaS 的模型進行多輪對話、文案生成、摘要提取等操作
-
API
+關注
關注
2文章
1559瀏覽量
63511 -
密鑰
+關注
關注
1文章
146瀏覽量
20145 -
模型
+關注
關注
1文章
3483瀏覽量
49977
發布評論請先 登錄
在freertos的幾個任務中,能不能既有任務使用vTaskDelay也有任務使用vtaskdelayuntil?
使用 Canonical MAAS 部署 openEuler 測試
高德與北京市合作打造MaaS服務平臺,預計2022年綠色出行服務達80%
騰訊云將為深圳機場打造OneID旅客全流程服務系統
燧原曜圖?文生圖MaaS平臺服務產品入選“智賦百業”2023年人工智能融合發展與安全應用典型案例

NVIDIA AI Enterprise助力九州未來構建MaaS平臺
DeepSeek與Chatbox:開啟本地AI交互新時代!

憶聯PCIe 5.0 SSD支撐大模型全流程訓練

在MAC mini4上安裝Ollama、Chatbox及模型交互指南

評論