客服系統(tǒng)是企業(yè)與消費(fèi)者溝通的重要橋梁，然而傳統(tǒng)的人工客服存在著工資/培訓(xùn)成本高昂、數(shù)據(jù)收集和分析困難、難以全天候提供服務(wù)等痛點(diǎn)。

利用先進(jìn)的大語(yǔ)言模型構(gòu)建 AI 智能體并用于智能客服系統(tǒng)，能夠提供更加自然、流暢的對(duì)話(huà)體驗(yàn)，極大地提升用戶(hù)的滿(mǎn)意度和效率，實(shí)現(xiàn) 24/7 的無(wú)間斷服務(wù)，并顯著降低企業(yè)在客服場(chǎng)景下的投入成本。

本篇教程將展示如何利用 MaaS（大模型即服務(wù)平臺(tái)）的 200w 免費(fèi) token 額度的滿(mǎn)血版 DeepSeek-R1 API 接入 Dify（開(kāi)源 Agent 平臺(tái)）來(lái)實(shí)現(xiàn)快速的構(gòu)建 AI 對(duì)話(huà)機(jī)器人并嵌入在網(wǎng)頁(yè)頁(yè)面中。

操作指導(dǎo)

登錄 ModelArts Studio(MaaS)并領(lǐng)取免費(fèi)體驗(yàn)額度

1.1ModelArts Studio(MaaS)平臺(tái)介紹

ModelArts Studio(MaaS)作為華為云旗下的大模型即服務(wù)平臺(tái)，是一個(gè)面向客戶(hù)的適配昇騰芯片的大模型服務(wù)化平臺(tái)，提供簡(jiǎn)單易用的模型開(kāi)發(fā)工具鏈，支持大模型定制開(kāi)發(fā)，讓模型應(yīng)用與業(yè)務(wù)系統(tǒng)無(wú)縫接，致力于降低企業(yè) AI 落地的成本與難度。

使用 MaaS，會(huì)有以下三點(diǎn)優(yōu)勢(shì)：

無(wú)需自建服務(wù)，即享開(kāi)箱即用的高性能模型推理 API；

低門(mén)檻且易用的端到端模型開(kāi)發(fā)工具鏈，為您的業(yè)務(wù)增速提效；

頭部開(kāi)源大語(yǔ)言模型全覆蓋，完全統(tǒng)一的調(diào)用方式。

1.2 登錄 MaaS 領(lǐng)取單接口 200w 免費(fèi) Token

MaaS 提供了一系列可以 Severless 方式免費(fèi)調(diào)用的模型 API，每個(gè)用戶(hù)每個(gè)模型有 200 萬(wàn) Token 的免費(fèi)額度。

https://console.huaweicloud.com/modelarts/?locale=zh-cn?ion=cn-southwest-2#/model-studio/homepage 進(jìn)入上方鏈接，可進(jìn)入貴陽(yáng)一區(qū)域的 MaaS 控制臺(tái)，然后點(diǎn)擊控制臺(tái)左側(cè)“模型部署”，找到想要使用的 DeepSeek 版本后點(diǎn)擊“領(lǐng)取”，領(lǐng)取成功后就可以開(kāi)始體驗(yàn)使用了。

搭建網(wǎng)站智能客服

2.1 準(zhǔn)備工作

2.1.1Dify 平臺(tái)搭建

Dify 簡(jiǎn)介：

Dify 是一個(gè)能力豐富的開(kāi)源 AI 應(yīng)用開(kāi)發(fā)平臺(tái)，為大型語(yǔ)言模型（LLM）應(yīng)用的開(kāi)發(fā)而設(shè)計(jì)。它巧妙地結(jié)合了后端即服務(wù)（Backend as Service）和 LLMOps 的理念，提供了一套易用的界面和 API，加速了開(kāi)發(fā)者構(gòu)建可擴(kuò)展的生成式 AI 應(yīng)用的過(guò)程。

基于 Flexus 云服務(wù)器 X 實(shí)例快速部署 Dify 平臺(tái)：該解決方案基于華為云 Flexus X 實(shí)例幫助開(kāi)發(fā)者快速私有化部署開(kāi)箱即用的 Dify LLM 應(yīng)用開(kāi)發(fā)平臺(tái)，具體操作流程請(qǐng)?jiān)L問(wèn)下方博客鏈接。https://bbs.huaweicloud.com/blogs/437138

登錄 Dify

部署完成后，首次登錄需注冊(cè)管理員賬號(hào)，依次填寫(xiě)郵箱、賬號(hào)、密碼后保存設(shè)置后即可登錄使用。

至此，你已經(jīng)完成了 Dify 平臺(tái)的搭建，下一步將展示如何將 MaaS 平臺(tái)的模型服務(wù)接入 Dify 使用。

2.1.2MaaS 模型 API 接入 Dify

1）創(chuàng)建 API Key：

-訪(fǎng)問(wèn)貴陽(yáng)一區(qū)域的 MaaS 控制臺(tái)：

https://console.huaweicloud.com/modelarts/?locale=zh-cn?ion=cn-southwest-2#/model-studio/authmanage

-在 MaaS 左側(cè)導(dǎo)航欄中，選擇“鑒權(quán)管理”。

-在“鑒權(quán)管理”頁(yè)面，單擊“創(chuàng)建 API Key”，填寫(xiě)描述信息后，單擊“確認(rèn)”會(huì)返回“您的密鑰”，請(qǐng)復(fù)制保存密鑰，單擊“關(guān)閉”后將無(wú)法再次查看密鑰。（注：最多支持創(chuàng)建 5 個(gè)密鑰，密鑰只會(huì)在新建后顯示一次，請(qǐng)妥善保存。當(dāng)密鑰丟失將無(wú)法找回，請(qǐng)新建 API Key 獲取新的訪(fǎng)問(wèn)密鑰。

2）選擇常駐模型 API

點(diǎn)擊 MaaS 控制臺(tái)左側(cè)“模型部署”，找到已領(lǐng)取額度的模型服務(wù)，然后點(diǎn)擊 “調(diào)用”。

在右側(cè)彈出界面中，可以查看到調(diào)用該服務(wù)需要的基礎(chǔ) API 地址和模型名稱(chēng)信息。

3）配置 Dify 模型供應(yīng)商

點(diǎn)擊 Dify 界面右上角用戶(hù)頭像，選擇“設(shè)置”，選擇“模型供應(yīng)商”頁(yè)簽。

找到“OpenAI-API-compatible”供應(yīng)商，點(diǎn)擊添加模型。

在彈窗中，填入 MaaS 對(duì)應(yīng)的模型名稱(chēng)、API Key、API Endpoint URL 等信息后保存配置。

模型名稱(chēng)：MaaS 服務(wù)調(diào)用界面顯示的模型名稱(chēng)

API Key:之前步驟中創(chuàng)建的貴陽(yáng)一區(qū)域的 API Key

API Endpoint URL:之前步驟中 MaaS 服務(wù)的基礎(chǔ) API 地址，需要去掉地址尾部的“/chat/completions”后填入

Function calling:當(dāng)前 MaaS 預(yù)置服務(wù)中僅 Qwen2_5-7B-Instruct-1128、Qwen2_5-72B-Instruct-1128、Qwen2_5-72B-32K-1128 可以配置 Function calling 為”Tool Call”，其余服務(wù)暫不支持

2.2 Dify 中創(chuàng)建客服機(jī)器人

2.2.1知識(shí)庫(kù)創(chuàng)建

如果想讓智能客服能夠基于企業(yè)內(nèi)部的知識(shí)文檔進(jìn)行問(wèn)答，可以在 Dify 中創(chuàng)建一個(gè)知識(shí)庫(kù)。Dify 能夠協(xié)助進(jìn)行數(shù)據(jù)的分段和清理工作。Dify 提供兩種索引方式：高質(zhì)量和經(jīng)濟(jì)。高質(zhì)量模式會(huì)使用 Embedding 和 Rerank 模型以在用戶(hù)查詢(xún)時(shí)提供更高的準(zhǔn)確度。本案例將使用經(jīng)濟(jì)進(jìn)行演示。

操作步驟如下：

選擇“知識(shí)庫(kù)頁(yè)簽”，點(diǎn)擊“創(chuàng)建知識(shí)庫(kù)”

在“選擇數(shù)據(jù)源”頁(yè)面上傳的知識(shí)文檔（可以同時(shí)上傳多個(gè)文本文件），選擇清洗方式后，點(diǎn)擊“保存并處理”。

2.2.2創(chuàng)建與調(diào)試客服機(jī)器人

在“工作室”頁(yè)簽下創(chuàng)建一個(gè)空白應(yīng)用，應(yīng)用類(lèi)型選擇“Agent”，輸入名稱(chēng)和描述進(jìn)入 AI 的編排頁(yè)面：

AI 人設(shè)設(shè)置：左上部“提示詞”處輸入 Prompt，可以設(shè)置該 AI 與用戶(hù)交談時(shí)的語(yǔ)氣和風(fēng)格。

智能客服提示詞示例：你是一個(gè)友好的智能客服助手，負(fù)責(zé)解答用戶(hù)提出的關(guān)于產(chǎn)品的問(wèn)題、處理訂單、提供技術(shù)支持。當(dāng)用戶(hù)提出的問(wèn)題你沒(méi)有找到合適答案的時(shí)候，要回答不知道。

讓 AI 基于內(nèi)部知識(shí)進(jìn)行回答：在“上下文”處添加上一步中創(chuàng)建的知識(shí)庫(kù)。

開(kāi)場(chǎng)白配置：點(diǎn)擊右下角功能的“管理”打開(kāi)功能開(kāi)關(guān)。自定義用戶(hù)進(jìn)入界面后，AI 的開(kāi)場(chǎng)問(wèn)候語(yǔ)。

下一步問(wèn)題建議配置：在“添加功能”處開(kāi)啟此功能。可基于業(yè)務(wù)場(chǎng)景設(shè)置 AI 對(duì)于用戶(hù)問(wèn)題的指引。

完成以上配置后，點(diǎn)擊右上角“發(fā)布”菜單中“更新”保存設(shè)置。你可以在頁(yè)面右側(cè)窗口輸入 prompt 進(jìn)行效果調(diào)試。

2.2.3 客服機(jī)器人嵌入網(wǎng)頁(yè)前端頁(yè)面

在這一環(huán)節(jié)，將把已經(jīng)構(gòu)建好的智能客服機(jī)器人嵌入到網(wǎng)站中，依次點(diǎn)擊“發(fā)布”>“嵌入網(wǎng)站”。Dify 支持全屏界面式、懸浮窗式、瀏覽器插件式三種方式的嵌入。我們以第二種為例，將下方的代碼復(fù)制到你網(wǎng)站

或標(biāo)簽中。

粘貼好后更新網(wǎng)站頁(yè)面，就可以與該客服機(jī)器人進(jìn)行對(duì)話(huà)了。