作者 | 孫曉 李鋒

1相關概念

1.1 MindIE 服務化監控指標查詢接口

在 MindIE 服務化運行過程中，為了及時掌握服務的運行狀態、性能表現以及發現潛在問題，提供了服務監控指標查詢接口（普羅 (Prometheus) 格式）。該接口能夠幫助開發者和運維人員獲取豐富的服務監控指標數據，為優化服務配置、保障服務質量提供有力支持。

本文將介紹如何使用 Prometheus 與 Grafana 來實現 MindIE 服務可視化監控功能。

當前接口支持以下指標監控，詳情可以參考：服務監控指標查詢接口（普羅格式）

1.2Prometheus 是什么

Prometheus 是一個開源的系統監控和報警工具包，最初由 SoundCloud 開發，現在是 Cloud Native Computing Foundation（CNCF）的一部分。Prometheus 以其強大的數據收集和查詢能力、易于擴展和高可用性在行業內得到了廣泛應用。以下是 Prometheus 的核心概念：

時間序列數據庫：Prometheus 主要用于存儲時間序列數據，即帶有時間戳的指標數據。每個時間序列由一個指標名和一組標簽（key-value 對）標識。

多維數據模型：Prometheus 的數據模型基于指標名稱和標簽，可以靈活地對監控數據進行分類和過濾，從而實現復雜的查詢和分析。

PromQL：Prometheus 查詢語言（PromQL）用于實時查詢和分析存儲在 Prometheus 中的數據。它支持豐富的運算符和函數，能夠滿足多種監控和報警需求.

1.3 Grafana 是什么

Grafana 是一個開源的可視化和監控平臺，廣泛應用于數據分析、監控和報警。它支持多種數據源，提供豐富的可視化工具，使用戶能夠創建交互式的儀表盤。以下是 Grafana 的核心功能：

數據可視化：Grafana 提供了多種圖表類型，包括折線圖、柱狀圖、餅圖、熱圖等，用戶可以通過拖拽的方式輕松創建和自定義儀表盤。

支持多種數據源：Grafana 支持從多種數據源獲取數據，包括 Prometheus、InfluxDB、Graphite、Elasticsearch、MySQL、PostgreSQL 等。

靈活的查詢和過濾：通過集成的數據源查詢語言，Grafana 允許用戶靈活地對數據進行過濾、聚合和轉換。每種數據源都有專門的查詢編輯器，幫助用戶編寫查詢語句。

報警和通知：Grafana 提供強大的報警功能，允許用戶基于查詢結果設置報警規則。當條件滿足時，可以通過郵件、Slack、PagerDuty 等多種渠道發送通知。

用戶管理和權限控制：Grafana 提供詳細的用戶管理和權限控制功能，支持用戶、團隊和組織的管理。用戶可以根據需要設置不同的訪問權限，保護敏感數據。

2 實踐記錄

2.1 Prometheus 安裝

Prometheus 安裝方法參考：

https://prometheus.cloudnative.io/di-san-zhang-prometheus/di-2-jie-an-zhuang/installation

為方便起見，本次實踐筆者采用預編譯二進制文件安裝方法，在 Windows PC 上安裝。

安裝地址：https://prometheus.io/download/

2.2 Grafana 安裝

Grafana 同樣支持在不同操作系統安裝，詳見教程https://grafana.com/docs/grafana/latest/setup-grafana/installation/

本次實踐選擇在 Windows 安裝，安裝地址https://grafana.com/grafana/download?platform=windows

2.3 MindIEService 服務部署啟動

需在服務器啟動 MindIE-Service 服務，服務啟動教程不做贅述。

由于 MindIE 服務和 Prometheus+Grafana 在不同主機啟動，因此注意配置 config.json 文件。修改 ipAddress 和 managementIpAddress 為服務器 IP，保證 Prometheus+Grafana 服務可訪問該 IP 地址。同時需要注意端口設置。

另外，需要確保啟動服務前開啟服務化監控開關，開啟服務化監控功能的命令如下：

export MIES_SERVICE_MONITOR_MODE=1

參考：https://www.hiascend.com/document/detail/zh/mindie/10RC3/mindieservice/servicedev/mindie_service0251.html

嘗試使用 curl 命令驗證 metricsPort 輸出正常：curl http://{ip}:{port}/metrics

發現能返回普羅格式 metric 輸出

2.4 啟動 Prometheus 和 Grafana

Step1修改 prometheus 安裝目錄下的 promethues.yml 文件，添加 MindIE 服務的 IP 和 metricsport

點擊 Prometheus 安裝目錄下的 promethrus.exe 和 Grafana 安裝目錄下的 bin/grafana-server.exe 啟動 Prometheus 和 Grafana

Step2打開 Grafana http://localhost:3000 ，預設賬號密碼是 admin@admin，第一次登錄會需要修改密碼。

Step3點擊 Connection > Data sources > Add new data source，選擇 prometheus，之后把 prometheus 的 URL http://localhost:9090 / 填上去，點擊最下面 Save & test。

Step4之后可以在 Grafana 頁面建立 dashboard，在 Home-Dashboards-New dashboard 建立 dashboard， Dashboard 手動構建較麻煩，可以參考一些 Grafana 教程 https://imageslr.com/2024/grafana.html

好在可以通過 json 格式輸入或 json 文件 import 快速構建 dashboard

這里選擇參考下面 vllm 的 grafana json 文件，將其中的 vllm: 字段去掉（因為 MindIE 的 metrics 字段和 vllm 的 metric 有區別）

http://www.gitpp.com/digiman/vllm/-/blob/main/examples/production_monitoring/grafana.json?ref_type=heads

最終得到 MindIE 指標監控看板界面