1. 方案簡介

本開發實例是一個包含：抓取攝像頭數據、圖像送入編碼器進行編碼壓縮、以及把壓縮后的數據通過RTSP協議發送出去的簡單核心示例。

若用戶需要通過webServer對圖像進行調整，以及配置攝像頭的一些工作方式，則需要用戶自行研發增加對應的功能。

1.1 接線示意圖

攝像頭與板卡的連接：

板卡與PC的連接：

2. 快速上手

2.1 開發環境準備

如果您初次閱讀此文檔，請閱讀《入門指南/開發環境準備/Easy-Eai編譯環境準備與更新》，并按照其相關的操作，進行編譯環境的部署。

在PC端Ubuntu系統中執行run腳本，進入EASY-EAI編譯環境，具體如下所示。

cd ~/develop_environment
./run.sh

2.2 源碼下載以及實例編譯

在EASY-EAI編譯環境下創建存放源碼倉庫的管理目錄：

cd /opt
mkdir EASY-EAI-Toolkit
cd EASY-EAI-Toolkit

通過git工具，在管理目錄內克隆遠程倉庫

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-C-Solution.git

注：

* 此處可能會因網絡原因造成卡頓，請耐心等待。

* 如果實在要在gitHub網頁上下載，也要把整個倉庫下載下來，不能單獨下載本實例對應的目錄。

進入到對應的例程目錄執行編譯操作，具體命令如下所示：

cd EASY-EAI-Toolkit-C-Solution/solu-rtspIPCamera/
./build.sh

注：

* 由于依賴庫部署在板卡上，因此交叉編譯過程中必須保持adb連接。

注：

* 若build.sh腳本不帶任何參數，則僅會拷貝solution編譯出來的可執行文件。

* 若build.sh腳本帶有cpres參數，則會把Release/目錄下的所有資源都拷貝到開發板上。

* 若build.sh腳本帶有clear參數，則會把build/目錄和Release/目錄刪除。

2.3 方案部署

然后把編譯好的結果部署到板卡中（有兩種方法）。

方法一：通過執行以下命令手動部署【推薦】

cp Release/solu-* /mnt/userdata/Solu

方法二：在編譯時加上編譯參數自動部署

./build.sh cpres

2.4 示例方案運行

通過按鍵Ctrl+Shift+T創建一個新窗口，執行adb shell命令，進入板卡運行環境。

adb shell

進入板卡后，定位到例程部署的位置，如下所示：

cd /userdata/Solu

運行例程前，先通過以下命令查看一下開發板網卡的地址：

ifconfig

運行例程命令如下所示：

./solu-rtspIPCamera Main &

2.5 運行效果

運行打印如下所示：

[1] 3931
root@EASY-EAI-NANO:/userdata/Solu# media get entity by name: rkcif-lvds-subdev is null
media get entity by name: rkcif-lite-lvds-subdev is null
media get entity by name: rkisp-mpfbc-subdev is null
media get entity by name: rkisp_dmapath is null
media get entity by name: rkisp-mpfbc-subdev is null
media get entity by name: rkisp_dmapath is null
media get entity by name: rockchip-mipi-dphy-rx is null
[16:45:52.418515][CAMHW]:XCAM ERROR CamHwIsp20.cpp:928: No free isp&ispp needed by fake camera!
Rga built version:1.04 94a2c08+2023-04-12 10:23:53
*****************************************
Waiting for the child process terminated!
*****************************************
……
mpp[3939]: mpp_rt: NOT found ion allocator
mpp[3939]: mpp_rt: found drm allocator
mpp[3939]: mpp_info: mpp version: 2cc04fd author: chenhaiman     2023-02-08 update build scripts
mpp[3939]: mpp_log: 0x6718c0 mpi_enc_test encoder test start w 720 h 1280 type 7
mpp[3939]: mpp_enc: MPP_ENC_SET_RC_CFG bps 2880000 [180000 : 2880000] fps [30:25] gop 12
mpp[3939]: h264e_api_v2: MPP_ENC_SET_PREP_CFG w:h [720:1280] stride [720:1280]
mpp[3939]: mpp_enc: send header for set cfg change input/format 
mpp[3939]: mpp_enc: mode cbr bps [180000:2880000:2880000] fps flex [30/1] -> fix [25/1] gop i [12] v [0]
=====[frame time]: 1970-01-01 08:00:00
[000][0x67][1]------------- dataLen = 38
=====[frame time]: 2023-05-08 16:45:54
[001][0x06][1]------------- dataLen = 86
=====[frame time]: 2023-05-08 16:45:54
[002][0x06][1]------------- dataLen = 90
=====[frame time]: 2023-05-08 16:45:54
[003][0x65][1]------------- dataLen = 13747
=====[frame time]: 2023-05-08 16:45:54
[004][0x41][2]------------- dataLen = 4531
=====[frame time]: 2023-05-08 16:45:54
……

然后在PC主機（windows系統或者Ubuntu系統都可以），打開VLC播放器。輸入rtsp流地址即可通過rtsp協議播放攝像機畫面。

rtsp流地址構造規則在下方【4.3.2RTSP服務器--服務器對象】中有詳細講解。

注：若無法播放，請檢查網絡環境是否正常（如：PC是否與開發板處于同一網段內，是否有IP沖突的情況等）

攝像機畫面如下所示：

2.6 開機啟動

首先進入板卡環境，執行以下命令，在板卡上創建一個給本例程使用的應用目錄：myapp

cd /userdata/apps/
mkdir myapp

然后回到開發環境中，通過使用“2.3方案部署”類似的操作方法，把本例程所需要的全部文件，包含：編譯結果，配置文件，模型等。部署到剛剛新建的myapp目錄中。

最后在板卡上創建一個run.sh腳本來管控用戶所有需要的應用即可，《入門指南/應用程序開機自啟動》會詳細描述run.sh腳本該如何編寫。

3. 代碼組成

方案主邏輯代碼分為三部分，如下所示。

啟動代碼位于：EASY-EAI-Toolkit-C-Solution/solu-rtspIPCamera/src/main.cpp

畫面編碼代碼位于：EASY-EAI-Toolkit-C-Solution/solu-rtspIPCamera/src/enCoder/enCoder.cpp

RTSP傳輸代碼位于：EASY-EAI-Toolkit-C-Solution/solu-rtspIPCamera/src/rtspServer/rtspServer.cpp

3.1 組件庫組成

網絡攝像頭方案的實現，需要使用到easyeai-api庫的以下組件。

3.1.1 啟動部分使用庫情況

啟動代碼main.cpp主要負責啟動并守護編碼進程和RTSP傳輸進程，使用到的easyeai-api庫組件如下所示。

啟動代碼主要使用的模塊信息如下所示。

3.1.2 畫面編碼部分使用庫情況

畫面編碼代碼enCoder.cpp主要負責從mipi攝像頭獲取畫面、把畫面送入編碼器、把編碼后數據送入流媒體環形隊列中等操作，使用到的easyeai-api庫組件如下所示。

取流代碼主要使用的模塊信息如下所示。

3.1.3 RTSP傳輸部分使用庫情況

Rtsp服務器代碼rtspServer.cpp主要負責從環形隊列中取出NALU送入RTSP服務等操作，使用到的easyeai-api庫組件如下所示。

Rtsp服務器代碼主要使用模塊信息如下所示。

4. 邏輯框圖

項目的整體邏輯框圖如下所示。

4.1 啟動邏輯

啟動邏輯代碼路徑為：src/main.cpp。

主進程會創建1個RTSP服務器和1個編碼器。RTSP服務器用于通過RTSP協議發送NALU包；編碼器用于獲取MIPI攝像頭的圖像，并且編碼成NALU數據，送入流媒體環形隊列。然后變成一個守護進程，監視RTSP服務器進程和編碼器進程的運行狀況，一旦崩潰則把它們重新創建。

創建RTSP服務器代碼如下所示。

CreateProcess(PROCESS_RTSPSERVER_NAME, &st_TaskInfo);

創建編碼器代碼如下所示。

CreateProcess(PROCESS_ENCODER_NAME, &st_TaskInfo);

4.2 編碼邏輯

編碼邏輯代碼路徑為：src/enCoder/enCoder.cpp。

4.2.1 編碼器——創建編碼資源

首先是創建編碼資源，包含：編碼器、編碼通道、輸出通道（流媒體環形隊列）。

創建編碼器代碼如下所示，其中MAXCHNNUM代表此編碼器的可分配的最大通道數。

create_encoder(MAXCHNNUM);

創建編碼通道代碼如下所示，其中encodeChn_Id就是編碼器自動分配出來的可用通道號，此通道Id的有效取值范圍是0~MAXCHNNUM。

create_encMedia_channel(&encodeChn_Id);

創建輸出通道代碼如下所示，注意這個環形隊列的通道數與編碼器的通道無直接關系。

create_video_frame_queue_pool(DATA_INPUT_CHN+1);

4.2.2 編碼器——初始化mipi攝像頭

初始化mipi攝像頭的代碼如下所示，分為兩步：第一步初始化攝像頭畫面的寬高、顯示角度；第二步改變攝像頭的畫面圖像格式為nv12。

ret = rgbcamera_init(CAMERA_WIDTH, CAMERA_HEIGHT, 90); 
rgbcamera_set_format(RK_FORMAT_YCbCr_420_SP);

4.2.3 編碼器——初始化編碼器

初始化編碼包含：向編碼通道綁定輸出回調函數；通過設置工作參數，指導編碼通道的編碼工作方式。具體代碼如下所示。

set_encMedia_channel_callback(encodeChn_Id, StreamOutpuHandle, NULL);
memset(&wp, 0, sizeof(WorkPara));
wp.in_fmt  = VFRAME_TYPE_NV12;
wp.out_fmt = VCODING_TYPE_AVC;
wp.out_fps = 25;
wp.width   = CAMERA_WIDTH;
wp.height  = CAMERA_HEIGHT;
ret = set_encMedia_channel_workPara(encodeChn_Id, &wp, NULL);

編碼通道回調函數，源碼如下所示。

int32_t StreamOutpuHandle(void *obj, VideoNodeDesc *pNodeDesc, uint8_t *pNALUData)
{
    push_node_to_video_channel(DATA_INPUT_CHN, pNodeDesc, pNALUData);
    return 0;
}

編碼通道回調函數，傳入參數說明。

編碼通道普通工作參數，成員變量說明，如下所示：

編碼通道高級工作參數，成員變量說明，如下所示：

4.2.4 編碼器——攝像頭畫面送入編碼器

此處采用一個死循環，首先從攝像頭接口讀出數據到pbuf，然后pbuf數據送入編碼通道，最后編碼通道會自動地從回調函數中輸出NALU。

while(1){
    ret = rgbcamera_getframe(pbuf);
    if(ret){
        usleep(10*1000); continue;
    }
    push_frame_to_encMedia_channel(encodeChn_Id, pbuf, IMAGE_SIZE);
    usleep(10*1000);
}

4.3 傳輸邏輯

傳輸邏輯代碼路徑為：src/rtspServer/rtspServer.cpp。

4.3.1 RTSP服務器——初始化服務器

RTSP服務器通過rtspServerInit()函數進行【流媒體環形隊列初始化】和【RTSP服務器初始化】。其中服務器初始化包含：初始化服務端口、對多路碼流進行初始化。示例如下所示。

int rtspServerInit(const char *moduleName)
{
    RtspServer_t srv;
    memset(&srv, 0, sizeof(RtspServer_t));
    srv.port = 554;
    srv.stream[0].bEnable = true;
    srv.stream[0].videoHooks.pConnectHook = VideoStreamConnect;
    srv.stream[0].videoHooks.pDataInHook = VideoStreamDataIn;
    srv.stream[0].audioHooks.pConnectHook = NULL;
    srv.stream[0].audioHooks.pDataInHook = NULL;
    strcpy(srv.stream[0].strName, "aabb");

    create_video_frame_queue_pool(DATA_INPUT_CHN+1); //初始化流媒體環形隊列
    //create_audio_frame_queue_pool(DATA_INPUT_CHN+1);

    create_rtsp_Server(srv); //啟動RTSP服務器事件循環

    // 正常情況下不會走到這里
    PRINT_ERROR("Fatal Error! RtspServer loop exited!");

    return -1;
}

4.3.2 RTSP服務器——服務器對象

RTSP服務器對象的描述結構體的內容如下所示。

4.3.3 RTSP服務器——視頻連接鉤子函數

視頻連接鉤子函數：在客戶端向服務器發起視頻流連接時所調用的函數，不使用可填NULL。

void VideoStreamConnect()
{
    flush_video_channel(DATA_INPUT_CHN);
}
……
int rtspServerInit(const char *moduleName)
{
……
    srv.stream[0].videoHooks.pConnectHook = VideoStreamConnect;
……
}

4.3.4 RTSP服務器——視頻拉流鉤子函數

視頻連接鉤子函數：服務端會從此函數獲取視頻流輸入數據，不使用可填NULL。

int32_t VideoStreamDataIn(RTSPVideoDesc_t *pDesc, uint8_t *pData)
{
    int ret = -1;

    VideoNodeDesc node;
    memset(&node, 0, sizeof(node));
    ret = get_node_from_video_channel(DATA_INPUT_CHN, &node, pData);
    if(0 != ret){
        return ret;
    }

    pDesc->frameType  = node.bySubType;
    pDesc->frameIndex = node.dwFrameIndex;
    pDesc->dataLen    = node.dwDataLen;
    pDesc->timeStamp  = node.ddwTimeStamp;
    
    return 0;
}
……
int rtspServerInit(const char *moduleName)
{
……
    srv.stream[0].videoHooks.pDataInHook = VideoStreamDataIn;
……
}

5. 開發指南

5.1 示例文件&目錄結構

Solution git倉庫會隨著產品迭代更新，不斷新增解決方案代碼，當前截圖只作參考。

5.1.1 Solution git倉庫目錄介紹。

Solution工程構成如下所示，由功能組件easyeai-api和各個解決方案構成。

功能組件的描述如下所示，easyeai-api是經過高度封裝的易用性組件接口，便于用戶直接調用板卡資源。

解決方案的描述如下所示，單個“solu-”開頭的目錄即為一個解決方案案例，代碼內調用“EASY EAI-API”來滿足某一實際應用場景的需求。

5.1.2 解決方案最基本的目錄構成。

每個解決方案就是一個獨立的項目，項目內包含部分如下所示，項目使用cmake構建自動編譯部署。

具體介紹如下所示。

5.1.3 解決方案可拓展的目錄構成。

可拓展的目錄是指：開發過程中增加某些功能模塊，功能代碼。增加模式分為兩種：

增加已編譯的第三方庫，在include、libs目錄內添加頭文件和庫文件；

增加用戶自定義的功能模塊，推薦在src目錄內增加；

具體情況如下所示，第三方模塊相關的文件由include/3rd_model/xxx.h、libs/3rd_model/xxx.a。自定義的功能模塊為src/mySrcCode、src/mySrcCode2。

5.2 CMakeLists.txt文件解析

5.2.1 編譯環境配置部分：

第一部分為配置部分，配置部分如下所示。（獲取當前方案目錄、配置工具鏈、提取方案名稱）：

配置信息如下所示。

5.2.2 easyeai-api配置部分

第二部分是引入我司的功能組件庫（針對當前方案進行：配置EASY EAI API頭文件目錄、庫文件目錄以及配置庫鏈接參數）：

配置信息如下所示。

5.2.3 第三方庫配置部分

第三部分配置第三方的庫（針對當前方案進行：配置第三方頭文件目錄、庫文件目錄、配置第三方庫鏈接參數以及配置源碼目錄）：

配置信息如下所示。

例如添加個人庫的目錄組成方式如下所示。

aux_source_directory的修改方式為：

aux_source_directory(./src ./src/mySrcCode ./src/mySrcCode2 dir_srcs)

或

aux_source_directory(./src dir_srcs)
aux_source_directory(./src/mySrcCode dir_srcs)
aux_source_directory(./src/mySrcCode2 dir_srcs)

5.2.4 本方案配置部分

第四部分配置項目的編譯信息，內容如下所示：

配置項如下所示。

5.3 build.sh編譯腳本：

5.3.2 路徑定位部分

第一部分用于提取目錄用于編譯操作，內容如下所示：（進入build.sh腳本所在目錄，并且提取當前目錄絕對路徑，提取當前目錄名稱）

5.3.2 清除編譯部分

第二部分清除操作，清除目錄為build、Release，內容如下所示：（執行build.sh腳本時，帶入了參數“clear”，則清空編譯輸出）

5.3.3 編譯操作

第三部分，編譯直接調用cmake，內容如下所示：（重新編譯，成部署目錄，并把資源自動部署進板卡）

審核編輯 黃宇