NVIDIA 宣布了 Nsight DL Designer –第一個支持應用內推理的深度神經網絡高效設計的同類集成開發(fā)環(huán)境。

本 SDK 旨在通過在過程的每個階段提供有效的支持，簡化為應用內推理設計深度神經網絡模型的經常迭代過程。

Nsight DL Designer 是一種基于 GUI 的模型設計工具，具有基于 GPU 指標的集成評測功能。它提供了一種將模型導入 PyTorch 進行培訓的便捷方法?？梢暬治瞿Ｊ皆试S開發(fā)人員以交互方式實時深入推理過程，并提供靈活的選項導出最終的推理部署模式。

端到端 Nsight DL Designer 工作流

開發(fā)人員首先在 Nsight DL Designer 中設計他們的深層神經網絡模型，使用 NVIDIA 實現的一組內置高級神經網絡層作為 神經推理機。創(chuàng)建模型后，可以進行性能分析，以了解模型是否滿足分配的時間預算。分析可以提前完成，甚至在您花時間培訓網絡之前。

對于培訓階段， Nsight DL Designer 提供了各種 Python 腳本，可以自動將 Nsight DL Designer 模型轉換為 PyTorch 模型，該模型可以輕松添加到培訓循環(huán)中。訓練完成后，您可以將學習到的權重數據從模型保存到 NumPy 文件中。您可以返回 DL Designer ，加載權重文件并進入分析模式以檢查推斷結果。分析模式還允許開發(fā)人員深入推理過程，直觀地檢查每個推理步驟中發(fā)生的事情。此反饋可能會指導開發(fā)人員優(yōu)化其網絡模型，以提高質量和性能。

一旦您對模型的質量和性能都感到滿意，就到了部署的時候了。 Nsight DL Designer 提供了幾種支持部署模型的方法。一種方法是將模型導出為 ONNX 文件。使用 ONNX 文件，您可以在任何運行 ONNX 的平臺上部署您的模型

此版本的主要功能包括：

基于 GUI 的神經推理機模型設計

使用 GPU 度量的推理性能評測

與培訓框架的接口– PyTorch

推理過程的交互式可視化分析

用于部署的自動化模型導出和代碼生成

關于作者

Chaitrali Joshi 是 NVIDIA 的產品營銷經理，專注于電信 5G 系統的設計和開發(fā)。她對網絡空間有著深入的了解，是移動通信系統和云棧方面的專家。在英特爾之前，她是一名領導，向開發(fā)人員宣傳電信技術和邊緣計算技術。她獲得了加利福尼亞大學計算機科學碩士學位，戴維斯專注于軟件定義的網絡和多址邊緣計算（ MEC ）。

審核編輯：郭婷