NXP Semiconductors 推出了名為 eIQ Auto 的新深度學習工具包。恩智浦正在尋求通過使其工具“汽車品質”來使自己在競爭中脫穎而出。NXP 的目標是讓 AV 設計人員更輕松地在車輛中實施深度學習。

自動駕駛汽車 (AV) 的發展不一定需要人工智能或深度學習。簡而言之，并非所有 AV 都需要由 AI 驅動。然而，深度學習的快速進步和更高的準確性正吸引著尋求改進其高度自動化車輛的開發人員。

然而，驗證 AI 驅動的 AV 安全性的困難仍然存在。安全研究人員擔心深度學習的“黑箱”性質，而這只是幾個棘手問題之一。AV 設計師是否可以驗證和驗證持續學習的 AI 系統，或者 AI 功能一旦部署在車輛內的專用硬件中，其行為是否與在更大、更強大的計算機系統上開發和訓練時的行為相同仍然不確定.

盡管存在這些擔憂，但 AV 和安全社區都認識到 AI 不是他們可以避免討論的話題。

隨著上周 UL 4600 規范草案的發布，Edge Case Research 的首席技術官 Phil Koopman 告訴我們，“我們將正面追求完全自治。”

UL 4600 是一種評估目前在 Underwriters' Laboratories 開發的自動駕駛產品的安全標準，它既不假設也不強制要求在 AV 內部部署深度學習。但該標準涵蓋了對生命關鍵應用程序中使用的任何機器學習和其他自主功能的驗證。

用于深度學習的汽車級軟件工具包

在此背景下，NXP Semiconductors 推出了其 eIQ Auto 深度學習工具包。

“迄今為止開發的大多數深度學習框架和神經網絡都用于視覺、語音和自然語言等消費類應用，”恩智浦半導體汽車人工智能戰略和合作伙伴關系總監 Ali Osman Ors 說。它們的開發不一定考慮到對生命至關重要的應用程序。

（來源：NXP）點擊這里查看大圖

領先的汽車芯片供應商 NXP 正在進一步使其軟件工具包符合汽車軟件性能改進和能力確定 (A-SPICE) 標準。A-SPICE 是德國汽車制造商為改進軟件開發流程而制定的一套指南。

NXP 解釋說，其 eIQ Auto 工具集——專為 NXP 的 S32V234 處理器設計——將幫助 AV 開發人員“優化深度學習算法的嵌入式硬件開發并加快上市時間。”

當被問及是否有類似的汽車級工具包可用于深度學習時，Ors 說：“一些汽車 OEM 可能已經在內部設計了自己的工具。但據我所知，我還沒有看到其他汽車芯片供應商提供像我們這樣用于深度學習的汽車級軟件工具包。”

剪枝、量化和壓縮

數據準備和訓練（學習）的過程以及在嵌入式系統上的 AI 部署（推理）過程都很好理解。

如今，據說 AV 開發人員在測試車輛在公共道路上行駛時以每秒 4GB 的速度收集數據。清理和注釋如此大量的數據并為訓練數據做好準備可能會非常昂貴。在某些情況下，僅數據標記處理就可以在財務上削弱算法開發人員和 AV 初創公司。

但對 AV 設計人員同樣具有挑戰性的是，盡管很少公開討論，但優化訓練好的 AI 模型并將其轉換為部署（在推理引擎上）所涉及的艱巨任務。Ors 解釋說，NXP 的工具加速了“量化、修剪和壓縮”神經網絡的過程。

通過剪枝，Ors 意味著通過去除不重要的權重來移除神經網絡架構中存在的冗余連接。當然，一個新的“剪枝”模型會失去準確性。因此，模型必須在修剪后進行微調以恢復其準確性。

接下來，量化創建了一個“高效的計算過程”，Ors 說。它涉及通過對權重進行聚類或四舍五入來捆綁權重，以便可以使用更少的內存來表示相同數量的連接。另一種常見的技術是通過四舍五入將浮點權重轉換為定點表示。與剪枝一樣，模型必須在量化后進行微調。

AV 設計師通過運行測試數據（深度學習系統以前從未見過）來評估轉換模型的準確性，并進一步微調模型。

（來源：NXP）點擊這里查看大圖

分區工作負載

恩智浦表示，除此之外，eIQ Auto“對工作負載進行分區并為神經網絡的每個部分選擇最佳計算引擎。” Ors 解釋說，它加快了手工制作推理引擎的過程，因為該工具可以幫助 AV 設計人員確定哪些任務在 CPU、DSP 或 GPU 中運行得最好。他說 eIQ Auto 不能用于非 NXP 設備，因為該工具必須非常熟悉處理器內部發生的事情。