當部分人仍在探索AI的應用方式時,恩智浦已著眼未來,提出關鍵問題:如何確保AI以安全、可靠且負責任的方式運行?通過與技術、政府及商界精英的合作,使其真正落地,正是負責任AI (Responsible AI) 成為焦點的關鍵。
想象一下,您正在駕車前往與朋友的聚會,滿懷期待享受一頓美味的晚餐。您已經(jīng)有一段時間沒見過他們了,因此希望展現(xiàn)最佳狀態(tài)。然而,在行駛過程中,警報聲不斷響起,讓你困惑不已。此時,您收到來自車輛駕駛員監(jiān)測系統(tǒng) (DMS) 的提醒,提示你雖然駕駛表現(xiàn)良好,但未能保持足夠的注意力。
您可能未曾意識到,這一情況的發(fā)生源于人工智能 (AI) 模型所采用的訓練數(shù)據(jù),這些數(shù)據(jù)為車輛的計算機視覺提供支持。然而,由于某些因素,AI模型誤解了實時輸入。這背后的原因在于,訓練數(shù)據(jù)中的偏差導致女性司機更常被歸類為“因個人儀容而分心”,這是訓練過程中對人群特征的細微錯誤呈現(xiàn)所導致的結果。
駕駛員監(jiān)測系統(tǒng)正在重塑我們的出行方式,但要在系統(tǒng)中集成AI技術,我們必須在模型開發(fā)過程中充分考慮數(shù)據(jù)偏差,以確保系統(tǒng)的公正性和可靠性。
負責任邊緣AI開發(fā)的風險
這不僅僅是借助AI進行數(shù)據(jù)分析和預測所面臨的風險,更涉及AI/ML系統(tǒng)的公平性與穩(wěn)健性問題,以及它們對現(xiàn)代生活的深遠影響。
例如,訓練數(shù)據(jù)中的偏見可能導致個人在申請金融服務時被錯誤拒絕。同樣,在缺乏適當?shù)娘L險評估和防范措施的情況下,邊緣AI也可能引發(fā)歧視性決策。智能邊緣在連接物理世界與數(shù)字世界方面發(fā)揮著至關重要的作用。
物理AI作為生成式AI與機器人技術交匯的核心概念,必須依靠邊緣設備實現(xiàn),而不僅僅依賴云計算。因此,邊緣AI的錯位風險需要額外審查,以避免潛在的安全隱患和歧視問題。
全球正處于AI融入日常生活的關鍵階段。2025年1月,波士頓咨詢公司調查顯示,75%的高管將AI列為2025年的3大戰(zhàn)略重點。然而,盡管AI的影響力持續(xù)上升,但僅有不到三分之一的企業(yè)幫助其不到25%的員工提升了AI技能,這凸顯了對相關教育和意識培養(yǎng)的迫切需求。
隨著邊緣AI技術的不斷發(fā)展,工廠正變得愈發(fā)智能化與自主化。
負責任的邊緣AI
當眾多企業(yè)仍在探索AI的應用方式時,恩智浦已著眼未來,提出關鍵問題:如何確保AI以安全、可靠且負責任的方式運行?通過與技術、政府及商界精英的合作,使其真正落地,正是負責任AI (Responsible AI) 成為焦點的關鍵。
負責任的AI既不是獨立的技術,也不僅僅是政策與最佳實踐的集合。它深度融入技術和非技術領域,涵蓋機器學習、生成式AI與語言模型、時間序列數(shù)據(jù)、計算機視覺、語音識別,以及所有類型的智能軟件、傳感器和硬件。AI帶來的風險影響著企業(yè)與個人——負責任AI必須確保雙方的平等代表性。
邊緣AI正深刻改變我們的生活方式,使家庭在日?;顒訄鼍爸凶兊酶又悄芑?。
因此,負責任的AI在實踐中需要協(xié)同一致且全面的努力。恩智浦從邊緣AI賦能的角度深入研究這一課題。作為智能邊緣領域的領軍企業(yè),我們撰寫了《負責任的邊緣AI賦能技術》白皮書。
該白皮書旨在幫助理解和解讀歐盟《AI法案》等最新立法,深入探討邊緣AI的風險及其應對措施,同時強調SoC供應商的角色和責任。此外,文中概述了恩智浦如何通過軟件與工具推動負責任AI的發(fā)展。
以DMS示例為例,恩智浦正在開發(fā)Explainable AI (XAI) 軟件,該軟件作為eIQ工具包的一部分,可在模型訓練后、部署前檢測偏差,從而幫助防止歧視、確保系統(tǒng)穩(wěn)健性,并使開發(fā)人員能夠及早識別風險并理解其成因。
邊緣AI以多種方式惠及人類,包括提升自動化與生產效率、增強安全性、推動更可持續(xù)的交通,以及優(yōu)化計算資源利用率。負責任的賦能技術在最大化邊緣AI價值的同時,還盡可能降低潛在風險。
本文作者
Davis Sawyer,現(xiàn)任恩智浦半導體AI產品市場經(jīng)理,專注于軟件工具以及基于i.MX微處理器的生成式AI使能解決方案。他常駐加拿大卡納塔,同時擔任邊緣AI基金會“產業(yè)”工作組主席,致力于推動基于邊緣AI的實際應用。此前,他參與創(chuàng)立了AI模型壓縮初創(chuàng)公司Deeplite,該公司于2025年被收購。Davis熱衷于打造跨學科產品,并樂于與睿智且友善的團隊合作。
-
機器人
+關注
關注
213文章
29597瀏覽量
212117 -
恩智浦
+關注
關注
14文章
5963瀏覽量
114543 -
AI
+關注
關注
88文章
34733瀏覽量
276819
原文標題:AI有風險!如何做,才能實現(xiàn)安全可靠、“負責任”的邊緣AI?
文章出處:【微信號:NXP客棧,微信公眾號:NXP客?!繗g迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
大聯(lián)大世平推出基于恩智浦產品的邊緣AI加速方案

恩智浦擬收購邊緣AI企業(yè)Kinara
恩智浦宣布收購NPU廠商Kinara
恩智浦開啟中國戰(zhàn)略新篇章
恩智浦3.07億美元收購Kinara,強化邊緣AI布局
恩智浦擬22.44億人民幣收購邊緣NPU企業(yè)Kinara
基于i.MX95的恩智浦邊緣計算人工智能解決方案

恩智浦eIQ AI和機器學習開發(fā)軟件增加兩款新工具
基于恩智浦MCX N系列MCU的應用示例
一站式方案+系統(tǒng)級安全,恩智浦重新定義邊緣智能

NXP推出集成NPU的MCU,支持AI邊緣設備!MCU實現(xiàn)AI功能的多種方式
恩智浦半導體發(fā)布i.MX RT700系列MCU,賦能智能AI邊緣設備
【HZHY-AI300G智能盒試用連載體驗】基建智慧工地物聯(lián)邊緣代理技術研究及應用
康佳特推出基于恩智浦i.MX 95系列處理器的新款SMARC模塊

評論