據外媒報道，美國南加州大學維特比工程學院（USC Viterbi Engineering）的研究人員研發了一種新工具，如果AI算法生成的數據和預測信息是可靠的，該工具可以自動生成指標。

神經網絡是一種人工智能（AI）技術，能夠模仿大腦并產生預測信息。但是，此類神經網絡產生的預測真的可信嗎？自動駕駛汽車普及的一個關鍵障礙是，汽車需要在自動駕駛時作為獨立的決策者，并快速理解和識別路上的物體，無論該物體是減速帶、無生命物體、寵物還是孩子，并且在遇到另一輛車時，其需要決定如何采取行動避開其他車輛。汽車是否應該撞上迎面駛來的車輛、或者撞上無生命的物體或兒童？我們能夠信任車載計算機軟件可以在幾分之一秒內做出正確決定嗎？特別是當不同的傳感器給出相互沖突的信息時，如攝像頭的計算機視覺信息或激光雷達的數據？知道哪個系統值得信任，哪個傳感系統最準確，將有助于確定自動駕駛系統應該做出什么決定。

于是，研究人員們打造了一個名為DeepTrust的工具，可以將不確定性進行量化，從而確定是否需要人工干預。

研發該款工具花費了南加州大學研究團隊近兩年的時間，他們利用主觀邏輯來評估該神經網絡架構。此外，在2016年總統大選的民調中，DeepTrust發現，指向希拉里獲勝的預測有更大的誤差率。

該項研究的另一個重要意義是，為如何測試AI算法的可靠性提供了見解，因為此類算法通常需要在成千上萬個數據點上進行訓練。如果去檢查此類指示AI預測的數據點是否進行了準確標記將非常耗時。研究人員表示，更重要的是，此類神經網絡系統的架構將具有更高的精確度。此外，如果計算機科學家想要同時將準確性和信任度實現最大化，該項研究也可以作為測試樣本中有多少“噪音”的路標。

研究人員還認為，他們研發的模型是首創。“據我們所知，目前還沒有用于量化深度學習、人工智能和機器學習信任度的模型或工具。作為首個方法，該工具開辟了新的研究方向，能夠讓AI具有感知能力和適應性。”
責任編輯:tzh