假設(shè)您完成了對患者的X射線檢查，正在等待人工智能系統(tǒng)診斷病情。幾分鐘后，人工智能返回了診斷結(jié)果，顯示可信度為98%，但是診斷結(jié)果明顯錯誤。您該怎么做？嘗試重新拍攝X光片，還是呼叫主任醫(yī)師？

人工智能通常被視為“黑盒子”，即人類不清楚具體算法，但這也是它特別有效的部分原因，人工智能建立算法的邏輯方式并不依賴人類的思路。但當人工智能無法正常工作時，我們就需要獲得一定程度的可解釋性，了解如何合理修復(fù)模型。

恩智浦一直致力于借助現(xiàn)有技術(shù)解決這一問題，并對技術(shù)進行優(yōu)化，以量化對人工智能系統(tǒng)最重要的兩種數(shù)學不確定性。

第一種是偶然不確定性，這是指自然發(fā)生的隨機性或噪聲，我們無法（或不知道如何）減少模型內(nèi)部的這些不確定性。這代表了由于輸入數(shù)據(jù)質(zhì)量不佳導(dǎo)致的不確定性，原因可能是X光片模糊，就像自動駕駛汽車在起霧的夜間行駛，看不清交通標志，或圖像中存在其他噪音源。

第二種是認知不確定性，在人工智能領(lǐng)域，這是指由于模型造成的不確定性。原因可能是數(shù)據(jù)集有限，模型訓(xùn)練得不夠好，或為了降低訓(xùn)練成本而刻意簡化了模型。

恩智浦嵌入式處理器技術(shù)和業(yè)務(wù)戰(zhàn)略主管Gowrishankar Chindalore表示：“我們認為認知不確定性是可以降低的；您可以通過提高計算復(fù)雜度，進行更多訓(xùn)練，增加更多的層數(shù)，從而降低模型的不確定性，當然要注意避免過度擬合。對于輸入不確定性，神經(jīng)網(wǎng)絡(luò)只能報告輸入有問題，因此我們應(yīng)對輸出持謹慎態(tài)度。您希望神經(jīng)網(wǎng)絡(luò)能夠識別這種局限性，最后由人類決定是否需要質(zhì)量更好的輸入，或完全拒絕輸出。這就是恩智浦的可解釋人工智能（xAI）的概念。”

在研究中，恩智浦使用了各種成熟技術(shù)來量化不確定性，包括TensorFlow概率、Logit概率分布和貝葉斯統(tǒng)計。我們的思路是，人類或算法根據(jù)量化不確定性決定下一步怎么做。例如，在上面的X射線方案中，如果返回的偶然不確定性超過一定水平，技術(shù)人員將重新拍攝圖像。如果返回的認知不確定性太高，就需要由人類專家判斷X光片，并考慮對模型進行更多訓(xùn)練。

恩智浦的技術(shù)總監(jiān)兼人工智能/機器學習工程負責人Natraj Ekambaram表示：“今天任何神經(jīng)網(wǎng)絡(luò)都只會報告預(yù)測結(jié)果，其可信度為50%或70%。我們還希望神經(jīng)網(wǎng)絡(luò)能報告這兩種不同的不確定性具體是什么。計算成本非常高，在邊緣進行推理非常昂貴，存在功率和計算方面的限制。因此我們也探索各種技術(shù)，以優(yōu)化的方式加速邊緣不確定性量化技術(shù)。”

恩智浦認為可解釋人工智能技術(shù)的首個應(yīng)用是根據(jù)醫(yī)學影像數(shù)據(jù)（X射線或CT掃描）進行新冠病毒篩查。Chindalore介紹了這項技術(shù)支持的新流程：

“在系統(tǒng)中輸入X光片，經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)就會返回預(yù)測結(jié)果。我們改變了傳統(tǒng)的垂直、線性、一維的方法，現(xiàn)在使用帶分支的決策樹。如果返回預(yù)測結(jié)果之后，［算法］報告傳感器輸入導(dǎo)致了不確定性，技術(shù)人員可以重新拍攝X光片，因為神經(jīng)網(wǎng)絡(luò)自身無法解決這一問題。但如果不確定性是由于模型的原因，將由專家對X光片進行判斷，判斷人工智能結(jié)果正確與否。這樣就能取得可信的篩查結(jié)果。借助可解釋性，人們可以采用三種決策中的一種。”

目前的新冠病毒篩查依靠聚合酶鏈式反應(yīng)（PCR）檢測，利用鼻腔拭子對病毒相關(guān)遺傳信息進行檢測。由于檢測試劑盒供應(yīng)有限，并且需要幾個小時才能得到結(jié)果，而X射線和CT掃描技術(shù)已經(jīng)在醫(yī)院廣泛應(yīng)用，可作為新冠病毒檢測的快捷替代技術(shù)。恩智浦建議在人工智能技術(shù)中加入可解釋性，以提高根據(jù)胸部成像檢測細菌或病毒性肺炎的可信度，必要時可用于增強PCR檢測。

Chindalore表示：“我們聯(lián)絡(luò)了許多公司、高校和醫(yī)院，他們對此感到非常興奮，因為通過神經(jīng)網(wǎng)絡(luò)進行疾病檢測已非新鮮事。事實上，世界各地的許多醫(yī)院已經(jīng)開始使用神經(jīng)網(wǎng)絡(luò)技術(shù)。讓他們感到興奮的原因是可解釋性因素能帶來某種程度的可信度，神經(jīng)網(wǎng)絡(luò)不再盲目地提供輸出，可以進行某種程度的反省。”

恩智浦計劃開放根據(jù)醫(yī)學成像檢測新冠病毒模型的源代碼，以幫助對抗病毒，并積極尋求與感興趣的健康保健行業(yè)機構(gòu)開展合作，特別是能夠獲得匿名訓(xùn)練數(shù)據(jù)集的機構(gòu)，以進一步推動檢測新冠病毒的研究工作。

雖然將這項技術(shù)投入實際應(yīng)用為時尚早，但Chindalore和Ekambaram表示，這項技術(shù)還能用于自動駕駛汽車，識別需要駕駛員參與的情況，也可用于工業(yè)機器人，因為工業(yè)機器人的訓(xùn)練數(shù)據(jù)集往往非常有限。這項技術(shù)仍處于開發(fā)之中，尚未最終確定具體的商業(yè)模式。
? ? ? ?責任編輯：tzh