人工智能（AI）將計算范式從基于規則的編程轉變為基于結果的方法。它允許流程大規模運行，減少人為處理錯誤的數量，并發明解決問題的新方法。在專家們使用相同的開放動作3000年之后，AlphaGo激發了圍棋選手嘗試新的策略。隨著采用率的提高，人工智能將使組織能夠解鎖傳統自動化無法解決的“最后一英里”。但是，隨著越來越多的企業委托AI代表他們做出決策，治理變得至關重要。

在最近的簡柏特調查 C-套件和其他高級管理人員，63%的人說，這是重要的或者重要的是要能夠跟蹤啟用AI-機器的推理路徑，并且這個數字在公司跳到的受訪者有88%的說是AI的領導者。Genpact還與受監管市場的財富500強公司合作，這些客戶認為可追溯性已成為他們考慮使用AI之前的一項關鍵要求。

英國咨詢公司Cambridge Analytica最近對濫用社交媒體數據的關注引起了企業的警覺，要求加強監管。此外，將于5月25日生效的歐盟通用數據保護條例（GDPR），是未來將要解決的數據和AI治理的許多新要求之一。如該規章第22條所述，在其他領域中，“數據主體有權不受純粹基于自動化處理（包括配置文件）的決定的管轄，該處理會對他或她產生法律效力或對他造成類似影響還是她。” 在某人被拒絕提供貸款或工作機會的情況下，這可能變得至關重要。同樣，紐約市最近算法決策透明度的立法表明，美國的監管審查也在增加。在這種情況下，企業將很難接受“黑匣子AI”。

一些技術已經足夠成熟，可以提供當今的可追溯性。在處理文本或數字時，企業可以考慮計算語言學，在此用戶可以輕松地遵循推理路徑并找出導致機器做出決定的單詞或數據點。例如，如果第三方物流供應商同意每英里收取15美分，但發票顯示每英里收取18美分，則機器可以使用上下文提取發票中的價格，即發票中商定的價格。合同，并指出差異。用戶可以并排查看文檔以確定機器是否正確。關鍵是要跟蹤決策的定義屬性來自何處，并以易于可視化的方式展示基礎信息。

實現可追溯性的另一種方法是解釋算法中使用的驅動程序和推理路徑。Salesforce的Sales Cloud Einstein產品中的潛在顧客評分功能可直接了解其如何確定銷售潛在顧客的分數，因此公司的銷售團隊可以了解Einstein機器如何預測特定潛在顧客將轉化為機會。

計算語言學還具有嵌入式推理路徑邏輯，可以為該技術的最終用戶進行外部化。例如，在貸款批準過程中，系統需要采取多個步驟來處理申請。如果在基于AI的自動貸款申請中拒絕了某個應用程序，則貸款員應能夠將決策追溯到發生拒絕的特定步驟，更重要的是，在此特定步驟中解釋AI的決定。

因此，企業不僅可以拒絕提供貸款，否則可能會導致不良的客戶體驗并引發合規性問題，而企業可以向消費者明確說明推理的理由，以解釋做出決策的原因。借助可追溯性，如果審核員要求提供文檔，或者客戶提出了疑問，或者出現了另一個潛在問題，則公司可以準確地知道系統在何處以及如何做出決定，而不必因為決定和推理被鎖定而一頭霧水在一個黑盒子里。