執法部門是否應該使用 AI，美國科技巨頭的答案是“不”。

由美國大型科技公司攜手成立的組織 The Partnership on AI（PAI）剛發布一份報告指出，目前的算法旨在幫助警方確定誰可以獲準保釋、假釋或緩刑，并幫助法官作出判決決定，但這些算法可能存在偏見、不透明，甚至可能無效。

PAI 是由六大科技公司：蘋果、亞馬遜、谷歌（以及 DeepMind）、Facebook、IBM 和微軟在 2016 年成立，旨在支持人工智能技術的研究及分享，確保技術以有益和負責任的方式為公眾服務，目前由曾任白宮科技政策辦公室（OSTP）美國首席技術官的政策顧問 Terah Lyons 所領導。去年 10 月百度正式加入 PAI，成為首位中國會員，目前 PAI 成員超過 80 個機構單位，像是 OpneAI、英特爾、英偉達、香港科技大學也在其中。

圖｜（來源：PAI）

加利福尼亞州 SB10 號法案引發爭議

有越來越多的國家機構對 AI 躍躍欲試，例如警察、國防部門，引起爭議的還有司法機關。

去年 9 月，美國加利福尼亞州通過一項 SB10 號法案，取消了保釋金制度，改為使用風險評估算法工具來替代現金保釋制度，因此強制法院購買和使用統計和機器學習的風險評估工具，進行被告的“審前拘留”決定。

簡單來說，就是根據這些工具做出的結果，來決定被告在候審期間可以被釋放、或是被關押。

PAI 表示，該報告收集了多個學科對于人工智能和機器學習的研究、以及倫理學界的觀點，并發現美國刑事司法系統使用的風險評估算法工具，存在嚴重的缺陷。因此，PAI 建議，“政策制定者要不就拋棄這些評估工具，要不就得制定解決上述問題的標準。”

PAI 指出，風險評估工具是用來預測特定未來結果概率的統計模型，雖然刑事司法的風險評估工具通常比許多現代 AI 系統使用的深層神經網絡更簡單，但仍是人工智能的基本形式，而且是自動化 AI 決策制定可能為社會帶來高風險和道德影響的重要范例。

PAI 研究主管 Peter Eckersley 指出，目前法院用于審前量刑決策的大部分軟件都是基于較舊的數據分析技術，而不是尖端的機器學習，但是，無論是舊的還是新的數據處理技術，都存在潛在的缺陷，可能導致有偏見的結果。

PAI 也指出，要實施“負責任的”刑事司法風險評估工具，必須最少達到 10 項基本要求：有效性、數據抽樣偏差、統計預測偏差、選擇適合的預測目標、人機交互問題、使用者培訓、政策與治理、透明度和審查、可重復性及過程和記錄保存、以及部署后的評估。

參與此報告的 Upturn 高級政策分析師 Logan Koepke 就指出，“據我們所知，美國沒有任何一個司法管轄區能夠滿足這里部署風險評估工具的十項最低要求。”因此，在刑事司法系統進一步使用風險評估工具之前，應權衡并解決這 10 項要求的問題。

該報告也詳述使用這些工具的挑戰大致有以下 3 類：

一、工具本身準確性、偏見和有效性的疑慮：

希望使用這些工具，有一部分原因是認為能減少現有刑事司法系統中的人為錯誤，但本報告表明，把僅僅基于數據的工具視為是客觀或中立的，其實是很嚴重的誤解。

二、工具與人交互的問題：

除了技術問題之外，這些工具必須遵循高標準的可解釋性和可解釋性，以確保用戶包括法官、律師等，能夠理解工具是如何進行預測，并根據這些預測做出合理的決策。

三、治理、透明度和問責制的問題：

如果這些系統適用于做出改變生活的決策，那么，授權和部署這些工具的決策者，也必須符合高標準的透明度和問責制。

美司法機構已廣泛使用算法來預測

不少科學家或行業人士認為，大多數 AI 基于大量數據所訓練，數據樣本在現實的代表性、使用的數據是否本身就存在偏差、數據搜集的過程是否嚴謹等問題，都會影響最終的 AI 表現。

盡管社會大眾對于這些希望用來幫助法律機構做出監禁決策的算法，仍有一些疑慮，比如公平性和有效性等，但 PAI 指出，這種系統工具其實已經在美國廣泛使用，甚至有一些地區的立法機構更開始強制要求使用，如上述的加利福尼亞州。

Bloomberg 報道，在過去算法工具就曾被質疑有問題，最著名的案例是 Equivant 公司的算法——COMPAS。

2016 年，專門進行公眾利益調查性報道的非營利媒體機構 ProPublica 就發現，該算法錯誤標記黑人被告的可能性是白人的 2 倍。雖然 Equivant 對此調查結果提出異議，但后續有學術研究發現，該算法的表現并沒有比未經訓練的人來得好。盡管如此，該算法仍在美國許多地方使用。

即便是最優的算法也會面臨挑戰，將其用于司法實務是尤其應該警惕算法偏見。在缺乏直接答案和完美解決方案的情況下，PAI 報告建議或停止使用，或修改算法，也許是最合適的選擇。