上個月，《哈佛商業(yè)評論》發(fā)表了一篇名為Want Less-Biased Decisions? Use Algorithms的文章，作者為Alex P. Miller。文中表示，雖然目前AI算法存在偏見，但是技術的進步如果有助于提高系統(tǒng)性能，這也是很重要的。即使有了偏見，也比人類的偏見小得多。

針對這篇文章，fast.ai的創(chuàng)始人之一Rachel Thomas有不同的看法。她認為算法偏見的影響實際上深遠得多，我們關注的重點應該是如何解決這一問題。以下是論智對原文的編譯：

最近，《哈佛商業(yè)評論》刊登了一篇文章，講的是人類總是作出有偏見的決定（這確實沒錯），但文章忽視了許多相關問題，包括：

算法的實現(xiàn)通常沒有適當?shù)姆椒ǎㄒ驗楹芏嗳苏`解算法是客觀、精準并且不會犯錯的）

在很多情況下，算法的使用比人類決策規(guī)模大得多，所以也會產(chǎn)生和人類相同的偏見（通常是由于算法使用成本低）

算法的使用者也許不了解概率或置信區(qū)間（即使這些都已經(jīng)標明了），而且如果讓他們重寫算法也會很困難

與其關注微不足道的選擇，更重要的是思考怎樣才能創(chuàng)造偏見更少的決策工具。

在《哈佛商業(yè)評論》的文章中，作者Miller認為，“算法革命”的批評者們擔心“算法在運用時會不透明、帶有偏見，成為無法解釋的工具”，但是在文章中，他只針對“偏見”展開解釋，對“不透明”和“無法解釋”的特征沒有解釋。

人機結合才能真正進步

媒體總是通過人類和機器的對比來顯示AI的進步，我們總是看到這樣的標題：“在XX比賽中，機器戰(zhàn)勝了人類”。如果考慮到大多數(shù)算法的使用方法，這種對比也是不準確的，這樣評價AI也是非常狹隘的。在所有案例中，算法都有人類因素存在，尤其是數(shù)據(jù)的收集、決策的制定、實現(xiàn)方式、對結果的解讀以及不同參與者的不同理解等方面，都會受人類的影響。

很多致力于研究醫(yī)學領域AI產(chǎn)品的人并不打算用AI替代人類，他們只是在創(chuàng)造能夠幫助醫(yī)生做出更精確更高效的決策，從而提高醫(yī)療質量。能做到最佳水平的不是人類也不是電腦，而是二者的結合。

Miller在他的文章中指出，人類帶有非常多的偏見，然后對比了目前的幾種方法，來比較哪種更加糟糕。但是文章并未提出有什么方法可以讓偏見更少，從而做出決策呢（也許用人類和算法的結合）？總之這才是更值得考慮的、重要的問題。

算法的使用通常和人類決策方式不同

算法在實際中運用范圍很廣，也因此會出現(xiàn)很多相同的偏見，甚至被認為是正確或客觀的結果。Miller在文章中分享的研究將它們進行比較時，并沒有發(fā)現(xiàn)實際使用中的區(qū)別。

Cathy O’Neil在Weapons of Math Destruction一書中寫道，她所批評的那類算法對窮人更不友好。

這些算法專注于處理大型任務，并且使用成本低，這也是吸引人的部分原因。相反，富裕的人通常會選擇個人定制的輸入。大型公司或者貴族預科學校通常更傾向于內(nèi)部推薦或者面對面的面試。有特權的人通常會由人來選拔，而普通人才靠機器選拔。

O’Neil書中的一個例子是有一位患有雙向情感障礙的大學生想在暑假時在便利店打工。他應聘的每家店都用相同的心理測量軟件來對面試者打分，所以每家店都拒絕了他。這表明了算法的另一個危險之處，雖然人類通常會有相似的偏見，但并不是每個人都會做出同樣的決定。雖然他有精神障礙，但這位大學生也許最終會找到一個愿意雇用他的店。

很多人更愿意相信算法做出的決策，而不愿意相信人類的決定。而設計算法的研究者們可能對概率和置信區(qū)間有更好的了解，而一般人不會注意到這一點。

算法需要被解釋

很多關于算法偏見的案例都沒有有意義的解釋或者有意義的處理過程。這看起來似乎是算法決策過程中的特殊趨勢，也許是因為人們錯誤地認為算法就是客觀的，所以沒有必要進行客觀分析。同時，如上面所解釋的，算法決策系統(tǒng)通常是為了削減成本，重復檢查就會增加成本。

Cathy O’Neil還寫道一位老師非常受學生和家長的愛戴，但是莫名其妙就被算法開除了。她永遠不會知道為什么會有這樣的結果。如果我們能重新對算法進行檢查或者了解其中的因素，就不會令人如此費解。

The Verge曾調(diào)查美國超過一半的州所使用的軟件，統(tǒng)計人們接收到的醫(yī)療健康服務。當這種軟件在阿肯色州使用后，很多有嚴重殘疾的人們發(fā)現(xiàn)他們的醫(yī)療補助突然被大幅減少。例如，一位腦癱患者Tammy Dobbs原本需要每天有人幫助她下床、去衛(wèi)生間、吃飯等等，突然算法將醫(yī)療救助時間減少到了每周20個小時。她無法解釋為什么會這樣。最終，法院調(diào)查后發(fā)現(xiàn)是軟件的算法出現(xiàn)了錯誤，影響了患有糖尿病或腦癱的患者。然而，像Dobbs這樣的很多人還是會擔心某一天他們的醫(yī)療補助是否會再次被削減。

算法的創(chuàng)建者被問到能否有交流決策的方法，他說：“也許這是我們的責任。”但之后又稱，這可能是其他人的原因。我們不能認為自己造出來的成果是別人的責任。

另一個在科羅拉多州使用的系統(tǒng)發(fā)現(xiàn)了系統(tǒng)中有超過900個錯誤規(guī)則，結果導致了很多問題，例如將懷孕的女性不算入需要醫(yī)療補助的計劃之內(nèi)。律師們很難發(fā)現(xiàn)算法中的錯誤，因為這些內(nèi)部工作機制就像商業(yè)秘密一樣受保護。所以，重要的是要創(chuàng)建一個能輕松發(fā)現(xiàn)錯誤的機制。

復雜的真實系統(tǒng)

當我們談到AI，就需要想想現(xiàn)實世界中復雜的系統(tǒng)。《哈佛商業(yè)評論》中所提到的研究將決策看成孤立的行為，并沒有考慮所處的環(huán)境。判斷一個人是否會坦白其他罪行，這種決定并不是單獨做出的，它還要結合復雜的法律系統(tǒng)。我們有必要了解研究領域所處的真實環(huán)境是如何運作的，同時不要忽略了可能受到影響的人們。

美國法庭中所用到的COMPAS算法是用在預審前保釋、判刑和假釋中的決策系統(tǒng)。ProPublica調(diào)查后發(fā)現(xiàn)，白人被告者的結果誤報率是24%，而黑人被告的誤報率高達45%（即被告被系統(tǒng)認定為“高風險”但結果卻并未再次入獄）。之后的研究發(fā)現(xiàn)，COMPAS還不如一個簡單的線性方程精確。

通過這些案例可以看出，算法也許會加劇潛在的社會問題。所以我們有責任了解系統(tǒng)以及它們可能帶來的問題。

反偏見不等于反算法

大多數(shù)對算法偏見持反對意見的人，都會反對不公平的偏見，但他們不是討厭算法的人。Miller表示，這些批評者“很少會問這些系統(tǒng)在沒有算法的情況下運行得怎樣”，這表明那些反對偏見算法的人可能并不知道人類有多少偏見，或者可能只是不喜歡算法。在我開始撰寫有關機器學習偏見的文章之前，我花了大量時間研究和撰寫有關人類的偏見。

當我發(fā)布或分享有關偏見的算法時，總有人認為我是反算法或者反科技的。而且我不是唯一受到質疑的人。所以我希望有關偏見算法的討論重點不要僅僅局限于這種微不足道的地方，我們需要深入解決這個問題。