當臨床醫(yī)生將AI應用于女性患者時，主要接受男性X射線訓練的AI將表現(xiàn)不佳。如果患者皮膚黝黑并且大多數(shù)訓練圖像來自皮膚白皙的患者，則用于皮膚病學照片診斷皮膚癌的算法將使這項工作陷入困境。等等。這種偏見的例子在醫(yī)療保健AI的裝甲中積蓄了不可忽視的缺點。

當然，即使可行，也很難從各種各樣的患者群體中收集適合AI的培訓數(shù)據(jù)。但是，如果醫(yī)療保健中的AI無法幫助某些最脆弱的患者人群，那么它如何幫助改善美國在人口水平上的健康的事業(yè)呢？

11月17日發(fā)表在《科學美國人》上的一篇觀點文章中，三位斯坦福大學的醫(yī)學博士/博士對該主題提出了最好的想法。

“人工智能的偏見是一個復雜的問題;僅提供各種培訓數(shù)據(jù)并不能保證消除偏見。” Kaushal，Altman和Langlotz寫道。“還提出了其他一些問題，例如，人工智能工具的開發(fā)商和出資者之間缺乏多樣性;從多數(shù)群體的角度看待問題的框架;關于數(shù)據(jù)的隱含偏見假設;以及使用AI工具的輸出來無意或無意地使偏差永久化。”

他們指出，研究人員正在嘗試通過構建可從有限輸入中推斷出廣泛輸出的算法來解決數(shù)據(jù)不一致的問題。

作者寫道：“通過這些創(chuàng)新，可能會出現(xiàn)減少AI對海量數(shù)據(jù)集需求的新方法。”“但是目前，確保用于訓練算法的數(shù)據(jù)的多樣性對于我們理解和緩解AI偏差的能力至關重要。”

為此，他們呼吁建立所需的技術，法規(guī)，經(jīng)濟和隱私基礎架構，以收集不僅大而且足夠多樣化的數(shù)據(jù)，以培訓醫(yī)學AI，使世界各地的所有患者受益。

責任編輯：lq