IEEE J-BHI預訓練大模型用于醫療健康領域最新綜述

本文對近期醫療健康領域中的大型人工智能模型進行了全面回顧，涵蓋了大模型的背景和它們在健康信息學各個領域的應用和機遇。文章還著重討論了在醫療健康環境中開發和部署大型人工智能模型所面臨的挑戰，并提供了建立可信大模型的開發建議。

近年來, 人工智能大模型快速發展, 它們的參數量和所用于預訓練的數據量已達到幾百上千億級別。經預訓練后, 這些大模型在各種下游任務中展現出強大的通才和泛化能力。ChatGPT就是一個典型例子, 它所展現出來的能力令人對大模型可以為醫療健康領域所帶來的轉變和機遇充滿憧憬。在深度學習時代, 生物醫學和健康領域的研究者們已經意識到數據的重要性，在過去10年，多模態醫療健康數據規模持續擴大, 這為大模型在健康相關領域中的開發，驗證，和新的突破奠定了基礎。

本文首先回顧了大型人工智能模型的背景。根據預訓練數據的模態類別，文章將大模型歸納為三類：1）大語言模型Large Language Model (LLM)；2）大視覺模型Large Vision Model (LVM)；3）大多模態模型Large Multi-modal Model (LMM)。并總結了大模型的四個主要特征。

圖1 大型人工智能模型的關鍵特征: 1) 參數量規模龐大，例如對于大語言模型 (LLM)，它們的參數量通常可達幾百上千億甚至更多) ; 2) 訓練數據規模龐大，例如對于大視覺模型 (LVM)，它們使用的訓練數據量可能包含數十億的圖像 ; 3) 能夠處理多模態信息; 4) 可以適應到不同下游任務，在各任務中展現優異泛化能力，比如在zero-shot, one-shot, few-shot任務中。

文章隨后梳理討論了大模型可能帶去重大影響的7個醫療健康細分領域, 包括1) 生物信息學; 2) 醫療診斷; 3) 醫學成像和視覺; 4) 醫療信息學; 5) 醫學教育; 6) 公共衛生 和7) 醫療機器人。同時整理了上述7個領域內典型的大模型和以往專才模型在模型大小和特定任務上的性能比較。

圖2 大模型和以往專才模型在參數量和在不同任務上的性能比較。

文章也詳細列出了生物醫學和健康信息學中的大規模數據集，總結了現有主流數據集的規模，模態，對應任務和是否開源等關鍵信息。

圖3. 生物醫學和健康信息學中的大規模數據集

從目前來看，雖然大型人工智能模型呈現出了非常可觀的應用前景，它們的發展和在生物醫學，臨床，醫療等領域的運用還存在著諸多挑戰和潛在風險。文章也從數據，算法，可信度，隱私性，公平性，透明度，可解釋性，可持續性，規范等方面展開了討論。

圖4. 人工智能大模型在健康信息學中的未來發展方向

對于大模型在醫療健康領域中的未來方向，文章的討論主要集中在性能和責任兩方面。從性能方面來看，文章建議，第一應該為健康信息學發展更好性能的人工智能大模型，比如，可以擴大模型和數據集的規模，進行多模態，多任務的預訓練；第二，可以挖掘已有大型人工智能模型的潛力，比如通過prompt engineering, fine-tuning, linear probing等， 來進一步探索它們尚未被人們知悉的能力，這些能力如果已經被大模型掌握，僅僅是人們暫時未知，那挖掘它們可以為健康領域提供一種幾乎cost-free的解決方案。

除此之外，負責任的人工智能大模型對社會至關重要。文章提出開發和部署互補策略，以應對大模型在可靠性、公平性、透明度等方面的挑戰。開發策略側重于學習負責任的大模型，而部署策略則強調負責任地使用大模型。

最后文章指出, 人工智能社區正在發生范式轉變, 這種范式也正逐步影響生物醫學和健康領域中人工智能模型的發展。新范式的目標是在大規模的（多模態）數據集上學習一個通用的基礎模型, 涵蓋各種數據分布和學習任務。不同任務之間乃至不同數據模態之間的界限正在被打破。隨著通用智能和更多未知能力被挖掘和實現, 相信大型人工智能模型將在未來更好協助而不是取代醫療專業人員和從業者。人機協作將無處不在。大型人工智能模型的發展將需要各領域專家之間更緊密的合作, 以及逐步建立和完善相應的大模型監管機制。

編輯：黃飛