DeepMind Health的獨立評估者發布報告，質疑DeepMind的醫療數據壟斷以及其他一系列問題。

DeepMind進軍數字醫療服務領域仍令人擔憂。最新的擔憂來源于谷歌旗下的這家人工智能公司聘請的一組外部審評人就數據共享提出的報告。2016年，由于與英國國民醫療服務體系(NHS)合作共享醫療數據，DeepMind遭遇了一場重大的公眾爭議。

在DeepMind Health Independent Reviewers的2018年報告中，存在著一系列的風險和擔憂，包括DeepMind Health能夠“發揮過度的壟斷力量”。這是由于數據訪問與流式傳輸基礎設施是捆綁在一起提供給Streams應用程序。合同規定，將DeepMind定位為結構化健康數據與任何其他第三方之間的訪問控制中介，這些中介可能在未來有希望向Trust提供自己的數字幫助解決方案。

雖然DeepMind for Streams部署的基礎FHIR（又名快速醫療互操作性資源）使用開放式API，但該公司與Royal Free Trust之間的合同通過DeepMind自己的服務器連接，并禁止連接到其他FHIR服務器。這個商業結構似乎與DeepMind的共同創始人Mustafa Suleyman聲稱支持的開放性和互操作性的言論相悖。

DeepMind共同創始人Mustafa Suleyman

一個評論員寫到：“IT領域有很多例子是公司將客戶鎖定在難以改變或替換的系統中。這樣的安排不符合公眾的利益。我們不希望看到DeepMind Health將自己置于這樣的地位，即醫院等客戶發現自己被迫與DeepMind Health保持聯系。這已經不再是經濟上或臨床上明智的做法。我們希望DeepMind Health能夠在質量和價格上進行競爭，而不是通過鞏固遺留的立場來進行競爭“。

盡管他們指出DeepMind的“對系統互操作性的陳述承諾”以及“他們采用FHIR開放API”是積極的，并寫道：“這意味著其他許多中小企業有可能參與其中，一起創造一個多元化、創新的市場，并造福于消費者、創新性和經濟。”

他們還補充道：“我們還注意到DeepMind Health公司打算將Streams的許多功能作為可輕松交換的模塊來實施，這意味著他們將不得不依靠最好的方式來維持業務。”

然而，陳述的意圖和未來潛力顯然與實際情況不一樣。而且，就目前而言，技術上可互操作的應用交付基礎設施正受到商業合同中禁止性條款的約束，以及缺乏針對此類行為的監管阻力。

質疑無明確的商業模式

評論者還對DeepMind Health無法構建明確的商業模式表示擔憂，他寫道：“鑒于目前的情況，無法對DeepMind Health的商業模式做出明確的解釋，人們很可能會懷疑，其中必定存在一個未透露的利潤動機或是一個隱藏的議程。我們并不相信這是事實，但會敦促DeepMind Health對其商業模式保持透明，并且堅持這一能力不會被Alphabet忽略。一旦隱藏議程的理念在人們的頭腦中成為固有模式，無論公司的動機如何，公共利益都很難轉變。”

他們補充道：“我們已經就DeepMind Health在這一領域發展的愿景進行了詳細的對話，并且知道其中一些問題還沒有最終確定。然而，我們敦促DeepMind Health對他們提出的建議進行公開。“

DeepMind提出它想要建立能夠按結果收費的醫療保健服務。但Streams不涉及任何AI， 這項服務也是可以保證前五年免費地提供給NHS Trusts。這就引發了一個問題，即這家Google旗下的公司打算如何收回投資。

Google當然會將一大批免費的消費產品貨幣化，比如Android手機操作系統，其云電子郵件服務Gmail以及YouTube視頻共享平臺可以收集用戶的個人數據并將該信息提供給其廣告定位平臺。

因此，評論家們建議DeepMind闡述其在商業模式上的想法，以避免人們對醫療數據的懷疑。

該公司的歷史做法也突顯出，如果DeepMind被允許在數字醫療服務領域中占據主導地位，那么它存在潛在壟斷的風險。例如，它的母公司能夠有效地將一個免費的OEM移動操作系統（Android）轉變為全球智能手機的主導。

因此，盡管DeepMind在這個階段只與NHS信托公司簽訂了幾份合同，但審查人員對該公司獲得“過度壟斷權力”的風險的擔憂似乎并沒有被夸大。

他們還擔心，DeepMind一直在含糊地表示，它究竟是如何與母公司Alphabet進行合作的，以及哪些數據可以被轉移到廣告巨頭身上，畢竟將廣告與DeepMind對人們醫療記錄的處理方法相相疊加是一種不可避免卻令人不安的組合。

他們寫道：“DeepMind Health能在多大程度上使自己免受Alphabet的影響，讓他們在未來做一些違背自己現如今承諾的事情？”或者，如果DeepMind的現任管理層離開了DeepMind Health，一個新的CEO又能多大程度上改變今天達成的協議呢？”

“我們贊賞DeepMind Health將繼續受法律和監管框架的約束，我們的大部分注意力都集中在DeepMind Health采取比法律所要求的更高的道德立場之上。這會是一切最終的樣子么？我們鼓勵DeepMind Health以更強硬的方式加強與Alphabet和DeepMind進行分離，從而使其能夠更長久地對自身所作出的承諾負責。“

DeepMind在其網站上發表的報告中寫道：“正在制定我們的長期業務模式和路線圖“。

報告中還寫到“我們的首要任務就是證明我們的技術可以幫助改善患者護理質量并降低成本，而不是為我們工作的早期階段收費。我們相信，我們的業務模式應該來自我們創造的積極影響，并在我們探索的基于結果的一些因素中得以延續，以便成本至少部分與我們提供的收益相關。”

因此，除了部署一些選擇公共廣播節目之外，他們不知道要說些什么來平息評論家們對將健康數據貨幣化意圖的擔憂。

AI在醫療領域的部署問題需要政府明確的決策

在與Alphabet的聯系中，DeepMind也很少說些什么，他們只是寫道：“我們將探索進一步的方法，以確保在所有我們的NHS合作伙伴關系中有明確的法律框架。”

他還補充道：“Trusts始終保持對數據的完全控制，我們在法律上和合同上必須遵照我們合作伙伴的指示來使用患者數據。我們將繼續與Trusts公司簽署法律協議，以便審查這一重要問題。“

“在我們與合作伙伴達成的法律協議中已經寫到，如果他們希望尋求另一個提供商的數據處理服務，我們不會進行阻止。”

“我們希望Streams能夠幫助NHS推動下一波創新浪潮。 支持Streams的基礎架構建立在最先進的開放式互操作標準FHIR之上。現階段英國NHS Digital，英國NHS和INTEROPen集團都支持這一標準。這將使我們的合作伙伴能夠更容易地與其他開發者合作，幫助他們在臨床前線帶來更多的創新。

“根據我們與相關合作伙伴Trusts的合同協議，我們承諾在協議的五年內制定FHIR API基礎設施。”

當被問及在去年公布的在用于驗證健康數據訪問的技術審計基礎架構方面取得的進展時，他們重申了博客上的措辭，稱：“我們將對設定盡可能高的信息治理標準保持警惕。今年年初，我們任命了一名全職信息管理經理來監督我們在所有工作領域使用的數據。我們還在繼續構建我們的可驗證數據審計和其他工具，以清楚地展示我們是如何使用數據的。”

因此，這方面的進展看起來和我們預期的一樣慢。

這家Google旗下的英國AI公司在2015年開始進軍數字醫療服務領域，與總部位于倫敦的NHS Trust公司悄悄簽署了一項信息共享協議，并為其提供了約160萬人的醫療記錄，用于開發一種名為“急性腎臟損傷”的警報APP。

這家AI公司還與該NHS Trust簽署了一份合作備忘錄，雙方在該協議中提出了將人工智能應用于NHS數據集的雄心。他們甚至還為AI項目獲得了道德標志，但卻一直聲稱沒任何的Royal Free數據被送到了任何AI公司。

然而，2016年5月，通過調查性新聞而非Trust或DeepMind披露：Royal Free with DeepMind共享患者數據的范圍出現了問題。

160萬人的非匿名的醫療記錄在沒有被告知或要求得到他們的同意的情況下被共享給了Google的子公司。這一問題被數據共享安排的法律依據提出了質疑。

去年夏天，英國的隱私監管機構對該項目進行了調查，發現Royal Free NHS Trust在應用開發過程中違反了數據保護規則。

盡管人們在基于道德和法規層面對數據共享的合法性存在不滿，但Streams項目仍在蒸蒸日上。Royal Free Trust繼續將這一應用程序供醫院臨床醫生使用，而DeepMind還簽署了幾項額外的合同，將Streams部署到其他NHS Trusts。

最近，作為于ICO結算的一部分，法律事務所Linklaters在Trust的委托下完成了對Royal Free Streams項目的審計。 雖然這次審計僅檢查了Streams的當前功能，而在項目建設和測試階段，并沒有對人員病歷的合法性進行歷史性審核。

Linklaters確實建議Royal Free通過DeepMind終止其更廣泛的合作備忘錄（MOU），而且Trust已向我們證實它將遵循該公司的建議。

Royal Free發言人告訴我們：“審計建議我們終止與DeepMind達成的2016年1月簽署的歷史性合作備忘錄。合作備忘錄不再與合作關系相關，我們正在終止我們的合作關系”。

因此，DeepMind可能成為世界上最著名的人工智能公司，它正處于參與向英國醫院提供數字醫療服務的異常位置，盡管這些醫院也有一些與NHS Trusts進行的AI研究項目，但他們實際上并不涉及任何人工智能。

2016年年中，正值 Royal Free DeepMind數據丑聞的高峰期，為了爭取更多的公眾信任，該公司任命了外部審查小組，他們現在已經編寫了第二份報告來研究該部門的運作情況。

公平地說，自從專家小組被任命為進一步破壞公眾對技術平臺和算法的信任的任務以來，科技產業發生了很大的變化：包括ICO發現Royal Free與DeepMind之間最初的數據共享安排違背了英國的隱私法。

2018報告小組的八個成員是：Martin Bromiley OBE、Elisabeth Buggins CBE、Eileen Burbidge MBE、Richard Horton、Julian Huppert博士、Donal O’Donoghue教授、Matthew Taylor和John Tooke教授。

在他們最新的報告中，外部評論員警告說，公眾對科技巨頭的看法與一年前相比“大幅轉變”，并斷言：“如果數字時代還存在隱私問題的話，那將更值得關注”。

與此同時，政界人士也更關注技術巨頭的成果和社會影響。

盡管英國政府也熱衷于將自己定位為AI的支持者，為該部門提供公共資金，并在其“工業戰略”白皮書中將AI和數據確定為四大所謂的“重大挑戰”之一，書中相信英國可以“在未來幾年中引領世界”，并在重審時專門將DeepMind稱作該國引以為傲的少數領先的本土人工智能業務之一。

盡管如此，關于如何管理公共部門數據，以及人工智能的部署的問題仍然需要政府進行明確解決，特別是在醫療保健等高度敏感的領域。

與此同時，即使技術人員不涉及任何人工智能，數字技術正在進入醫療保健領域并面臨重大挑戰，對現有的信息治理規則和結構施加壓力，并增加了壟斷的風險。

當被問及NHS的數字服務提供商：NHS Digital是否為NHS Trust提供任何指導，包括醫生的數字幫助，特別是它是否需要由不同的提供者提供的多個選項時，它將我們的問題提交給衛生部（DOH），并指出這是衛生政策的問題。

衛生部又把這個問題提交給NHS英格蘭，一個負責合同、并為英國的衛生服務制定優先次序和方向的行政非部門機構。

在寫這篇文章的時候，我們仍然在等待負責人的回應。

看來最終結果將依賴于衛生服務來為AI和數字決策服務建立一個清晰和穩健的架構，通過競爭來滿足Trusts在購買應用程序和服務時支持多個獨立選項的要求。

沒有這種重要的檢測和平衡，正如大型技術主導消費技術一樣，就會存在動態平臺迅速支配和控制新興的數字健康援助空間的風險。

但公費醫療決策和數據集不應簡單地交給單一的市場主導機構，因為他們會將大量的資源聚斂到自己的公司。

當一個重要領域的數字創新存在明確風險，即一個領域有望成型，卻有可能被一個科技巨人壟斷并在其他人有機會展示自己想法之前將自己定義為守門人時，政府絕不應該袖手旁觀。