Babylon Health的首席用戶研究員Anna Zawilska最近在布拉格的Webexpo 2019上展示了通過結合技術和人工智能（AI）提供遠程醫療服務的經驗教訓。巴比倫健康來調整支撐產品開發的三個關鍵假設。

Zawilska在演講中提到了世界衛生組織的一項研究，根據該研究，世界上至少50%的人口無法獲得基本的醫療服務。在這種情況下，將移動設備的普及性與人工智能的診斷能力相結合，有可能擴大醫療保健服務的訪問范圍。巴比倫的工程師，醫生和科學家開發了一個AI系統，該系統可以接收有關某人所患癥狀的數據，將該信息與已知狀況和疾病的數據庫進行比較，以找到可能的匹配項，然后確定行動方案和相關的風險因素。

在巴比倫移動應用程序中，典型的用戶流程將從該應用程序開始，要求用戶（患者）描述他或她正在經歷的癥狀。在第二階段，根據所宣布的癥狀，將詢問其他問題以進一步完善影響患者的可能狀況。在第三階段，將提出建議。

巴比倫團隊做出的第一個假設是，患者對聊天機器人（患者輸入癥狀的信任程度）與對醫生的信任程度一樣高。但是，從實際經驗中得出的主要觀察結果表明，人類醫生與基于機器的技術在用戶行為方面存在重大差異。

患者通常相信醫生是知識淵博且合格的醫生。這種信任沒有轉化為聊天機器人。此外，盡管患者很少會起床并在結束之前不去咨詢醫生，但Chatbot用戶更有可能盡早結束咨詢。最后，雖然患者通常認為應該遵循醫生的建議，但Chatbot用戶傾向于信任Chatbot的建議并遵循給定的處方。

Babylon Health得出結論，不能假定用戶信任，因此，他們需要進行設計以提高信任度。Zawilska提供了一個對用戶界面進行更改的示例：當詢問一個假設的用戶：“您的脖子動起來有問題嗎？”，該應用程序還將提供一個為什么會提出問題的解釋。例如，在這種情況下，應用程序將顯示如下消息：“我之所以問這個，是因為我試圖消除緊張的頭痛。對于您個人而言，頸部問題和頭痛是緊張性頭痛的有力預測指標。”

信任問題在醫療保健行業中特別盛行。Zawilska引用了最近的爭議（涉及Theranos或DNA測序），這削弱了人們對醫療技術最新創新的信任。

第二個假設是，臨床安全性是評估巴比倫預測性AI成功與否的唯一標準。通常會使用大量數據來訓練AI，并使用一些評估標準針對測試集對生成的AI模型進行測試。Zawilska解釋說，使用臨床安全性作為驗證AI模型的唯一標準會帶來更高的風險，從而給用戶體驗帶來不利影響。