盡管AI帶來了許多機遇，但也存在顯著且合理的擔憂，例如輸出準確性、透明度、整合、數據隱私、倫理、公平性和法規合規性等問題。

應對當今威脅景觀的機器規模

“AI在醫療保健中的整合不僅是進化，而是一場革命，承諾顯著提升患者護理、運營效率和醫學研究。”密歇根大學弗林特分校創新與技術學院網絡安全臨床教授Timothy Bates告訴記者。

但他強調，“實現這一潛力需要解決重大挑戰。”

AI貫穿于醫療工作流程

 首先，AI可以接管費時的重復性任務，例如總結預約記錄（已被證明其比人類做得更好），這項技術還可以簡化行政流程，如排班、計費和患者管理。此外，AI驅動的預測分析可以幫助資源分配。

“盡管對GenAI存在合理的擔憂，五年后，醫療服務提供者會想知道他們以前是如何在沒有它的情況下運作的，尤其是在轉錄臨床筆記和決策支持方面。”藥物管理公司DrFirst的首席醫療官Colin Banas博士說。

更進一步，AI可以改善診斷，因為它可以快速準確地分析大量數據，Bates表示。例如，AI算法可以分析醫學圖像，以比傳統方法更早更準確地檢測出癌癥、心臟病或神經系統疾病。

Aidoc就是一個例子，它通過高精度檢測醫學影像中的異常來幫助變革放射學。

“AI具有可以比醫生現在所能做到的更早地在影像中檢測出癌癥的算法，提供更早、更不具侵入性的治療和更高的生存機會。”SEO公司Rank Secure的CEO Baruch Labunski說。

AI還可以通過分析遺傳學、生活方式、藥物、病情和過去的手術等數據來支持更個性化的醫療，Bates指出，而且，模型可以遠程監控跟蹤生命體征和健康指標的可穿戴設備，這對管理慢性病和在服務不足地區提供護理特別有益。

同樣，預測分析可以幫助預見患者惡化、敗血癥和其他關鍵病情，從而允許及時干預。例如，醫院正在使用AI預測患者再入院風險，并相應地量身定制出院后的護理計劃，Bates指出。

從基礎設施的角度來看，預測分析還可以優化復雜醫院環境的運營，Hitachi Vantara全球數字創新營銷與戰略高級總監Bjorn Andersson表示。模型可以分析傳感器的實時輸入，甚至外部天氣預報數據，以幫助機構在即將到來的熱浪或其他天氣相關事件中預先部署資源。

“隨著天氣事件變得越來越不可預測和嚴重，物理和網絡的結合變得越來越重要。”Andersson說。

支持藥物發現和臨床試驗

專家指出，AI在研究實驗室中，特別是在藥物發現和開發方面具有巨大潛力。

例如，美國國立衛生研究院（NIH）國家癌癥研究所的研究人員構建了一種機器學習（ML）模型，可以更準確地預測免疫檢查點抑制劑（治療癌癥的藥物）的效果，另一個例子是Google的DeepMind，它在蛋白質折疊預測方面取得了突破，以幫助藥物發現。

“在醫療保健中使用AI的最佳方面之一是分析擬議的藥物治療、副作用及其可能的相互作用。”Labunski說。

同時，在臨床試驗中，GenAI可以通過比較問卷數據和試驗要求來預篩選患者，從而增加合格參與者的數量，患者招募平臺Clinical Trial Media的CEO Cara Brant說。

“這有助于降低成本和時間，這兩者都會影響潛在改變生活的藥物快速上市。”她說。

圍繞數據隱私、整合和透明度的擔憂

另一方面，AI在醫療保健環境中的使用中最關鍵的兩個問題是數據隱私和安全性。

Bates指出，醫療數據具有“高度敏感性”，這需要在使用AI時采取“強有力的數據保護措施”，“確保患者機密性并防止數據泄露至關重要。”他說。

法規合規是另一個重要問題，醫療機構必須在數據可訪問性與HIPAA等嚴格的隱私法規之間找到平衡。“確保符合現有法規，同時適應新法規，這對醫療提供者和技術開發者來說都是一項艱巨的任務。”Bates說。

此外，醫療機構可能難以將AI與現有的傳統系統整合，這可能導致互操作性問題，這反過來需要在升級和員工培訓方面進行投資。關于員工（包括患者），也可能對AI的可靠性和有效性持懷疑態度，Bates指出。

“AI不會分享其得出結論的過程，缺乏透明度可能會在治療和提供護理時帶來問題。”Labunski說。

Muddu Sudhakar，企業搜索公司Aisera的聯合創始人兼CEO，同意“模型可能是復雜的黑箱，透明度很低。”此外，“AI并不完美，它也會犯錯誤。”

因此，Bates指出，未來的重要任務是通過透明的過程、嚴格的測試和展示實際的好處來建立信任。

確保人類繼續幫助人類

隨著行業越來越多地采用AI和自動化，人們“顯著擔憂”會轉向減少人與人之間的互動。

“醫療保健是高度個性化和親密的，這是AI最大的限制之一。”她說。

患者希望與他們信任的提供者合作，而普通人可能并不完全理解他們的診斷或治療計劃意味著什么。他們必須與另一個人合作，才能理解所有不同的細微差別。“醫療行業面臨的挑戰是如何在利用AI優化流程和保留某些僅由人類提供護理的領域之間找到平衡。”她說。

至少在目前，AI是一個可以在掃描和測試結果上“獲得第二意見”的提供者，The Relayer Group的執行董事HP Newquist同意這一觀點。AI可以分析每個患者的“數據倉庫”，并與最新的醫學論文和最先進的實踐進行比對，數據然后可以快速總結并提供給醫生，以及相應的建議。

“關鍵字是‘建議’——AI還遠未達到無需人工監督就能做出決定的地步。”Newquist說。

他指出，沒有一個醫生能跟上其選擇領域中新的信息流，然而，一個每日接收同行評審期刊報告的LLM可以迅速推薦關于特定疾病、手術和患者護理的最新觀點。

“對于更多的臨床任務來說，‘增強智能’是醫療保健的最佳選擇。”Banas同意。