如果將人們的想象力用在廣泛的臨床應用，那么醫療人工智能還有很長的路要走。

[[276120]]

加拿大多倫多大學的研究人員在7月10日發表在“醫學互聯網研究雜志”上的一篇論文中，指出了人工智能在醫療保健行業應用面臨的主要障礙。

多倫多大學的JamesShaw博士及其同事根據NASSS框架比較了人工智能與其他技術的市場滲透率，NASSS框架將機器學習用例分為自動化和決策支持兩大類。而NASSS是Nonadoption、Abandonment、Challenges to Scale-up、Spread、Sustainability的首字母縮略詞。

建議決策支持應用程序將引導自動化，至少在短期內如此。遵循NASSS框架，他們概述了阻礙主要決策支持人工智能實施的各種問題。為此強調的是：

1.有意義的決策支持

Shaw解釋說，“臨床決策是一個復雜的過程，涉及各種數據源的整合，其中包括隱性和明確的智能模式。”

他補充說，“為了更直觀地通知這個決策過程，人工智能開發人員正在添加數據可視化等通信工具。這些通信工具的性質和價值是實現過程的核心，有助于確定算法輸出是否和如何被納入日常慣例。”

2.可解釋性

醫療保健的人工智能模型如何實現其結果?Shaw及其同事指出，即使對創建它們的計算機科學家來說，答案仍然是未知的。

Shaw說，“缺乏對這些機制和環境的理解，這對機器學習對醫療保健利益相關者的可接受性提出了挑戰。盡管可解釋性問題與決策支持明確相關，但如此處所解釋的那樣使用機器學習案例。”

他補充說，“這一問題可能更加深刻地應用于以自動化為重點的用例，因為它們在醫療保健領域占據重要地位。”

3.隱私和同意

Shaw指出，目前缺乏有關正確使用可穿戴設備數據的立法和指導。同時，許多與健康相關的應用程序在使用過程中產生的數據流中存在著不明確的一致性過程。

除了這兩個明顯的問題之外，當與其他數據集鏈接時，可以重新識別其他的數據。他表示：“這些因素為那些尋求將健康數據用于機器學習應用開發的計劃帶來了重大風險，可能遭遇來自醫療保健提供商的巨大阻力。”

4.算法偏差

Shaw表示，“算法只能和訓練它們的數據一樣好。”

他說，“如果訓練數據部分或不完整的，或只反映給定人口的子集，則生成的模型將僅與數據集中表示的人群相關。這提出了關于數據來源的問題，并代表了一系列與偏差相關的問題，這些偏差內置于用于決策的算法中。”

5.可擴展性和面臨障礙

隨著人工智能應用在醫療保健領域的迅速發展，一些算法輸出不可避免地會混淆、矛盾或以其他方式與他人對抗。

Shaw表示，“這種相互作用的影響無法提前預測，部分原因是相互作用的特定技術尚不清楚，可能在常規護理過程中尚未實施。我們建議實施科學家需要考慮機器學習在醫療保健中的實施和規模的意外后果，為患者、醫療保健提供者、公眾的安全帶來更大的復雜性和更大的風險。”

Shaw和其團隊還圍繞企業角色和醫療保健工作不斷變化的性質指出了一些障礙。

在總結他們的觀察和預測時，Shaw表示機器學習在醫療保健領域的未來是積極但不確定的。他們認為，在很大程度上，接受和采用這項技術取決于所有醫療保健利益相關者、患者、提供者，這與人工智能開發者一樣。

Shaw指出，“機器學習的應用變得更加復雜，對數據可視化等通信策略的投入也在增長，機器學習可能變得更加用戶友好和更有效。如果實施，科學界要以有利于所有人的方式促進機器學習的采用，那么提出的問題將在未來幾年內得到充分關注。”