德勤發布的一份新報告揭示了企業在采用GenAI過程中的復雜現狀，展現了顯著進展與持續挑戰并存的局面，這份題為《企業中的GenAI現狀：現在決定未來》的調查收集了來自14個國家和六個行業的2770名業務和技術領導者的見解。

這項調查是公司季度系列關于企業GenAI現狀的最新一期，該系列的第一份報告于1月發布，發現業務領導者對社會影響和技術人才表示擔憂。

新報告描繪了一幅企業努力利用GenAI潛力的圖景，同時面臨著可擴展性、數據管理、風險緩解和價值衡量等方面的挑戰。報告強調了一個關鍵節點，即早期成功推動了更多投資，但廣泛實施的道路仍然充滿障礙。

報告的主要發現包括：

? 67%的企業由于早期取得的強勁價值而增加了對GenAI的投資

? 68%的企業僅將30%或更少的GenAI實驗投入生產

? 75%的企業增加了對GenAI數據生命周期管理的投資

? 僅有23%的企業認為他們對GenAI相關的風險管理和治理挑戰高度準備

? 41%的企業在定義和衡量GenAI工作的確切影響方面存在困難

? 55%的企業因數據相關問題而避免了某些GenAI的用例

德勤的合伙人Kieran Norton在接受VentureBeat采訪時表示：“我看到很多客戶正在進行原型開發和試點項目，但尚未進入生產階段。很大一部分原因與數據質量及其影響有關，包括模型中引入偏差的風險?！?/p>

風險擔憂如何影響企業AI部署

德勤的這項調查是最近幾周內多項旨在詳細說明企業AI當前使用情況的報告之一。普華永道上周發布的一份報告顯示，盡管企業對GenAI的興趣很高，但在評估AI風險方面仍存在一定差距。

德勤的報告進一步指出，AI風險可能正在影響企業的部署。Norton表示，企業高管們對這些風險非常關注，在他們認為這些問題可以得到解決之前，不愿意推進相關項目。

德勤報告強調了一些關鍵風險，包括數據質量、偏見、安全性、信任、隱私和合規性。這些雖然不是全新的領域，但Norton強調，GenAI存在一些特有的細微差別。Kieran認為，企業可以利用現有的風險管理計劃來應對這些挑戰，然而，他也承認需要加強某些實踐，例如數據質量管理，以減輕GenAI帶來的特定風險。

Norton表示：“有些細微差別需要解決，但歸根結底，這仍然是核心治理問題。數據質量一直是一個關注點，因此你可能需要加強數據質量管理，以減輕風險?！?/p>

其中一個特別的擔憂是GenAI模型可能會出現“幻覺”風險，即生成錯誤或無意義的輸出。Norton解釋說，這一風險確實令人擔憂，并指出這通常與對輸入模型的數據缺乏理解有關。他建議，對于某些用例，企業可以選擇使用更小、更有針對性的語言模型和特定培訓，以減少幻覺風險。

企業如何展示GenAI項目的價值

報告中的一個重要發現是，41%的組織難以有效衡量其GenAI的工作。更糟糕的是，只有16%的企業為其CFO定期提供報告，詳細說明GenAI創造的價值。

Norton解釋說，這種困難源于用例的多樣性，需要一種更細致、針對具體用例的方法。

他說：“如果你在企業的不同部分探索20種不同的用例，你可能會遇到蘋果、橙子、香蕉和菠蘿，所以你無法以相同的方式衡量所有這些?！?/p>

Norton建議，企業應為每個具體用例定義KPI，針對他們試圖解決的業務問題，這可能包括生產力、效率或用戶體驗的改進，具體取決于特定用例。他建議企業識別業務中存在問題的領域，然后嘗試解決這些問題。

他說：“我認為，更重要的是將其分解到用例層面，而不是將其作為一個整體組合來處理?！?/p>